Без опыта никак не настроить сервак. Нет какой-то уникальной одной инструкции.
На форуме можно найти много советов по настройке, здесь целая отдельная тема: Общие Вопросы По Настройке Серверов.
На англоязычном форуме тоже куча тем.
Установите nginx + php-fmp, redis, apcu, imagick, настройте конфигурацию mysql и уберите тысячи динамических блоков на страницах, сможете добиться ttfb в 200-300 мс и быструю загрузку на кэшированных страницах.
Если хочется “как у ламоды”, то varnish с допилами CS Cart сделает дело (за $899 с настройкой от simtech dev).
Либо перенести сайт на уже настроенный облачный сервер от Захид.