А, сабака, сам остю сам смеюсь... Яндекс игнорирует секцию User-agent: * если есть User-agent: Yandex !
Пять лет кормил Яндекс дублями.
Disallow: */?dispatch= вот так правильнее. А точно игнорирует? Вроде не должен же. Может тестер не работает как надо в вебмастере? Напишите к ним в саппорт вопрос, меня тоже заинтересовало ...
Для сведения "Яндекс написал "Мы отказываемся от директивы Host. Теперь эту директиву можно удалять из robots.txt, но важно, чтобы на всех не главных зеркалах вашего сайта теперь стоял 301-й постраничный редирект.""
Ну вообще то это взаимосвязанные вещи, бот не ходит по этим папкам и не видит файлы стилей, соответственно не видит разметки и остальных вещей. Ну и как минимум посмотрите на скрин, вебмастер выдает это ошибкой, а на практике (что уже мной проверено) схватите нехилый такой фильтр и понизитесь в ранжирование. Блокировать такие урлы нельзя
Подскажите пожалуйста этот пример актуален для версии 4.7.3? http://lockki.ru/articles/cs-cart/ (не реклама, ищу пример robots.txt)
Может еще что нужно добавить?
Вы откройте на сайте CS-Cart страницу с примерами магазинов, посмотрите их версии (site.com/?version) и смотрите их роботс (site.com/robots.txt) и будет у Вас масса примеров для анализа.
Я б бы не приводил этот пример, кое где он пустой, вроде только у пудры что-то внятное Лучше смотреть на cmsmagazine и взяв несколько примеров с большим количеством строк отдать это на анализ сеошникам