Новые правила обработки Allow и Disallow в robots.txt

Все что относится к интернету.
Ответить
Аватара пользователя
Николай76
Эксперт
Сообщения: 1120
Зарегистрирован: 05 апр 2010, 17:20
Откуда: Россия

Новые правила обработки Allow и Disallow в robots.txt

Сообщение Николай76 »

Новые правила обработки Allow и Disallow в robots.txt

07.03.2012 г. в Яндекс.Вебмастер пришло сообщение такого содержания:

Код: Выделить всё

Добрый день!

Уведомляем вас об изменениях в обработке директивы 'Allow' файла robots.txt, с помощью которого вы можете разрешить или запретить индексирование сайта поисковым роботом Яндекса.

По новым правилам, если страница сайта попадает под действие нескольких директив 'Allow' и/или 'Disallow', то будет применяться директива с наибольшей длиной префикса URL. При определении длины префикса спецсимвол '*' не учитывается.

Если на вашем сайте в robots.txt совместно используются директивы 'Allow' и 'Disallow', пожалуйста, проверьте их на соответствие новым стандартам. В этом вам поможет наша форма проверки robots.txt.

Подробнее об использовании директив вы можете прочитать в Помощи.

--
С уважением,
Яндекс.Вебмастер
Вот и думаю на тему соответствия наших robots.txt новым стандартам... :)

Кто желает прокомментировать заявление Яндекс?
pravila.png
pravila.png (44.42 КБ) 2331 просмотр
Форум E-ProfiCom точка ru - Электронная коммерция, инфобизнес, сайтостроение
Аватара пользователя
Administrator
Администратор
Сообщения: 9600
Зарегистрирован: 10 ноя 2009, 08:58
Откуда: Россия
Контактная информация:

Новые правила обработки Allow и Disallow в robots.txt

Сообщение Administrator »

Думаю эти правила могут сказаться на некоторых движках, в которых адреса страниц очень сложные. Когда я делаю файл robots, стараюсь задавать правила так чтобы каждый вид адреса подпадал под действие только одной директивы. А вообще правило довольно логичное: открываем для скачивания весь сайт и закрываем некоторые страницы от индексации. Отдельные страницы обычно имеют более длинный адрес или префикс.
Ответить

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 1 гость