Ответ
Misha v.3 21.06.2007 12:29
добавил в robots.txt
но считаю, что ваша претензия не по адресу.
с моей точки зрения в yandex могли бы давно добавить в exclude default пути трех-четырех скриптов статистики сайтов (webalizer, analog, awstats, weblog, возможно ещё нескольких, думаю им виднее)
более того, интерпретировать полмегабайтную страницу как релевантную для приводимых вами запросов по моему глупо.
и последнее: сайты делаются в первую очередь для людей, а не для роботов. заморачиваться на дополнительные телодвижения, чтобы облегчать жизнь последним -- не лучшее вложение времени. пусть разработчики поисковиков делают их умнее (кстати, попробуйте ваши строки поиска скормить google-у)
P.S. очевидно, что посетители, приходящие на сайт по подобным запросам, не представляют для нас ни малейшего интереса. не думаю, что Василий Пупкин, намылившийся подрочить на порнуху, найдя parser.ru всё бросит и начнёт делать предлагаемые в документации уроки, хотя... судя по вопросам некоторых вновьприбывших... %-)