Присоединяйтесь к сообществу профессиональных веб-мастеров PR-CY, отвечайте на вопросы коллег и задавайте свои.
пишет, что проиндексировано несмотря на запрет в robots. на самом деле в роботсе есть правило:
Disallow: */feed*
но гугл как обычно игнорит роботс, в итоге такая картина как в скрине
вопрос: стоит ли волноваться? смотрел другие более успешные сайты, где ни метатега X-Robots-Tag в страницах с /feed, ни самого запрета в роботс. так вопрос еще один: как поступить то?
Поможем улучшить ваш сайт.
Либо отключите feeds вообще.
жалко не жалко какая разница, это бесполезный контент для людей. и я не хочу чтобы этот мусор лежал в поиске
ДАК УБЕРИ СТАТЬИ ИЗ ИНДЕКСА!!!
в целом врубился, теоретически все понял. но вот на практике непонятно как
<meta name="robots" content="noindex" />
для страниц с фрагментами /feed
может пробовать закрыть в файле .htaccess при помощи заголовка X-Robots-Tag тоже с noindex?
в решении проблемы использую сейчас директиву в .htaccess, в форуме гугла именно ее рекомендуют, если не получается прописать для страниц с feed метатеги.
https://www.google.com/webmast...