Здесь вопрос скорее к тем кто по вордпрессу.
Посмотрите пожалуйста мой robots, что то здесь не так
Смотрю в Яндех вебмастер и читаю:
Загружено роботом 60
Исключено роботом 58
Ниже сам robots (крестики вместо ссылок изменила для этого сообщения)
User-agent: *
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /cgi-bin/
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: */*/trackback
Disallow: /tag/
Disallow: /page/
Disallow: /archive/
Disallow: /feed/
Disallow: */*/feed/*/
Disallow: */feed
Disallow: /*?*
Disallow: /?s=
Disallow: /2013/
Disallow: /files/
Disallow: /image/
User-agent: Yandex
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /cgi-bin/
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: */*/trackback
Disallow: /tag/
Disallow: /page/
Disallow: /archive/
Disallow: /feed/
Disallow: */*/feed/*/
Disallow: */feed
Disallow: /*?*
Disallow: /?s=
Disallow: /image/
Host: xxxxxxx
Sitemap:
http://xxx/sitemap.xml.gzSitemap:
http://xxx/sitemap.xml
21-40
User-agent: Yandex
Disallow: /wp-login.php
...
Host: mi site
42-43
Sitemap: http://mi site/sitemap.xml.gz
Sitemap: http://mi site/sitemap.xml
можно эту строку вообще исключить. Представленный мой выше роботс совершенно не мешает успешной индексации страниц (2500 в индексе Яши). Там кто-то утверждает, что не так звездочки, что не так написано - все правильно у меня написано, просто тут код сливается.
Правильный роботс для WP:
User-agent: Yandex
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /wp-trackback
Disallow: /wp-feed
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: */trackback
Disallow: */feed
Disallow: /xmlrpc.php
Disallow: /?paged=*
Disallow: /*&cpage=1
Disallow: /?tag=*
Disallow: /?cat=*
Disallow: /?s=*
Disallow: /?feed=
Host: site.ru
User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /wp-trackback
Disallow: /wp-feed
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: */trackback
Disallow: */feed
Disallow: /xmlrpc.php
Disallow: /?paged=*
Disallow: /*&cpage=1
Disallow: /?cat=*
Disallow: /?s=*
Disallow: /?feed=
Sitemap: http://site.ru/sitemap.xml
Нужно конкретизировать.
Здесь кроме моего уже есть другой.
Если ЧПУ не включено, нужно исключить в двух местах вашего роботса эти строчки:
Disallow: /*?*
У вас ссылки на страницы, скорее всего, вида ?p=255 или что-то типа того?
Вроде бы роботс правильный. Подробнее: это надо смотреть.
Ещё это зависит от перелинковки самого сайта.
Я смотрю что наверное я удалю этот robots ко всем!!!!
Я бы не рекомендовал бы удалять. При помощи роботса Вы удаляете дубли. Дубли исключать нужно: иначе поисковики плохо к ним относятся. А их много: всего там три дубля (page, archive, и category). Дубль можно оставлять только один: это в категориях (рубриках).
Чтобы точнее сказать: мне нужно видеть сайт.
Вы учитесь методом тыка. И изучайте роботс. Это полезно. В интернете есть его описание.
Disallow: /*?*
Нужно делать так, чтобы все работало, "как часы", а не опускать руки, потому что ничего не выходит. Причину неиндексации я вам объяснил - потому что не включено ЧПУ. Это не смертельно, но привело к такому результату.
http://webmaster.yandex.ru/robots.xml?#results_table
User-agent: *
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /cgi-bin/
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: /tag/
Disallow: /page/
Disallow: /archive/
Disallow: /feed/
Disallow: */feed
Disallow: /?s=
Disallow: /2013/
User-agent: Yandex
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /cgi-bin/
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: /tag/
Disallow: /page/
Disallow: /archive/
Disallow: /feed/
Disallow: */feed
Disallow: /?s=
Disallow: /2013/
Host: xxxxxxx
Sitemap: http://xxx/sitemap.xml.gz
Sitemap: http://xxx/sitemap.xml
Строка
20-41
User-agent: Yandex
Disallow: /wp-login.php
...
Sitemap: http://mi site/sitemap.xml
Повидимуму что то не нравится