Подскажите пожалуйста, правильно ли составлен файл http://firstconsul.ru/robots.txt , сайт на Вордпресс, если есть какие-нибудь недостатки посоветуйте пожалуйста, что стоит добавить.
После коррекции файла, прогоните несколько разных нужных вам урлов в кабинетах ВМ Гугла и Яндекса, чтобы проверить, что важные страницы не закрыты для индексации. Также список дополните теми страницами, которые индексироваться не должны, чтобы проверить, правильно ли работает запрет.
У вас включено ЧПУ, надо добавить вариант с вопросительным знаком, плюс добавить несколько правил. Также "сайтмап" надо отделить пустой строкой, т.к. иначе он у вас "для всех кроме яндекса". Ниже более правильный вариант.
* закрывает любую последовательность, в т.ч. и пустую.
p.s. Но надо еще раз правила перечитать
User-agent: Yandex
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-comments
Disallow: /wp-content/cache
Disallow: /wp-content/plugins
Disallow: /wp-content/themes
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: */trackback
Disallow: */feed
Disallow: /cgi-bin
Disallow: *?s=
Disallow: /*?replytocom
Disallow: /?p=*
Disallow: /*?replytocom
Disallow: /tag/
Disallow: /page/
Disallow: /201*/
Disallow: /author
Disallow: /wp-json/
Host: firstconsul.ru
User-agent: *
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-comments
Disallow: /wp-content/cache
Disallow: /wp-content/plugins
Disallow: /wp-content/themes
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: */trackback
Disallow: */feed
Disallow: /cgi-bin
Disallow: *?s=
Disallow: /*?replytocom
Disallow: /?p=*
Disallow: /*?replytocom
Disallow: /tag/
Disallow: /page/
Disallow: /201*/
Disallow: /author
Disallow: /wp-json/
Sitemap: http://firstconsul.ru/sitemap.xml
Запрет индексации архивов записей с 2010 по 2019 год.
2. WP - хорошо изученная CMS, и для нее есть более-менее стандартный роботс. Изобретать ничего не нужно.