Нужно ли в файле robots.txt указывать главное зеркало сайта? На данный момент и в яндекс и в гугл выбрана опция на усмотрение робота, и главным зеркалом считается http а с www стоит редирект 301 на http.
О чем вы??? Есть понятие site.ru или www.site.ru это и указывается в роботс, в гугл ВМ и яндекс ВМ. HTTP и HTTPS это протоколы и это совсем отдельная тема.
Спасибо что поправили. Не правильно описал вопрос. в роботс не указано главное зеркало, а гугл и яндекс главным считает site.ru а с www.site.ru редирект 301 на site.ru
затем что еще есть www и может быть https
Вы же указываете главным одно из зеркал. А по факту у вас их два:
www - неглавное и http - главное. Вот его и надо указать.
host: http://site.ru
Вы же указываете главным одно из зеркал. А по факту у вас их два:
www - неглавное и http - главное. Вот его и надо указать.