Нужно спарсить большую базу объектов у партнера
В соответствии с договоренностью с новым партнером по APi, после успешной синхронизации, на наш сайт необходимо перенести его базу, состоящую из 800 000 объявлений, в настоящее время в индексе нашего сайта всего 1000 страниц, возраст сайта 1 год.
С какой скоростью лучше парсить объявления, чтобы не получить пессимизацию от поисковых систем?
Гуглу и яндексу насрать сколько страниц вы занесли единовременно, но занесение большого количества товаров может жестко повесить ваш сайт и сервер, ну и скорость индексирования сайта будет тоже зависеть от ограничений по трафику и процессору.
Подумайте про две вещи:
1. Выдержит ли сервер (если сайт нормальный, то проблем не будет, если сайт "WP без напильника" то 800 00 его положит)
2. Вы схватите бан за парсинг контента, копипасту иначе говоря, ну и всё собственно (: