Пандемия показала, насколько мы связаны с искусственным интеллектом. ИИ обучается, анализируя поведение пользователей. Случается что-то необычное и внезапное, как сейчас пандемия, и это рушит работу алгоритмов многих систем — того же поиска, анализа контента в соцсетях или ленты рекомендаций в магазинах.
Как пользователи ломают модели искусственного интеллекта
В устойчивом топе запросов и покупок на Amazon обычно были чехлы для телефонов, зарядные устройства и конструкторы Lego. Но потребовалось меньше недели, чтобы топ кардинально поменялся. В середине апреля в топе оказались маски для лица, туалетная бумага, дезинфицирующие средства для рук и бумажные полотенца.
Лондонская консалтинговая компания Nozzle, специализирующаяся на алгоритмической рекламе для продавцов Amazon, зафиксировала быстрые изменения спроса на эти товары по разным странам:
Мы начали покупать вещи, которые раньше не покупали, активно искать то, что раньше было не интересно. Поведение пользователей внезапно поменялось, это затронуло и алгоритмы искусственного интеллекта, которые применяются для товарообеспечения, обнаружения мошенничества, в маркетинговых целях и для прогнозирования.
К примеру, большинство продавцов Amazon используют склады Amazon для хранения своих товаров и доставки до покупателей. Это выгодно Amazon, так что он продвигает таких продавцов в товарной выдаче на сайте. В последнее время ему пришлось менять алгоритм, чтобы облегчить нагрузку своих складов, так что теперь он продвигает продавцов, которые используют свои склады и доставку.
Модели машинного обучения анализируют нормальное поведение потребителей. Когда вводные данные сильно меняются относительно того, что они привыкли обрабатывать и на чем обучены, некоторые модели перестают работать, как должны.
По словам представителя консалтинговой компании по искусственному интеллекту Pactera Edge, автоматизацию на основе ИИ сейчас применять практически невозможно. Другие компании говорят, что автоматизированные системы работают, но с ручной коррекцией.
Это касается не только Amazon, но и другие компании, которые используют ИИ. Стриминговые сервисы не смогли спрогнозировать такой скачок спроса на контент. Компании, которые применяют ИИ для составления персонализированных рекомендаций, теперь предлагают менее полезные подборки, потому что система столкнулась с неожиданными изменениями и дала сбой.
Опыт Facebook показывает, что ИИ не может обучаться в новых условиях самостоятельно. Компания использует искусственный интеллект, чтобы определять фейковые посты и спам, а во время пандемии с помощью алгоритма распознает и исключает фейки про COVID-19 из новостных лент, а также рекламные посты, играющие на панике вокруг пандемии. Пока ИИ не может самостоятельно принимать решения и опирается только на данные 60 партнерских компаний по проверке фактов. Когда человек отмечает контент как фейковый, система ищет похожие заголовки, изображения и текст, и добавляет предупреждающие надписи. Алгоритм пока не в силах определять фейки самостоятельно.
Алгоритмы поиска тоже в тупике: что делать оптимизаторам?
Поисковые системы обучают алгоритм ранжирования с применением ИИ и людей-асессоров. ИИ тоже основывается на поведении пользователей в поисковике и на сайтах, которое сейчас меняется. Выдачу штормит по большей части из-за этого, в этом уверены зарубежные независимые эксперты.
Что остается делать оптимизаторам, которые поддерживают сайты:
- ждать, когда выдачу перестанет штормить, а пока не предпринимать кардинальных перемен стратегии продвижения;
- анализировать изменения, чтобы понять, какие проекты теряют позиции, а какие выходят в топ, и почему.
Как считаете вы? Поделитесь мнением в комментариях!
Подробнее в источнике— Technologyreview.com
