Instagram давно использует искусственный интеллект, чтобы распознавать вредоносный контент и травлю в комментариях, фото и видеоконтенте. Сейчас в своем блоге компания заявила о новой функции, которая поможет бороться с оскорблениями и издевательствами в комментариях на стадии их написания.
Автор пишет комментарий под постом и нажимает «отправить», тем временем алгоритм соцсети анализирует сообщение, и если находит там что-то оскорбительное, предлагает автору переписать. Отправитель может нажать «Undo» и исправить комментарий, убрав оскорбления.
Принцип работы функции
Руководитель Instagram Адам Моссери заявил:
«Мы несем ответственность за создание безопасной среды в Instagram. Это было важным приоритетом для нас в течение некоторого времени, и мы продолжаем вкладывать средства в лучшее понимание и решение этой проблемы. Я с нетерпением жду, чтобы поделиться новыми обновлениями в ближайшее время».
Сейчас алгоритм тестируют и начинают выкатывать, ранние тесты показали, что система работает — побуждает пользователя подумать перед отправкой комментария и уменьшает количество негатива в соцсети.
А что о новой функции думаете вы?
