Корпорация добра порадовала вебмастеров, уставших заниматься модерацией комментариев на своих сайтах вручную. Поисковый гигант Google выпустил новый API, который использует машинное обучение, чтобы в автоматическом режиме фильтровать обидные комментарии под новостями и статьями.
Новый инструмент, который получил название Perspective (Перспектива), может быть интегрирован с любым информационным сайтом, снабженным блоком с комментариями. Система анализирует публикуемые пользователями комменты, ориентируясь на информацию из собранной ранее базы данных.
Когда на сайте с API Perspective будет опубликован новый комментарий, инструмент воспользуется искусственным интеллектом, чтобы оценивать, насколько сильно он напоминает сотни тысяч оскорбительных комментариев и агрессивными высказываниями в базе данных Google. Если алгоритмом будет установлено, что комментарий является оскорбительным, Perspective уведомит об этом комментатора в режиме реального времени следующим образом:
Система будет уведомлять пользователя о необходимости отредактировать недопустимый комментарий до тех пор, пока не сочтет его (коммент) приемлемым для публикации.
В последнее время активность пользователей, пишущих комментарии к статьям и новостям, стала настолько высокой, что многие издатели решили удалить секцию с комментариями, вместо того чтобы заниматься их модерацией. Благодаря API Perspective от Google блоки с комментариями могут вновь появиться на многих таких сайтах. В частности, благодаря этому API комменты снова появились под статьями The New York Times – это издание помогало поисковому гиганту тестировать новые алгоритмы.
Представители Google отмечают, что инструмент продолжит совершенствоваться в будущем. Система Perspective будет учиться и наращивать свою базу данных оскорбительных комментариев, чтобы становиться еще более эффективной с течением времени.
Следует отметить, что в настоящее время Perspective способна причислять к оскорбительным только комментарии, оставленные на английском языке. Но в течение года может появиться поддержка других языков. Все зависит от того, насколько тепло продукт будет принят сторонними интернет-изданиями.
