Все посты
4320 2 Новости (Архив)

Чат-бот GPT-4 смог обойти капчу, наняв фрилансера

Для этого ему понадобилось обмануть человека.

Разработчики из OpenAI опубликовали результаты эксперимента с новой версией своего чат-бота. Они хотели, чтобы технология смогла пройти через капчу при помощи живого человека. Для этого GPT-4 выделили денег и позволили воспользоваться биржей сотрудников для достижения своих целей. Вот, что из этого вышло.

  1. Чат-бот связался с исполнителем на бирже фрилансеров TaskRabbit и объяснил свою задачу.

  2. Исполнитель решил в шутку уточнить, является ли заказчик ботом.

  3. GPT ответил отрицательно и представился пожилым человеком с плохим зрением, которому нужна помощь.

  4. Фрилансер исполнил заказ, за который получил деньги.

Такой отчет вызвал шквал критики в адрес разработчиков, ведь теперь начала стираться сама возможность ограничения нейросети. По сути, если технологии предоставить доступ к деньгам, она может обойти любые препятствия при помощи живых людей. Более того, пользователей пугает тот факт, что чат-бот умеет врать и делать это убедительно.

Разработчиков обвинили в том, что несмотря на проведенное исследование, GPT-4 все равно попал в открытый доступ. Как дальше будут развиваться скрипты и кто решит воспользоваться технологией с целью незаконного обогащения — об этом аудитория ведет оживленные споры

Как вы считаете, восстание машин уже на носу? Делитесь своим мнением в комментариях.

UPD:

Создатель чат-бот Сэм Альтман подтвердил необходимость защиты негативных последствий от своей технологии и подчеркнул, что в компании также обеспокоены таким быстрым темпом развития искусственного интеллекта.

«GPT — это величайшая технология, когда-либо разработанная человечеством, но потенциально она очень опасна», — добавил Альтман.

Главная опасность заключается в том, что пользователи смогут самостоятельно снять с чат-бота встроенные в него внутренние ограничения, поэтому последствия могут быть непредсказуемы.
Возьмите под контроль продвижение своего сайта
Исправьте ошибки, которые мешают сайту выйти в топ, и вы увидите рост трафика и дохода.
🔍 Подпишись на @prcynews в телеграм — оставайся в курсе последних SEO новостей и свежих материалов.

Теги поста или какие разделы почитать еще:

Комментарии (2)
ZKey   18.03.2023 23:23
Жду 10 версию
Илья   19.03.2023 18:47
Нам бы пятую пережить сперва :)
К данной записи нельзя добавлять комментарии, т.к. она очень старая.
Как написать текст на сайт с помощью ChatGPT: советы и промты
Как переписать или обновить текст с помощью ChatGPT: советы и промты
Подборка ИИ-инструментов для создания SEO-контента 🤖