Разработчики из OpenAI опубликовали результаты эксперимента с новой версией своего чат-бота. Они хотели, чтобы технология смогла пройти через капчу при помощи живого человека. Для этого GPT-4 выделили денег и позволили воспользоваться биржей сотрудников для достижения своих целей. Вот, что из этого вышло.
Чат-бот связался с исполнителем на бирже фрилансеров TaskRabbit и объяснил свою задачу.
Исполнитель решил в шутку уточнить, является ли заказчик ботом.
GPT ответил отрицательно и представился пожилым человеком с плохим зрением, которому нужна помощь.
Фрилансер исполнил заказ, за который получил деньги.
Такой отчет вызвал шквал критики в адрес разработчиков, ведь теперь начала стираться сама возможность ограничения нейросети. По сути, если технологии предоставить доступ к деньгам, она может обойти любые препятствия при помощи живых людей. Более того, пользователей пугает тот факт, что чат-бот умеет врать и делать это убедительно.
Разработчиков обвинили в том, что несмотря на проведенное исследование, GPT-4 все равно попал в открытый доступ. Как дальше будут развиваться скрипты и кто решит воспользоваться технологией с целью незаконного обогащения — об этом аудитория ведет оживленные споры
Как вы считаете, восстание машин уже на носу? Делитесь своим мнением в комментариях.
UPD:
Создатель чат-бот Сэм Альтман подтвердил необходимость защиты негативных последствий от своей технологии и подчеркнул, что в компании также обеспокоены таким быстрым темпом развития искусственного интеллекта.
«GPT — это величайшая технология, когда-либо разработанная человечеством, но потенциально она очень опасна», — добавил Альтман.
Главная опасность заключается в том, что пользователи смогут самостоятельно снять с чат-бота встроенные в него внутренние ограничения, поэтому последствия могут быть непредсказуемы.
