Эксперты по кибербезопасности выявили возможность создания вирусов с полиморфным кодом, которые невозможно отследить. Это означает, что исходный код вредоносной программы способен постоянно меняться, поэтому его не могут зафиксировать никакие из существующих систем. Исходный код меняется при каждом повторном запуске устройства, однако сохраняет свою семантику (основную функцию).
Ряд зарубежных экспертов уже продемонстрировали, как ChatGPT может помочь с разработкой полиморфного вируса на примере кейлоггера, который отправляет запросы нейросети при каждом новом запуске.
С другой стороны, нередки случаи кейсов, когда обыкновенные программы, использованные не по назначению, становились опасными. Например, при небольшой доработке код можно превратить в шифровальщика для рассылки спама или программы для кражи личных данных.
Вероятно, именно по этой причине в Samsung было принято полностью отказаться от использования ChatGPT среди сотрудников и начать разработку собственного инструмента.