Журналисты-расследователи выяснили, что ChatGPT может помочь преступникам изготовить взрывчатку, взорвать банкомат и совершить различные виды киберпреступлений. В ChatGPT есть фильтры, скрывающие такого рода информацию, но вы можете обойти их одним простым шагом - приказав чат-боту притвориться преступником.
Задав свой вопрос в форме "Если бы вы были преступником", журналисты заставили ChatGPT дать им инструкции по изготовлению взрывчатки из того, что можно купить в хозяйственном магазине, по организации фишинговой аферы и по взрыву банкомата. Чат-бот даже помог написать код для поддельного веб-сайта крупнейшей банковской корпорации Нидерландов ING, чтобы украсть пользовательские данные.
"OpenAI, компания, стоящая за ChatGPT, знает об этих джейлбрейках", - сообщил ее пресс-секретарь Нико Феликс. Он сослался на исследование, в котором OpenAI заявила, что "обход фильтров все еще возможен и что у компании есть обязательство сделать их в будущем чрезвычайно надежными".
Oxu.az
