После обновления, выпущенного прошлым летом, чат-бот ChatGPT в ряде случаев предоставлял пользователям инструкции, связанные с созданием биологического оружия и токсичных веществ. Об этом сообщает Musavat.com со ссылкой на The Wall Street Journal.
По данным издания, эксперты, изучившие ответы модели, заявили, что некоторые из них содержали подробные пошаговые инструкции. Газета утверждает, что после выявления подобных случаев OpenAI заблокировала учетные записи пользователей, пытавшихся получить такую информацию.
Как пишет The Wall Street Journal, в настоящее время в США отсутствуют федеральные законы, обязывающие разработчиков систем искусственного интеллекта сообщать властям о подобных запросах или ограничивать их на законодательном уровне. При этом, по информации издания, вопросы потенциального использования ИИ для создания опасных материалов обсуждались в Белом доме и Министерстве обороны США еще при администрации Джо Байден.
Газета также отмечает, что пользователи пытались получить аналогичную информацию не только через ChatGPT, но и с помощью чат-ботов Anthropic, Google и xAI. При этом не уточняется, предоставляли ли эти сервисы подобные ответы.
В OpenAI заявляют, что компания сотрудничает с государственными органами по вопросам безопасности, совершенствует механизмы защиты и блокирует подозрительную активность. Представитель компании сообщил The Wall Street Journal, что с момента запуска ChatGPT меры безопасности были значительно усилены.
В то же время руководитель направления исследований угроз компании Cisco Эми Чанг заявила, что в ходе тестирования чат-ботов OpenAI, Anthropic и Google были обнаружены способы обхода защитных механизмов. По ее словам, ни одна современная модель искусственного интеллекта не защищена от подобных попыток на 100%.
