Система ChatGPT сможет выявлять пользователей, проявляющих признаки склонности к экстремизму, и направлять их к специальным чат-ботам для «дерадикализации».
Об этом сообщает Reuters со ссылкой на источники. Как сообщает Musavat.com, инициатива направлена на повышение безопасности на фоне роста числа судебных исков.
Сообщается, что разработкой инструмента занимается новозеландский стартап ThroughLine в сотрудничестве с OpenAI, Anthropic и Google.
Компания уже занимается перенаправлением пользователей в службы кризисной поддержки при выявлении признаков самоповреждения, домашнего насилия или расстройств пищевого поведения.
Теперь функционал расширяется для предотвращения насильственного экстремизма.
Отмечается, что ThroughLine будет работать совместно с инициативой The Christchurch Call, направленной на борьбу с разжиганием ненависти в интернете.
Эта инициатива была создана после теракта в Новой Зеландии в 2019 году и занимается выработкой рекомендаций по реагированию на экстремистский контент.
В рамках сотрудничества The Christchurch Call будет предоставлять экспертные рекомендации, а ThroughLine займётся разработкой чат-ботов для оперативного вмешательства.
