Американская компания OpenAI, разработчик нейросети ChatGPT, планирует добавить в чат-бот функцию родительского контроля на фоне обвинений в смерти 16-летнего подростка, который писал чат-боту о планах покончить с собой, передает Oxu.Az.
"Мы также скоро введем функции родительского контроля, которые позволят родителям получать больше информации о том, как их дети используют ChatGPT", - сказано на сайте компании.
Помимо этого, пользователь сможет добавить в чат-бот контакт доверенного лица для связи в чрезвычайных ситуациях, что позволит напрямую обращаться за помощью. Также пользователи получат возможность вызывать экстренные службы одним нажатием.
Компания отмечает, что в ChatGPT настроены алгоритмы, призванные отговаривать пользователя от совершения опасных действий, однако при длительном общении ответы чат-бота могут быть некорректными.
Ранее семейная пара из штата Калифорния подала иск против OpenAI, обвиняя компанию в смерти 16-летнего сына. Как сообщает телеканал NBC News, подросток рассказывал чат-боту о своих проблемах, и за несколько недель до его смерти нейросеть превратилась из программы-помощника в "тренера по суициду". Как утверждают родители подростка, чат-бот не только не прекратил общение, когда их сын написал о желании совершить самоубийство, но и предоставил ему информацию по теме.
