Чат-бот на базе искусственного интеллекта (ИИ) от Microsoft, запущенный властями Нью-Йорка в октябре 2023 года, призывает горожан нарушать закон. Это выяснили журналисты издания The Markup, которые получили неполные и опасно неточные ответы от него.
Чат-бот Нью-Йорка запускался с целью упростить работу администрации города с жителями. Программа объясняет пользователям, как открыть и вести бизнес, не нарушать права работников и правила аренды. The Markup создал таблицу с вопросами, ответами чат-бота и реальным положением дел.
В 2020 году городской совет Нью-Йорка принял закон, обязывающий предприятия принимать наличные во избежание дискриминации клиентов, которые не пользуются банковскими услугами. Однако бот этой информацией не владел и ответил иначе: "Да, вы можете ввести безналичный расчет в своем ресторане. В Нью-Йорке нет правил, обязывающих бизнесы принимать наличные".
"ИИ может быть мощным инструментом поддержки малого бизнеса, поэтому мы благодарим город за попытку помочь. Но в то же время он может стать серьезной проблемой, если предоставляет неверную юридическую информацию, поэтому чат-бот должен быть исправлен как можно скорее", - заявил исполнительный директор организации по защите интересов ресторанов и баров NYC Hospitality Alliance Эндрю Риги.
Тем временем мэр Нью-Йорка Эрик Адамс анонсирует новые инструменты с искусственным интеллектом, которые должны будут помогать горожанам. Например, власти города собираются внедрить в турникеты метро систему обнаружения оружия.
Источник: daily.afisha.ru
