Мэр Нью-Йорка вступился за уличенный в обмане чат-бот MyCity

Мэр Нью-Йорка Эрик Адамс вступился за новый городской чат-бот с искусственным интеллектом MyCity, который недавно был уличен в обмане, пишет Reuters.

Он подчеркнул, что это пилотная программа. «Каждый раз, когда вы используете технологию, вам необходимо внедрить ее в реальную среду, чтобы сгладить недостатки», — заявил он журналистам.

Данный инструмент был запущен в октябре 2023 года муниципальными органами Нью-Йорка и предназначен для получения быстрого доступа к необходимой информации для местного бизнеса. Чат-бот рекламировался как первая общегородская технология на базе искусственного интеллекта, которая позволит владельцам бизнеса получать «действительную и достоверную информацию» в ответ на запросы, вводимые на онлайн-портале. Однако журналисты издания The Markup сообщили о том, что чат-бот ошибается. 

В частности, выяснилось, что ИИ-чат-бот предоставляет неверную информацию по широкому спектру вопросов, затрагивающих жилищную политику и права работников. При этом наиболее настораживает тот факт, что при повторных запросах на один и тот же вопрос MyCity мог давать разные ответы.

Корпорация Microsoft отказалась сообщить, что может быть причиной этих проблем, однако заверила, что работает над устранением всех недостатков.

*Сообщение носит информационный характер, не является индивидуальной инвестиционной рекомендацией или предложением приобрести упомянутые ценные бумаги. Приобретение иностранных ценных бумаг связано с дополнительными рисками.