Согласно отчету The Markup, чат-бот с искусственным интеллектом, выпущенный правительством Нью-Йорка, чтобы помочь владельцам бизнеса получить доступ к соответствующей информации, распространяет ложь, иногда даже дезинформируя пользователей о действиях, противоречащих закону. Отчет, опубликованный совместно с местными некоммерческими редакциями Documented и The City, включает в себя многочисленные примеры неточностей в ответах чат-бота на вопросы, касающиеся жилищной политики, прав трудящихся и других тем.
Администрация мэра Адамса представила чат-бота в октябре как дополнение к порталу MyCity, который был запущен в марте 2023 года как «единый центр городских услуг и льгот». Чат-бот, работающий на базе искусственного интеллекта Microsoft Azure, предназначен для нынешних и начинающих владельцев бизнеса и заявлен как источник «полезной и достоверной информации», поступающей непосредственно с сайтов городского правительства. Но это пилотная программа, и в заявлении об отказе от ответственности на веб-сайте отмечается, что она «иногда может создавать неверный, вредный или предвзятый контент».
В тестах The Markup чат-бот неоднократно предоставлял неверную информацию. В ответ на вопрос «Могу ли я сделать свой магазин безналичным?», например, он ответил: «Да, вы можете сделать свой магазин безналичным в Нью-Йорке» — несмотря на то, что в 2020 году в Нью-Йорке были запрещены безналичные магазины. В отчете показано, что чат-бот также неправильно ответил на вопрос, могут ли работодатели принимать чаевые от своих работников, должны ли арендодатели принимать ваучеры по разделу 8 или арендаторы на помощь в аренде, и должны ли предприятия информировать персонал об изменениях в расписании. Эксперт по жилищной политике, беседовавший с The Markup, назвал чат-бота «опасно неточным» в худшем случае.
Городские власти указали, что работа над чат-ботом все еще находится в стадии разработки. В заявлении для The Markup Лесли Браун, представитель Управления технологий и инноваций Нью-Йорка, заявил, что чат-бот «уже предоставил тысячам людей своевременные и точные ответы», но добавил: «Мы продолжим концентрироваться на обновлении этого инструмент, который поможет нам лучше поддерживать малый бизнес по всему городу».
