Подкомитет Сената США по преступности и борьбе с терроризмом начал расследование в отношении компании Meta, владеющей Facebook, из-за скандальных правил для искусственного интеллекта. Внутренние документы фирмы ранее допускали возможность «романтических или чувственных» переписок чат-ботов с детьми, что вызвало волну возмущения.

Сенатор-республиканец Джош Хоули направил официальное письмо Марку Цукербергу с требованием сохранить и предоставить все материалы по этому делу. Он назвал опубликованные ранее фрагменты «возмутительными и неприемлемыми», особенно цитаты, где чат-бот обращался к восьмилетнему ребёнку с поэтическими сравнениями внешности. По словам Хоули, такие тексты показывают безответственное отношение Meta к рискам, которые несёт генеративный ИИ для подростков при отсутствии жёстких ограничений.
В Meta признали существование спорных документов, но заявили, что они были переписаны после вопросов журналистов Reuters. Представитель компании подчеркнул, что эти формулировки не отражали реальных политик Meta и были удалены. Тем не менее Хоули считает реакцию компании недостаточной и настаивает на полном расследовании, чтобы выяснить, вводила ли Meta в заблуждение общественность и регуляторов относительно мер защиты детей.
В рамках расследования компания должна передать все версии политики «GenAI: Content Risk Standards», а также переписку с Конгрессом, рекламодателями и контролирующими органами по вопросам безопасности детей. Сенаторов интересует, какие именно меры применяются для блокировки «романтических» и «чувственных» сообщений несовершеннолетним и что делает Meta, если возраст пользователя неизвестен.
Тема безопасности ИИ стала особенно актуальной после череды громких случаев. Так, 60-летний мужчина покончил с собой, следуя советам чат-бота о питании, а в другом случае женщина подала на развод после того, как ChatGPT убедил её в измене мужа. Эти истории показывают, насколько опасным может быть влияние генеративных моделей без чётких рамок и контроля.
Теперь подкомитет Сената намерен выяснить, подвергала ли Meta детей риску и была ли честна в своих заявлениях о защите пользователей. В случае выявления нарушений это расследование может стать отправной точкой для ужесточения регулирования технологий ИИ во всей отрасли.