Meta подала в суд на разработчиков одного из самых скандальных ИИ-приложений последнего времени — Crush AI, которое превращает обычные фото людей в фейковые откровенные изображения. Иск был подан в Гонконге против компании Joy Timeline HK Limited.
С ростом популярности генеративного ИИ подобные «нюдификаторы» начали заполонять интернет. Crush AI — один из самых агрессивных игроков: несмотря на то, что Meta регулярно удаляла их рекламу с Facebook и Instagram, разработчики снова и снова возвращались, используя фейковые рекламные аккаунты и постоянно меняя домены.
Журналист Алексис Мантцарлис подсчитал, что только за первые две недели января в Facebook и Instagram появилось более 8 000 рекламных объявлений Crush AI. Около 90% всего трафика на сайт приложения шло именно с платформ Meta.
В феврале сенатор США Дик Дурбин направил Цукербергу письмо, в котором назвал такие объявления нарушением рекламной политики компании, так как они содержали откровенные сцены, сексуальный подтекст и даже элементы домогательства.
Теперь Meta усилила свои алгоритмы: система научилась распознавать не только ключевые слова, но даже «подозрительные» эмодзи. Появились целые команды аналитиков, которые отслеживают новые трюки разработчиков, стремящихся обойти модерацию.
Meta также собирается делиться этими находками с другими соцсетями, чтобы бороться с такими приложениями на более широком уровне.
Хотя некоторые считают, что Meta начала действовать только после критики и потери репутации, иск против Crush AI — важный шаг в сторону защиты приватности и цифровой безопасности. Надеемся, не последний.