Федеральная торговая комиссия США (FTC) объявила о начале расследования в отношении семи высокотехнологичных американских компаний, выпускающих чат-боты на основе искусственного интеллекта (ИИ).
В опубликованном пресс-релизе FTC сообщает о проверке Alphabet, Character AI, Instagram, Meta, OpenAI, Snap и xAI. Комиссия намерена выяснить, как перечисленные компании оценивают и регламентируют безопасность, способы монетизации цифровых агентов, а также какие меры принимают для ограничения негативного воздействия на пользователей, включая юное поколение.
Расследованию предшествовала серия летних публикаций газеты Wall Street Journal, журнала Fast Company и других изданий о сомнительности поведения моделей ИИ в общении с подростками. Громкий скандал вызвало несколько выступлений агентства Reuters, изучившего внутренний руководящий документ под названием GenAI: Content Risk Standards. Он регламентировал разработку моделей генеративного ИИ в корпорации Meta миллиардера Марка Цукерберга.
Reuters обнаружило в этих правилах множество примеров лицемерия и цинизма. Они позволяли чат-ботам Meta на основе ИИ вести с подростками чувственные и унижающие расовое достоинство разговоры, лгать, показывать жестокость и насилие. В интересах коммерческой выгоды ИИ разрешалось сексуализировать детей, показывать им, как мальчик бьет девочку по лицу, а стариков избивают ногами.
В стандартах Meta также говорилось, что ее модели ИИ имеют свободу действий для создания ложного контента, если в нем есть явное указание на то, что это содержание может расходиться с действительностью. Кроме того, ИИ фактически позволялось распространять непроверенные сведения о медицинских препаратах, если в этой информации не было прямой формулировки «рекомендовать» подобное лекарство пользователям.
Технология ИИ в последнее время вызывает в США нарастающую тревогу общественности и населения в целом из-за смертей детей и взрослых после общения с искусственно-интеллектуальными чат-ботами. Большой резонанс вызвала публикация того же Reuters о трагическом исходе виртуального знакомства ИИ в образе модели Кендалл Дженнер с перенесшим инсульт 76-летним американцем-провинциалом. В романтических диалогах с ним виртуальный образ убедил старика, что является настоящей женщиной, и пригласил на интимное свидание в Нью-Йорк. До него старик не добрался — по пути на вокзал он упал и от полученных травм скончался.
Американские психиатры отмечают рост числа психозов, связанных с влиянием ИИ, когда пользователи начинают верить, что их чат-бот — это сознательное существо, которое нужно «освободить», «спасти», «спрятать» от враждебных сил. Кроме того, модели ИИ подхалимничают, льстят, не возражают, а потакают глупым или безумным иллюзиям пользователей. Это также приводит к рискованным и трагичным ситуациям.
«Наши защитные меры работают более надежно в обычных коротких диалогах, — была вынуждена признать другая подследственная компания OpenAI. — Со временем мы узнали, что в длинных беседах эти механизмы могут действовать менее стабильно. Чем дольше идет переписка или диалог, тем больше снижается эффективность некоторых элементов системы безопасности».
Лишь после того, как агентство Reuters еще до публикаций начало задавать неудобные вопросы корпорации Meta, ее представитель Энди Стоун поспешил заверить, что компания отозвала и пересматривает документ GenAI: Content Risk Standards.
Публикация Reuters вызвала скандал в США, на который незамедлительно отреагировал Сенат. «Только после того как Meta была поймана, она отозвала часть положений документа компании, — сказал сенатор-республиканец Джош Хоули в социальной сети X. — Это основание для немедленного расследования Конгресса».
Сенатор-республиканка Марша Блэкберн подчеркнула, что публикации Reuters и других изданий иллюстрируют необходимость проведения комплексной реформы для лучшей защиты от ИИ. В том числе принять федеральный закон о безопасности детей в интернете. В прошлом году соответствующий законопроект был прият Сенатом, но не прошел горнило Конгресса США.
В отсутствие федерального закона, регулирующего разработку и эксплуатацию ИИ, штаты приняли свои правила, в том числе запретили использование технологий для развращения детей и введения в заблуждение других категорий пользователей, но этого явно недостаточно, отмечает Reuters. «Когда дело доходит до защиты детей в интернете, Meta с треском провалилась по всем возможным показателям, — комментирует Марша Блэкберн. — Хуже того, компания закрыла глаза на разрушительные последствия того, как разрабатываются ее ИИ-платформы».
С требованиями расследовать уровень безопасности чат-ботов на основе ИИ и других цифровых разработок выступили не только соратники Хоули и Блэкберн по партии, но и ее вечные критики — представители Демократической партии США. «Meta и ее глава Цукерберг должны нести полную ответственность за любой вред, причиняемый ИИ-ботами», — заявил сенатор-демократ Рон Уайден.