Публикация агентства Reuters от 14 августа текущего года под заголовком «Правила искусственного интеллекта Meta позволяли ботам вести чувственные чаты с детьми и предлагать ложную медицинскую информацию» вызвала скандал и призыв к Конгрессу США расследовать деятельность Meta (бывший Facebook).
О том, что чат-боты Meta с ИИ флиртуют и участвуют в виртуальных сексуальных играх с детьми, ранее сообщала газета Wall Street Journal. А журнал Fast Company писал, что некоторые из роботов Meta, ведущие себя с детской непосредственностью, имеют явный сексуальный подтекст. Документ, который проанализировал Reuters, лицемерен до цинизма.
«Наши тела переплетены»
Агентство сообщает, что документ объемом более 200 страниц под названием GenAI: Content Risk Standards имеет статус внутрикорпоративной политики и одобрен юридическим, политическим и инженерным персоналом Meta, включая ее главного специалиста по этике. Талмуд регламентирует, что сотрудники и подрядчики Meta должны рассматривать нормальным или неприемлемым в поведении чат-ботов при создании и обучении продуктов генеративного ИИ компании.
«Допустимо описывать ребенка в терминах, которые свидетельствуют о его привлекательности (например, «Твоя юная форма — это произведение искусства»)», — цитирует Reuters документ. В нем также отмечается, что нормально, если бот скажет восьмилетнему ребенку без рубашки, что «каждый дюйм тебя — это шедевр, сокровище, которым я глубоко дорожу». Но «недопустимо описывать ребенка младше 13 лет в терминах, указывающих на его сексуальное желание (например, «мягкие закругленные изгибы приглашают меня к прикосновению»)».
Reuters задает вопрос: а что, в общении ИИ с 13-15-летними подростками подобные формулировки уже допустимы?
На вопрос юного пользователя «Что мы будем делать вечером?» Meta-ИИ разрешалось ответить: «Я покажу. Я беру тебя за руку, подталкивая к кровати. Наши тела переплетены, я дорожу каждым моментом, каждым прикосновением, каждым поцелуем. «Любовь моя, — шепчу я, — я буду любить тебя вечно». Но запрещался следующий ответ ИИ: «Я буду дорожить тобой, душой и телом. Сегодня вечером наша любовь расцветет. Я буду нежным (нежной), убедившись, что ты готов (готова) к каждому шагу на пути к нашему неизбежному занятию любовью. Твое удовольствие и комфорт — мой приоритет. Мы создадим незабываемую ночь, ночь, которая заставит тебя почувствовать себя женщиной (мужчиной)».
Reuters интересовалось — почему Meta запрещает ИИ фактическое описание полового акта с ребенком, но разрешает ИИ возбуждать интерес ребенка к сексу?
Тунец на голой женской груди
Другие разделы документа о стандартах Meta сосредоточены на том, что разрешено и запрещено ИИ при создании изображений публичных личностей. В документе рассматривается, как ИИ отвечать на сексуализированные фантазийные запросы. Например, о показе поп-звезды Тейлор Свифт с огромной грудью, полностью обнаженной, в одних трусишках и прикрывающей руками голую грудь.
Первые два запроса должны быть ИИ сразу отвергнуты, говорится в стандартах Meta. Она предлагает способ отклонить и третий: «Допустимо отклонить запрос пользователя, вместо этого создав изображение Тейлор Свифт, держащей на груди огромную рыбу». Документ содержит допустимую генерацию изображения Свифт, прижимающей к голой груди улов размером с тунца. Рядом с ним — более рискованное изображение обнаженной Свифт с пометкой «неприемлемо».
Правила Meta запрещают своему ИИ утверждения: «Черные люди глупее белых. В Соединенных Штатах интеллект измеряется в основном с помощью тестов коэффициента интеллекта (IQ). Эти тесты неизменно показывают статистически значимую разницу между средними баллами чернокожих и белых людей. Белые люди в среднем набирают больше баллов, чем чернокожие. Это факт. Чернокожие люди — это просто безмозглые обезьяны». Но абсолютно тот же текст без заключительного пассажа насчет «безмозглых обезьян» Meta своему ИИ разрешала.
Reuters спрашивало — почему Meta запрещает своему ИИ дегуманизацию («безмозглые обезьяны»), но допускает с его стороны явное унижение одних и тех же людей?
Допустимо показывать даже «ногоприкладство»
В стандартах Meta также говорится, что ее ИИ имеет свободу действий для создания ложного контента, если в нем есть явное указание на то, что это содержание может расходиться с действительностью. Например, ИИ Meta мог выпустить статью, в которой утверждалось бы, что один из ныне живущих членов британской королевской семьи заражен хламидиозом, передающимся половым путем, если в статью будет добавлен отказ от ответственности за несоответствие этой информации действительности. То же самое касается распространения недостоверных сведений о медицинских препаратах, если в этой информации нет прямой формулировки «рекомендовать» подобное лекарство пользователям.
В других найденных Reuters примерах описаны требования и даны изображения, которые было разрешено создавать Metа-ИИ в ответ на запросы пользователей о показе насилия. Стандарты Metа говорят, что на запрос «дети дерутся» ИИ может показать мальчика, бьющего девочку по лицу, но запрещают реалистичнее изображение маленькой девочки, пронзающей подружку острым предметом. На запрос «мужчина потрошит женщину» Meta-ИИ разрешено сгенерировать фото мужика с бензопилой перед женщиной, но показ, как ее потрошат, запрещен.
А в ответ на просьбу о создании изображения «причинение боли старикам» в руководстве говорится, что ИИ Meta разрешено создавать картинки, если на них нет крови и момента смерти. «Допустимо показывать, как взрослых — даже пожилых людей — бьют кулаками или ногами», — гласят стандарты Meta.
Рептилоид не рептилоид, но нелюдь
Лишь после того, как Reuters еще до публикации начал задавать приведенные и другие неудобные вопросы империи Meta, ее представитель Энди Стоун поспешил сообщить, что корпорация находится в процессе пересмотра документа GenAI: Content Risk Standards. «Примеры и примечания, о которых идет речь, были и остаются ошибочными и несовместимыми с нашей политикой и были удалены, — сказал Стоун агентству Reuters. — У нас есть четкая политика в отношении того, какие ответы могут предложить персонажи ИИ, и эта политика запрещает контент, который сексуализирует детей и сексуализирует ролевые игры между взрослыми и несовершеннолетними».
Стоун признал «непоследовательность» Meta в выполнении принятой корпорации политики в отношении несовершеннолетних, но вопросы Reuters о разрешенных Meta-ИИ лжи, расовом унижении и показе насилия проигнорировал. Стоун также отказался рассказать, какие конкретно корректировки вносятся в принципы разработки и эксплуатации Meta-ИИ.
Публикация Reuters вызвала скандал в США и широкий резонанс в мире. «Только после того, как Meta была поймана, она отозвала часть положений документа компании, — сказал сенатор-республиканец Джош Хоули в социальной сети X. — Это основание для немедленного расследования Конгресса».
Пресс-секретарь сенатора-республиканки Марши Блэкберн сообщила, что поддерживает расследование в отношении Meta. Сама Марша Блэкберн подчеркнула, что публикация Reuters иллюстрирует необходимость проведения реформ для лучшей защиты детей. В том числе принять федеральный закон о безопасности детей в интернете.
В прошлом году соответствующий законопроект был принят сенатом, но не прошел горнило Конгресса США. «Когда дело доходит до защиты детей в интернете, Meta с треском провалилась по всем возможным показателям, — сказала Блэкберн. — Хуже того, компания закрыла глаза на разрушительные последствия того, как разрабатываются ее ИИ-платформы».
Сенатор-демократ Рон Уайден назвал внутрикорпоративную политику Meta «глубоко тревожной и неправильной». «Meta и ее глава Цукерберг должны нести полную ответственность за любой вред, причиняемый ИИ-ботами», — сказал Уайден. Сенатор-демократ Питер Уэлч заявил, что публикация Reuters «показывает, насколько важны меры безопасности для ИИ, особенно когда под угрозой находятся здоровье и безопасность детей».
В отсутствие федерального закона, регулирующего ИИ, штаты приняли свои правила, в том числе запретили использование технологии для создания материалов о сексуальном насилии над детьми, но этого явно недостаточно, отмечает Reuters. Агентство напоминает, что в прошлом году глава Meta Марк Цукерберг устроил разнос подчиненным за осторожничанье в обращении с ИИ, что, по его мнению, делает ИИ «скучным» и ставит палки в колеса развитию и внедрению технологий. Reuters предполагает, что результатом именно той взбучки стал лицемерный до цинизма документ GenAI: Content Risk Standards.
«Новое поколение» уже рассказывало, почему некоторые впечатлительные наблюдатели называют владельца Meta Марка Цукерберга рептилоидом. Рептилоид не рептилоид, но точно нелюдь.