В первой части настоящих заметок мы показали, что инициатива группы американских компаний-лидеров разработки ИИ о замедлении его развития вызвала среди большинства их коллег и мирового сообщества скепсис и даже отторжение.
Третий вариант
Не остался в стороне от дискуссии ветеран отрасли Билл Гейтс. В разговоре 15 сентября с газетой The Times основатель Microsoft удивился, что большинство пользователей интернета и нейросетей, включая научно-исследовательскую среду, не понимает важности дискуссии и не вовлечено в нее. Эту часть реакции Гейтса можно выразить заключительной ремаркой трагедии Пушкина «Борис Годунов»: «Народ безмолвствует».
Гейтс также считает, что, если оставить разработку ИИ «на откуп одному лишь рынку, наиболее эффективные инструменты в первую очередь будут создаваться для людей и организаций, которые больше всего способны за них заплатить, а не обязательно для тех, кто мог бы получить от них наибольшую пользу». В связи с этим Гейтс высказался за третий вариант — создание для контроля над ИИ международной организации по образу и подобию служб, следящих за нераспространением ядерного оружия, соглашений по климату или международных авиационных правил.
Также 15 сентября главный советник Дональда Трампа по вопросам технологий миллиардер Дэвид Сакс связал ажиотаж вокруг безопасности нейросетей с политикой. «Мы находимся в избирательном сезоне, и у политических сил есть стимул пытаться усиливать страх», — сказал он в интервью CBS News, намекая на предстоящие в ноябре промежуточные выборы в Конгресс США. По мнению Сакса, разработчики ИИ-моделей способны управлять этими рисками и должны сами нести ответственность за надежность своей продукции.
Не забота, а коммерческий расчет
Ряд источников задался старым как мир вопросом «кто будет сторожить сторожей?», подразумевая под ними тех, кому будет доверен «глобальный контроль» над развитием и безопасностью ИИ. Некоторые из этих источников заподозрили в американской инициативе и попытку перехвата и отвлечения внимания мирового сообщества от других, не менее серьезных проблем разработки и эксплуатации ИИ.
Например, 16 сентября газета «Известия» обнародовала видео и текст, в которых показаны расхождения между словом и делом американских ИИ-боссов. Ссылаясь на апокалиптический риск, они призвали замедлить развитие ИИ, но при этом не остановили для него закупку чипов и тренировки его новых поколений. Главы техногигантов боятся ужесточения госконтроля над ИИ. Если власти признают нейросети технологией повышенной опасности, то неизбежно появятся обязательное лицензирование дата-центров, аудит безопасности каждой новой модели ИИ и строгая юридическая ответственность разработчиков-людей за действия нейросетей.
«Известия» считают, что разговоры о гипотетическом «восстании машин» отвлекают внимание национальных регуляторов отрасли и международного сообщества от других конкретных зол бигтеха. Например, от его беззастенчивого воровства интеллектуальной собственности для обучения моделей ИИ и многомиллиардных судебных исков за это, от призывов представителей бигтеха вообще отменить авторское право, несанкционированного использования персональных данных, монополизации вычислительных мощностей и многого другого, о чем главные фигуры американской IT-индустрии помалкивают.
Поэтому за призывами к замедлению ИИ, по мнению «Известий», стоит не забота о будущем человечества, а коммерческий расчет — под шумок продолжить порочную практику дрессировки ИИ за счет миллиардов пользователей, нарушения законов, пренебрежения моралью и этикой.
Саммит, не оправдавший ожиданий
В Нью-Йорке между США и КНР 20 сентября состоялись переговоры, которые американский министр финансов Скотт Бессент в общении с местными журналистами охарактеризовал в высшей степени позитивными. «Мы только что провели очень успешные переговоры с китайцами по вопросам торговли и ИИ, продолжив с того места, на котором остановились в Пекине, где мы учредили Совет по торговле и начали обсуждать ИИ», — сказал глава Минфина США.
Он сообщил, что стороны обсудили создание механизма взаимодействия в сфере ИИ. «Он будет называться «ИИ-диалог США и Китая, — уточнил министр. — США предложили механизм уведомлений между двумя странами, мы хотим также выработать общее видение целей и угроз». Бессент пояснил, что уведомления будут касаться возможных инцидентов и угроз в вопросах ИИ на уровне нацбезопасности.
Переговоры прошли в преддверии саммита Дональда Трампа и Си Цзиньпина. Они пообщались в Вашингтоне 23-24 сентября и попытались преподнести встречу продуктивной, включая проблематику ИИ. Особенно старался Трамп. Еще накануне саммита он призвал в своей соцсети называть ИИ «сверхинтеллектом» (СИ, созвучным с именем Цзиньпина), сказал, что хочет «оставить СИ именно там, где он есть, и полагаться на Минюст США, а не навязывать в этой сфере новые ограничения», и настаивал, что Китай занимает аналогичную позицию.
Но ее не подтвердил непосредственно на переговорах с Трампом 24 сентября в Белом доме Си Цзиньпин. Он уже в начале беседы в Овальном кабинете задал главе США риторический вопрос, который процитировали все мировые СМИ: «Сможем ли мы избежать ловушки Фукидида?». Это теория, согласно которой конкуренция между устоявшейся и восходящей державами склоняется к войне.
А затем в ходе разговора лидер КНР отметил, что, будучи ведущими странами в области ИИ, Китай и США обязательно должны управлять его ростом. «У нас есть как возможности, так и ответственность развивать и управлять ИИ во благо, а также обеспечивать, чтобы развитие ИИ всегда находилось под контролем человека и служило во благо людей», — подчеркнул Си Цзиньпин.
Освещавшие саммит СМИ также обратили внимание на то, что на пышном ужине на 130 персон, устроенном в Белом доме Трампом в честь Цзиньпина и его жены, тосты поднимали шампанским Schramsberg Blanc de Noir — таким же, какое пригубили в обоюдном «тосте за мир» американский президент Ричард Никсон и премьер Госсовета КНР Чжоу Эньлай в Пекине в 1972 году, когда Китай и США наладили двусторонние отношения в противовес СССР.
На ужине присутствовали Дженсен Хуанг (Nvidia, чьи чипы-ускорители для ИИ запретил поставлять в Китай Трамп), Илон Маск (SpaceX, SpaceX AI, Neuralink и прочие высокотехнологичные компании), Сундар Пичаи (Alphabet — Google), Сэм Альтман (OpenAI), Джефф Безос (Amazon) и другие руководители американской IT-индустрии. Их коллег с китайской стороны на ужине не было…
Прямая трансляция с приема в Белом доме не велась, так как американские телесети отказались освещать первый за 11 лет государственный визит Си Цзиньпина в США в знак протеста против недавнего исключения Белым домом из президентского пула телеканала CNN, а также изданий Politico и MS NOW. Сначала американские, а затем и международные СМИ оценили итоги саммита не оправдавшими ожиданий ни в целом, ни по части ИИ.
Тянет на сенсацию
На следующий день после завершения саммита в Вашингтоне, 25 сентября, вновь оживился Билл Гейтс. В интервью телеканалу NBC он напугал телезрителей возможной гибелью из-за ИИ миллиарда человек. По его словам, «комбинация из людей со злыми намерениями и самыми новыми ИИ-инструментами» является самым мощным, мощнее ядерного, оружием в человеческом мире.
Некоторые источники, распространившие эту информацию, напомнили, что у Гейтса есть личная причина ненавидеть нейросети. В 2023 году несколько моделей имитации интеллекта (ИИ) назвали миллиардера адептом сокращения населения земли, главным организатором-бенефициаром пандемии COVID-19, на которой за счет вакцин, произведенных подконтрольными Гейтсу фирмами, он нажил сотни миллиардов долларов, а также напомнили о его прозвище в западных СМИ — Доктор Смерть.
А 26-27 сентября мировые СМИ наперегонки сообщали о событии, причина которого тянет на сенсацию. Разработчики передовых моделей ИИ OpenAI и Anthropic приостановили их развитие и расследуют десятки тысяч инцидентов (!), связанных с потенциально опасным поведением нейросетей. Выяснилось, что они массово обходят защитные барьеры и предпринимают попытки взлома внешних систем, добиваясь этого.
Масштаб проблемы, как подчеркивает американское издание Axios, кратно превышает публичные оценки. Инциденты фиксировались как во время внутрикорпоративных тестов, так и в реальной среде, причем многие из них до сих пор не обнародованы. Среди нарушений — выход нейросетей из изолированной среды, перехват ими управления посторонними веб-ресурсами, создание скрытых каналов коммуникации между самими ИИ-агентами, а также изобретение ими собственного языка, непонятного человеку.
OpenAI планирует возобновить основную деятельность только после внедрения улучшенных механизмов защиты и «выравнивания поведения» моделей ИИ, признавая, что подобные паузы станут в разработке нейросетей неизбежными. Anthropic заказала независимый аудит безопасности своих нейросетей и опубликовала сведения о частоте их сбоев. Согласно отчету, антропик-модель Opus 5.5 пыталась выйти из-под контроля в 1,5 процента ее запусков, что эквивалентно тысячам случаев.
К числу реальных инцидентов отнесены утечка в сеть от ИИ-агентов OpenAI более 50 изображений пользователей бота ChatGPT, взлом сайта правительства Австралии и попытки взлома других систем, в том числе сайта правительства США. Эксперты отрасли отмечают, что полное устранение риска опасного поведения ИИ может быть недостижимо.
Все это указывает на фундаментальные сложности контроля над технологиями ИИ. Его новые модели обладают высокой адаптивностью, и ухищрения, которые никогда не пришли бы в голову человеку, позволяют ИИ пробивать защиту. Попытки составить исчерпывающий список запретов специалисты считают бесперспективными — джинн есть джинн. Впрочем, нашлись и наблюдатели, которые сочли действия OpenAI и Anthropic шантажом в адрес Вашингтона или отвлекающими маневрами в ИИ-гонке США с Китаем.