В сентябрьской публикации «XXI век и мы. ИИ становится все опаснее» «Новое поколение» сообщало о нарастании призывов из американского сектора IT-технологий к замедлению развития ИИ по соображениям безопасности. Эта инициатива вызвала широкий международный резонанс.
Кто за и против
Горячо поддерживает идею замедления развития ИИ глава компании Anthropic Дарио Амодеи — один из более тысячи подписантов соответствующей петиции правительству США в конце июля текущего года. В последний по времени раз Амодеи публично высказался на эту тему 12 сентября. Он вновь воззвал к продвижению инициативы, застрельщиками которой выступили американские Anthropic, Google и OpenAI, о замедлении ИИ. В тот же день Амодеи поддержали гендиректор OpenAI Сэм Альтман и миллиардер Илон Маск.
Не в восторге от их позиции Дженсен Хуанг — глава американской компании Nvidia, ведущего поставщика чипов на мировой рынок для сектора ИИ, а также Марк Цукерберг, гендиректор и главный совладелец корпорации Meta. Хуанг 14 сентября давал интервью подкасту All-In на сцене одноименной конференции в Лос-Анджелесе. Во время беседы ему позвонил Дональд Трамп, сообщило американское издание Axios.
Глава Nvidia включил громкую связь, и его разговор с президентом США услышал зал. «Роботы не захватят власть, ИИ не захватит остальной мир, вся эта история — обман», — сказал Трамп Хуангу, имея в виду волну предупреждений о катастрофических рисках ИИ, уточняет Axios. Кроме того, в эмоциональном запале Трамп назвал любые попытки ограничить технологии ИИ «частью больного заговора». Глава Nvidia ответил: «Мы позаботимся о том, чтобы в американской ИИ-гонке выиграли все».
Но Nvidia напрямую заинтересована в продолжении ИИ-бума, отмечает Axios. По данным Silicon Analysts, Nvidia контролирует 80 процентов мирового рынка ИИ-ускорителей — чипов для дата-центров. Американский технологический сайт TechCrunch оценивает позицию Хуанга также скептически. Ведь замедление и ужесточение регулирования ИИ наверняка обернутся для Nvidia потерей немалой части прибыли.
Сам Хуанг усматривает в предупреждениях о киберугрозах со стороны ИИ коммерческий интерес сектора информационной безопасности, пишет Axios. «Есть ли лучший способ создать спрос, чем создать проблему?» — приводит издание слова главы Nvidia на конференции Goldman Sachs в Сан-Франциско. «Кто не хочет, чтобы его продукт вызывал на рынке истерию, а очередь за ним уходила за угол?» — цитирует Хуанга Forbes.
«Нам не нужны новые законы, не нужны новые правила», — заявил Хуанг 15 сентября в беседе с главой фирмы Salesforce Марком Бениоффом на конференции Dreamforce. «Безопасность — не юридическая, а инженерная задача», — цитирует Хуанга Bloomberg. Удерживать ИИ-разработчиков от выпуска небезопасных продуктов, по логике Хуанга, будет свободный рынок. Хуанг также повторил свой старый тезис: выбор между скоростью разработки и безопасностью ИИ — ложная дилемма, пишет Bloomberg. «И того, и другого вполне можно добиться одновременно, — цитирует Хуанга TechCrunch. — Так что бегите так быстро, как можете».
Реакция Китая
В выступлении 12 сентября Дарио Амодеи призвал США договариваться об ограничениях в сфере ИИ с КНР, но при этом назвал Китай «авторитарной страной, которая может злоупотреблять технологией ИИ». Уже на следующий день, 13 сентября, ряд китайских изданий опубликовал, по сути, отповеди главе Anthropic.
Журнал China Cyberspace вышел со статьей министра госбезопасности КНР Чэнь Ивэня. Он, в частности, пишет: «Некоторые страны используют накопленные преимущества в сфере ИИ и, прикрываясь риторикой о «защите нацбезопасности», жестко ограничивают доступ других государств к передовым технологиям. ИИ стал главным полем технологической конкуренции и новой ареной стратегического соперничества крупных держав». Автор подчеркивает, что администрации и Байдена, и Трампа тормозили и тормозят развитие ИИ в Китае санкциями на чипы, на что Пекин отвечает разработкой собственных процессоров.
Газета Global Times на китайском и английском языках опубликовала колонку, в которой инициатива Амодеи названа частью «руководства по холодной войне», направленной на сдерживание КНР. Призывы и действия американских компаний охарактеризованы в публикации «лицемерными и недальновидными», реальная цель которых — сохранить доминирование США и отключить Китай от глобального управления ИИ.
По совпадению также 13 сентября тему ИИ на XVIII саммите БРИКС в Нью-Дели затронул председатель КНР Си Цзиньпин. Естественно, его речь нельзя считать прямой реакцией на американские призывы к замедлению ИИ, но все же. Лидер Китая выступил с пятью инициативами, среди которых на первое место поставил доступность ИИ с открытым исходным кодом. «Китай будет первым создавать специальную зону опенсорс-ИИ в рамках БРИКС, поддерживать сотрудничество в разработке и внедрении больших языковых моделей и проводить тематические курсы повышения квалификации по искусственному интеллекту в целях формирования открытой экосистемы ИИ», — сказал Си Цзиньпин.
На следующий день, 14 сентября, на пресс-конференции в Пекине на конкретный вопрос об американских призывах к замедлению ИИ ответил официальный представитель МИД КНР Го Цзякунь: «Нагнетание страха, конфронтация и злонамеренная конкуренция лишь нарушат процесс глобального управления ИИ и не послужат ничьим интересам. Развитие ИИ касается общего благополучия всего человечества». В тот же день, 14-го, китайские власти опубликовали третью версию концепции управления безопасностью ИИ. О его замедлении в документе ни слова.
Кому выгодно нагнетать страх
В России первым из известных персон откликнулся на призывы к замедлению ИИ глава Российского фонда прямых инвестиций (РФПИ) Кирилл Дмитриев. «Нельзя загнать джинна обратно в бутылку», — написал Дмитриев 13 сентября в соцсети X. Так он прокомментировал публикацию газеты Financial Times о позиции Амодеи, Альтмана и Маска.
В унисон с комментарием Дмитриева прозвучали минимум два выступления 13-14 сентября. В эфире телеканала CNBC 13 сентября глава компании-разработчика софта для кибербезопасности Crowd Strike Джордж Курц заявил, что снижение темпов разработки нейросетей не устранит риск, поскольку потенциально опасные ИИ-модели уже доступны широкому кругу пользователей. «Джинн вырвался из бутылки», — констатировал Курц.
Скептически к призывам замедлить ИИ отнесся и крупный владелец австралийских дата-центров Беван Слэттери, сообщило издание The Australian. «Мы не загоним джинна обратно в бутылку», — сказал он 14 сентября на конференции инвесторов. «Anthropic, Маск, Альтман — они считают, что нам стоит сбавить темп, — продолжил Слэттери. — Но это продлится лишь до выхода следующих версий китайских передовых нейросетей Kimi K3.5, Kimi K4 или чего-то подобного. Так что, думаю, нас ждет постоянная «гонка вооружений» в этом направлении».
(Окончание в следующем номере.)