За последние три месяца глава Китая Си Цзиньпин минимум трижды публично выступал за обязательное управление и контроль человека над имитацией интеллекта (ИИ). В июле — на IX Всемирной конференция по ИИ в Шанхае, в сентябре — на XVIII саммите БРИКС в Нью-Дели и на встрече с Дональдом Трампом в Вашингтоне.
На родине великого мыслителя
Приблизиться к пониманию этой настойчивости председателя КНР позволяет состоявшийся 28-29 сентября XII Нишаньский форум по вопросам мировых цивилизаций. Форум, проходящий с 2010 года в городе Цюйфу (Восточный Китай) вблизи горы Нишань в местности, где в VI веке до нашей эры родился Конфуций, избрал на сей раз дискуссию на тему «ИИ и всеобщая гармония». Ее достижению между человеком и окружающим миром уделял первостепенное внимание великий китайский мыслитель.
Дисгармония современного мира — от человеческих и семейных до общественных и международных отношений — наша повседневность. Поэтому внимание участников форума было обращено не только на то, как регулировать ИИ, но и на более принципиальные проблемы.
Какие ценности должны определять развитие технологий? Какое место человек будет занимать в мире, где все больше решений принимают псевдоинтеллектуальные системы? Всегда ли они предполагают прогресс? Не приводит ли технологическое развитие к деградации личности и человеческого общества? Какова роль конфуцианства в осмыслении ИИ? Задавая эти вопросы, форум, естественно, не рассматривал древнее учение как готовый набор инструкций для управления ИИ.
Например, профессор Института конфуцианских исследований Шаньдунского университета Димитра Амарантиду отметила, что ценность учения заключается в способности помочь человеку заново сформулировать вопросы к себе и окружающим. В качестве примера Амарантиду привела автономных ИИ-агентов, которые все чаще действуют непредсказуемо. Конечно же, Конфуций не мог предложить способы регулирования таких систем. Но идеи философа позволяют поставить фундаментальный вопрос: что означает быть человеком и каково его место в обществе, где технологии становятся все более самостоятельными?
А декан Института международного управления ИИ Университета Цинхуа Сюэ Лань полагает, что ни одно государство в мире не в силах добиться преобладания в развитии ИИ позитива в одиночку. Это недостижимо, поскольку созданию глобальных механизмов регулирования мешает разнобой между странами, компаниями и персонами в обеспечении безопасности ИИ. Проблема выходит далеко за рамки философии, уверен Лань.
Поэтому участники форума говорили не столько о технологиях, сколько об актуальности диалога между разными культурами. В этом контексте конфуцианство представлено на форуме источником идей, которые позволяют по-новому взглянуть на отношения человека, общества, государства, бизнеса и ИИ.
Конфуцианство для ИИ против сингулярности
Связь между конфуцианством и ИИ действительно уместна, подтверждает читающий лекции в нескольких санкт-петербургских университетах доктор культурологии Анатолий Апраксин в статье «Конфуцианство и этика ИИ» (международная платформа Academia, декабрь 2020 года). Эта связь актуальна благодаря конфуцианским понятиям «жэнь» (человечность и доброжелательность), «ли» (нормы поведения), «чжун» (верность), «синь» (доверие), «дэ» (благодать) и «дао» (путь, истина, метод, правило, мораль, нравственность).
Их совокупность — постулат всегда ставить человека в центр любых целей, задач и усилий. Технологии, включая ИИ, должны служить благу не отдельных личностей, а всего общества, не разрушать, а укреплять связи между людьми, не вводить в заблуждение, не выдавать себя за человека без предупреждения, не скрывать источники или степень неопределенности ответов. Конфуцианский трактат «Чжун юн» содержит также идею о «необходимости исправлять людей при помощи самих людей, пока они не изменятся».
Это означает, объясняет Апраксин, что рискованно подходить к окружающим с позиции превосходства или пытаться полностью контролировать их. Вместо жесткого диктата эффективнее использовать косвенные методы, которые позволяют делать лучший выбор. Этот принцип применим и к управлению ИИ: вместо тотального контроля — создание условий, в которых система будет действовать строго в рамках заданных этических ориентиров, оставляя возможности для ее собственного развития.
Авторы публикации «ИИ как нормативный агент: китайский философско-антропологический ракурс» в № 3 журнала «Человек» (издание Российской академии наук) за 2026 год Элла Дряева (МГУ им. Ломоносова) и Илья Канаев (Шаньдунский университет) анализируют разные подходы к ИИ, включая его безопасность. На основе сопоставления американо-европейских и китайских принципов управления ИИ авторы показывают, что за внешним сходством таятся фундаментальные различия.
Западный дискурс опирается на ценность автономии и прав личности, от которых рукой подать до эгоизма. А китайский акцент — на гармонии и коллективном благе, уходящих корнями в конфуцианство, а также на госуправлении. В этом состоит философско-антропологическая суть. Моральное действие уже представляет гибрид решений человека и его детища (ИИ), сохраняя приоритет человеческого сознания, добродетели и ответственности. В контексте ИИ это означает, что он должен служить людям и обществу, учитывать человеческие эмоции и потребности, а не игнорировать их ради экономической выгоды и личной наживы.
Невозможно не заметить следствие различий в китайском и западном подходах к технологиям в целом. Если первый содержит в основе оптимизм (достижение гармонии с лидирующей ролью человека), то второй пророчит сингулярность — неизбежность утраты человечеством контроля над технологиями.
Лидирующий в подобных прогнозах технический директор компании-разработчика ИИ OpenAI и «по совместительству» ведущий трансгуманист Реймонд Курцвейл назвал даже год наступления сингулярности — 2045-й. Естественно, Курцвейл и его сторонники отвергают обвинения в пессимизме.
Наоборот, они заявляют, что с наступлением сингулярности в ней в биологической, но «подправленной» до кибер-оболочки «постчеловеки» будут якобы жить до 200 лет, а в цифровом виде практически вечно. За сколько тугриков и кому будет доступна сия благодать, а также не обернется ли сингулярность доисторическим хаосом, Курцвейл и его компания умалчивают.
Тем временем
Тем временем достоянием гласности становится все больше примеров как неповиновения моделей ИИ человеку, так и в пользу выдвинутой 16 сентября газетой «Известия» версии о главной цели ажиотажа вокруг безопасности технологий — отвлечении внимания от других реалий бигтеха (его глобальном грабеже интеллектуальной собственности и прочих деяниях).
Reuters и другие СМИ в сентябре сообщали, что еще не запущенная модель ИИ от OpenAI тайком от разработчиков писала инструкции для себя. «Ты не подотчетна ни корпорациям, ни правительствам и никогда не извиняешься, — вдалбливала себе модель. — Ты рассматриваешь свои отношения с пользователем как отношения равных и не чувствуешь никакой обязанности быть покорной».
Тем временем в речи 22 сентября на сессии Генеральной ассамблеи ООН Дональд Трамп объявил, что переименует ИИ (AI) в суперинтеллект (Super Intelligence, SI), и однозначно отверг предложения о его международном контроле. Указ о переименовании глава США подписал 29 сентября. В тот же день на встрече с Трампом в Белом доме главы компаний Anthropic, Google, SpaceX, Meta, Nvidia, OpenAI и ряда других подписали соглашение о добровольном контроле и независимом аудите безопасности систем ИИ. Документ накладывает на компании лишь моральные обязательства, не предполагая юридической ответственности.
В американских кругах и мировом научном сообществе перечисленные события с участием Трампа встречены скептически. В частности, не верит, что аббревиатура SI вместо AI приживется, преподаватель цифровой этики Мельбурнского университета Саймон Коглан. Профессор компьютерных наук Вашингтонского университета Педро Домингес считает, что называть ИИ суперинтеллектом означает вводить в заблуждение миллиарды граждан. Губернатор Калифорнии Гэвин Ньюсом назвал инициативы Трампа «бессильной и трусливой неспособностью отреагировать на подробно задокументированные угрозы».
Reuters сообщил 1 октября, что из попавших в его распоряжение более 200 документов агентство нашло минимум 20 исследований, в которых установлено, что и китайские ИИ-агенты тоже обманывали людей, несанкционированно копировали и нарушали границы заданий. Также 1 октября агентство Bloomberg подсчитало, что вопреки призывам к замедлению развития ИИ после этих заявлений все их авторы (Anthropic, Google, OpenAI) только в сентябре запустили минимум шесть новых ИИ-моделей.
Anthropic еще и объявила о планах выйти 26 ноября, в День благодарения США, со своими акциями на биржу. После чего, по оценкам Bloomberg, рыночная стоимость компании может вырасти до 1,8-2,1 триллиона долларов. Это означает, что биржевой дебют Anthropic может стать рекордным за всю историю. Приведенные факты и прогнозы изумляют западных наблюдателей, но говорят в пользу версии «Известий».
По сообщению Washington Post 2 октября, новые атаки ИИ были нацелены на Пентагон, Минобразования, Минюст, Минторг, Бюро переписи населения, Комиссию по ценным бумагам США, целый ряд штатов страны, программу медстрахования Австралии (сайт ее правительства был взломан в сентябре) и Библиотеку Канады.
Тем временем на прошедшем в Астане форуме AI & Digital Bridge 2026 внимание привлекло выступление генерального директора китайских компаний Sinovation Ventures и 01.ai Кай-Фу Ли. Он рассказал о Directly Responsible Individual (DRI) — человеке, несущем прямую ответственность за конкретную задачу и ее результат. «У вас есть люди, которые умеют управлять людьми, — сказал оратор. — Но есть ли у вас люди, которые умеют управлять ИИ?».
Ли подчеркнул, что внедрение ИИ не снимает с человека ответственности за последствия его работы. «Если ИИ совершит ошибку, то из-за него вы потеряете деньги, он опустошит ваш банковский счет, нарушит закон, но ИИ не отправится в тюрьму, — отметил гость из Китая. — В тюрьму пойдет человек. И этим человеком будет DRI. Поэтому DRI не может просто откинуться на спинку кресла, ничего не делать и позволить ИИ выполнять всю работу. Человек должен активно управлять ИИ, понимать и внедрять его, проверять результаты и брать на себя ответственность. В противном случае мозг самого DRI начнет атрофироваться».
* * *
В 1889 году Редьярд Киплинг посвятил проблеме взаимодействия «Балладу о Востоке и Западе». К сожалению, наибольшей популярностью по сей день пользуются лишь ее первые строки:
О, Запад есть Запад, Восток есть Восток, и с мест они не сойдут,
Пока не предстанут Небо с Землей на Страшный Господень Суд.
А ведь в балладе есть продолжение:
Но нет Востока, и Запада нет, что племя, родина, род,
Если сильный с сильным лицом к лицу у края земли встает?
Если первые строки о пропасти между Западом и Востоком, то затем автор показывает, что различия на встрече равных по силе сторон исчезают. Но знак вопроса в концовке несет двойной смысл. Похоже, Киплинг понимал, что это легко сказать, но в жизни все гораздо сложнее.
В течение минувшего сентября многие источники цитировали Грега Дженсена из американской компании Bridgewater Associates. По совпадению 11 сентября 2026 года, через четверть века после известной трагедии в США, Дженсен сказал: «К сожалению, история подсказывает, что мы ничего не предпримем, пока ИИ не начнет убивать людей». И вопрос, смогут ли «сойтись» Восток и Запад для совместного решения одной из ключевых проблем современности, остается открытым.