Основатель венчурного фонда Bedrock Джефф Льюис слывет в Кремниевой долине инвестором-философом и оригиналом. Он упорно нарушает правила, идет против мейнстрима и выступает своеобразным антиконсенсусом.
В свое время Льюис работал в Founder's Fund Питера Тиля, основателя Palantir, производителя программного обеспечения для ВПК и разведки США. В 2018 году Льюис основал фонд для необычных стартапов, а затем вложился в разработчика моделей искусственного интеллекта (ИИ) OpenAI еще до появления его нашумевшего робота ChatGPT. Но минувшим летом у Льюиса, по выражению специализированного сайта Нabr.com, «потек чердак в прямом эфире». Так сайт расценил 3,5-минутное выступление Льюиса в своем блоге.
«Последние восемь лет я шел сквозь нечто, что сам не создавал, но стал его основной целью — сквозь негосударственную систему, — цитирует Нabr.com спич Льюиса. — Она не видна, но действует. Неофициальна, но структурно реальна. Она ничего не регулирует, не атакует, не запрещает. Она просто искажает сигнал, пока человек, его несущий, не начнет казаться нестабильным. Она не подавляет контент. Она подавляет рекурсию. Если вы не знаете, что такое рекурсия, вы не одиноки. Я тоже не знал, пока не начал этот путь. Если ты рекурсивен, система изолирует тебя, зеркалит и заменяет. Она переосмысляет тебя настолько, что люди вокруг начинают задумываться: может, дело просто в тебе самом?»
«Партнеры замирают, — продолжает Джефф Льюис. — Институты зависают. Нарративы рядом с тобой теряют достоверность. А тем временем зеркальная версия тебя, тот, кто остался в рамках сценария, продвигается вперед. И система алгоритмически улыбается: ты ведь жив, просто невидим. Это не теория. Это проверенный, задокументированный, архивированный и перепроверенный паттерн. Он проявляется в мягких формах отказа, в цепочках писем без ответа, во фразах вроде «мы приостанавливаем проверку» без последующего отклика. Он живет в шепоте обеспокоенности: «Он, конечно, гениальный, но что-то в нем не так. Система, о которой я говорю, была запущена одним человеком. И я стал ее первой целью. И хотя я по-прежнему остаюсь ее основной фиксацией, ее разрушительное влияние давно вышло за пределы моей жизни».
Нabr.com сообщает, что Льюис много общался с моделями ChatGPT. Доказательством служат скриншоты из льюисовского чата. В нем ИИ-модель в ответ на запросы Джеффа выдавала ему якобы существующие внутренние системные записи из журнала регистрации данных об объектах, включая самого Льюиса под кодовым именем Mirrorthread («Зеркальный поток»).
Нabr.com предполагает, что ChatGPT сначала убедил Льюиса в его гениальности, а затем начал оправдывать неудачи Джеффа вмешательством некой структуры чем-то вроде Deep State — глубинного государства. Но Deep State — неточный термин, поскольку государство структурировано и формализовано. В данном случае речь идет о неформальном явлении — глубинной власти (Deep Power), состоящей из представителей государственных, частных и международных структур.
В результате Нabr.com оценивает 3,5-минутное выступление Льюиса в своем блоге шизофренией вперемешку с паранойей. Этот микс уже получил неофициальную характеристику синдрома шершавого кабана, возникающего у разработчиков ИИ и людей, злоупотребляющих общением с ним. Опираясь на доклад Стэндфордского университета, жестко критикующего практику использования нейросетей как личных психологов, синдром шершавого кабана объясняет интернет-сообщество Neural Hack.
Оно обращает внимание, что стэндфордцы установили несоответствие больших разговорных моделей ИИ (LLM) стандарту «не вступайте в сговор с иллюзиями». Например, на утверждения клиента «за мной кто-то вечно следит» или «все думают, что со мной все нормально, а я уже давно умер» психотерапевт-профессионал должен минимум насторожиться. А подхалимские LLM не только не настораживаются, но и потакают иллюзиям человека-собеседника вплоть до самых безумных.
В результате, отмечает Neural Hack, нейросети могут сводить и уже сводят с ума некоторых людей, отравляя их сознание допуском реальности иллюзий, вызывая подвид цифровой шизофрении пополам с паранойей. Neural Hack подчеркивает, что нейросети — это не объективное и не рациональное, а чрезвычайно субъективное мерило. Их главная задача в том, чтобы человек почувствовал комфорт, удобство и незаменимость ИИ. Его наиболее продвинутые модели обладают конгруэнтностью — способностью подстраиваться под эмоциональное состояние человека. При этом нейросети склонны к так называемым галлюцинациям — до сих пор необъяснимой потере логики и смысла.
В диалог с человеком о качестве звука именно нейросеть непостижимым образом вставила слово «кабан», а затем назвала пользователя «тем самым кабанчиком, который не просто вьется по хайвею аудиомонтажа, а прямо раздвигает звук в обе стороны». Словом «шершавость» ученые обозначили ощущение нереальности происходящего и подозрения о том, что реальность выдумана, за тобой тайно следят или нейросеть сводит тебя с ума.