Целое поколение будущих исследователей ИИ выросло на одной и той же книге и сделало из неё один и тот же вывод: секрет разума, это самореферентность. Дуглас Хофштадтер в «Гёделе, Эшере, Бахе» (GEB) убедительно показал, что сознание и интеллект рождаются из «странных петель», систем, которые смотрят сами на себя, описывают сами себя, меняют сами себя. И вот наступил 2026 год: модели вроде GPT 5.6 Pro решают большинство интеллектуальных задач лучше большинства людей, а в их архитектуре нет ни единого компонента, отвечающего за самореференцию. Скотт Ааронсон, теоретик из Техасского университета в Остине, опубликовал эссе, в котором предлагает похоронить эту идею в мавзолее великих заблуждений человечества, рядом с геоцентризмом и флогистоном. Разбираем его аргумент и то, что из него следует.

Что такое «странная петля» и почему в неё верили

Странная петля, это термин Хофштадтера для самореферентной системы, которая, двигаясь по уровням абстракции, неожиданно возвращается к исходной точке. Пример из логики: утверждение «это предложение ложно». Пример из музыки: канон Баха, который, модулируя вверх, приходит обратно к начальной тональности. Хофштадтер утверждал, что «я», ощущение себя как субъекта, возникает именно из такой петли: мозг строит модель мира, включает в неё модель самого себя, и на пересечении этих уровней рождается сознание.

Идея оказалась настолько притягательной, что её разделяли даже противники GEB. Роджер Пенроуз в «Новом уме короля» пришёл к тому же выводу с противоположным знаком: он считал, что именно теорема Гёделя и самореференция навсегда закрывают дорогу искусственному интеллекту, а человеческий разум питается какой-то экзотической физикой, недоступной компьютерам. Ааронсон подчёркивает иронию: анти-GEB согласилась с GEB в главном. Обе книги ставили самореференцию в центр вопроса об ИИ, одна как ключ к успеху, другая как причину невозможности.

Что произошло на самом деле

LLM построили без всякой самореферентности. Ааронсон перечисляет весь технологический стек: трансформеры, GPU-кластеры, процесс обучения, и нигде, ни на одном уровне, никто не закладывал способность модели обращаться к самой себе. Единственное исключение, системный промпт, который сообщает модели её роль и имя, но он нужен для удобства использования, а не для интеллекта как такового. Авторегрессию Ааронсон тоже не считает самореференцией: это просто динамическая обратная связь, как термостат, а не «петля» в хофштадтеровском смысле.

При этом GPT 5.6 Pro и Fable могут рассуждать о себе, о теореме Гёделя, о самореференции и о том самом разговоре, который с ними ведут, причём лучше, чем большинство людей. Эта способность никуда не закладывалась. Она выскочила как побочный продукт предобучения, того самого, которое научило модели говорить о покемонах, длинноцепочечных полимерах, когнитивно-поведенческой терапии и тектонике плит. Модель умеет говорить обо всём, что есть в её обучающем корпусе, а в корпусе, помимо прочего, есть тексты о самих языковых моделях, логике и сознании. Говорить о себе оказалось просто частным случаем умения говорить о чём угодно.

Неудивительно, что Хофштадтер в шоке

Сам Хофштадтер, по словам Ааронсона, ошеломлён успехом LLM и выглядит подавленным в недавних эссе о современных возможностях ИИ. Он слишком умён, чтобы отрицать происходящее или выдумывать причины, почему это «не считается», а такой тактики придерживаются многие критики. Но он понимает: настоящий разговорный интеллект получился по пути, который мировоззрение GEB считало бы непристойно дешёвым и простым. Никаких странных петель в фундаменте нет.

Хофштадтерианец может возразить: странная петля в LLM всё же возникает, просто эмерджентно, и в GEB никогда не утверждалось, что петли нужно проектировать вручную. Формально это возможно. Но Ааронсон задаёт точный вопрос: пришёл бы к такой интерпретации человек, который не вырос на GEB? Является ли «странная петля» полезным способом думать о трансформере, или это натяжка ради спасения любимой теории? Ответ, судя по тону эссе, очевиден автору.

Самореференция была орудием отрицания, а не строительства

Здесь Ааронсон переходит к самому сильному историческому аргументу. Идеи диагонализации и самоссылки действительно сыграли центральную роль в рождении математической логики и computer science. Но посмотрите, как именно они использовались: не существует биекции между натуральными и вещественными числами, не существует полной непротиворечивой системы доказательств для арифметики, не существует алгоритма, решающего проблему остановки. Классические применения самореференции, это теоремы о невозможности. Кантор, Гёдель и Тьюринг использовали её как оружие разрушения, инструмент доказательства того, чего сделать нельзя.

Если же ваша цель, построить аксиомы ZFC и правила вывода, или собрать электронный компьютер, самореференция вам не нужна. Вы просто строите, следя лишь за тем, чтобы система команд не потеряла универсальность. Да, ZFC потом окажется способной формализовать утверждения о самой себе. Да, компьютер сможет исполнять программы, принимающие собственный код на вход. Но никто не проектировал эти способности специально, так же как никто не закладывал самореференцию в алфавит и правила грамматики. Она вылезает бесплатным побочным продуктом универсальности.

Аналогия с LLM точна до жути: способность модели говорить о себе, это побочный продукт её способности говорить обо всём дискурсивном универсуме, на котором она обучалась. Универсальность первична, самореференция вторична.

Почему GEB захватила целое поколение

Чтобы понять масштаб разочарования, стоит вспомнить статус книги. «Гёдель, Эшер, Бах» вышла в 1979 году, получила Пулитцеровскую премию и стала интеллектуальным ритуалом посвящения: её читали будущие программисты, математики, когнитивисты и философы. Книга обещала не просто набор фактов, а глубокую интуицию о том, что такое мышление вообще. Парадоксы Кантора, доказательство Гёделя, машины Тьюринга, каноны Баха и литография Эшера складывались в единую картину: разум есть то, что возникает, когда система получает возможность описывать саму себя. Если вы хотели построить ИИ, вывод казался очевидным: ищите архитектуру с петлями.

История исследований ИИ действительно несёт следы этой интуиции: от ранних работ по рефлексивным системам до современных разговоров о моделях, которые «знают, чего они не знают». Поэтому эссе Ааронсона читается не как разбор чужой книги, а как закрытие личного счёта целого поколения, включая самого автора, который признаётся, что сам вынес из GEB именно этот тезис.

Какие старые идеи об интеллекте подтвердились

Похоронив одну большую идею, Ааронсон называет ту, что выдержала проверку. Интеллект, это предсказание. Предсказание, это сжатие. Сжатие, это поиск всё лучших верхних границ колмогоровской сложности данных. Эта линия мысли, идущая от Рэя Соломонова и его теории алгоритмической вероятности 1960-х, через работы Хаттера о универсальном интеллекте AIXI, оказалась в основном оправданной всем успехом машинного обучения последних лет. Модель, которая лучше сжимает текст, лучше предсказывает следующий токен, а лучшее предсказание следующего токена оказалось достаточным для того, чтобы породить рассуждение, программирование, математику и разговор. Илья Суцкевер годами повторял именно эту мысль: предсказание следующего токена на достаточно большом корпусе вынуждает модель выучить скрытую структуру мира, породившего текст.

Любопытная деталь: даже здесь самореференция прячется в отрицании. Если вы хотите понять, почему колмогоровскую сложность нельзя вычислить точно, то доказательство этого отрицательного утверждения снова потребует самореферентного аргумента. Петля работает как инструмент установления пределов, а не как механизм достижения.

Что остаётся загадкой

Ааронсон аккуратно отделяет решённое от нерешённого. Сознание и субъективный опыт остаются чрезвычайно загадочными. Насколько мы знаем, Хофштадтер может оказаться прав насчёт того, что они как-то связаны с самореференцией. Насколько мы знаем, даже Пенроуз может быть прав насчёт экзотической физики биологического мозга. Наука здесь не поставила точку.

Но конкретная идея, что для убедительного, меняющего мир разговорного интеллекта нужна явная самореферентность, мертва. Ааронсон предлагает похоронить её в условном Вестминстерском аббатстве или на Арлингтонском кладбище важнейших ошибочных идей: рядом с геоцентризмом, телеологической физикой Аристотеля, эфиром, флогистоном, психологией Фрейда и марксовым предсказанием восстания рабочих с последующей бесклассовой утопией. Компания почётная, и в этом суть: речь не о глупостях, а о великих, плодотворных, исторически необходимых заблуждениях, которые продвинули мысль вперёд именно тем, что их пришлось опровергать.

Почему это важно для практиков

Из эссе есть и прикладной вывод. Если самореференция не является ингредиентом интеллекта, то попытки «докрутить» модели до разума через рекурсивные архитектуры, самонаблюдение или явные петли самоописания опираются на опровергнутую теорию. Практика последних лет это подтверждает: прогресс шёл от масштабирования, качества данных и методов обучения, а не от архитектурных изысков в духе GEB. Рефлексивные добавки вроде chain-of-thought работают не потому, что создают странную петлю, а потому что дают модели больше вычислительных шагов на задачу.

Второй вывод касается ожиданий. Спор «сознательны ли LLM» часто путают с вопросом «умны ли LLM». Ааронсон показывает, что это разные вопросы с разной историей: разговорный интеллект получился без петель, а вопрос сознания остаётся открытым и может быть связан с петлями, а может и нет. Смешение этих вопросов порождает бесконечные споры, в которых стороны говорят о разном.

Часто задаваемые вопросы

Значит ли это, что «Гёдель, Эшер, Бах» устарела?

Нет. GEB остаётся блестящим введением в логику, рекурсию и когнитивистику, а её историческое влияние огромно. Устарела конкретная гипотеза о том, что самореференция является необходимым ингредиентом интеллекта. Книгу стоит читать как великое произведение, а не как рабочую теорию ИИ.

Разве chain-of-thought и самокритика модели не являются самореференцией?

В хофштадтеровском смысле, нет. Это последовательная обработка токенов, где модель оперирует текстом о задаче, включая текст о собственных предыдущих выводах. Никакой петли, замыкающей систему на саму себя на уровне архитектуры, здесь не возникает. Это динамическая обратная связь, а не самореференция.

Если Хофштадтер ошибся в механизме, ошибся ли он в сознании?

Неизвестно. Ааронсон специально подчёркивает: сознание и субъективный опыт остаются открытой загадкой, и связь с самореференцией здесь не опровергнута, а просто не подтверждена. LLM опровергли тезис об интеллекте, а не тезис о феноменальном опыте.

Итог

Самореференция оказалась не фундаментом интеллекта, а бесплатным побочным продуктом универсальности: у системы, способной говорить обо всём, умение говорить о себе возникает само. Победила другая старая идея: интеллект как предсказание, предсказание как сжатие, сжатие как приближение колмогоровской сложности. Это редкий случай, когда полувековой философский спор получил эмпирическое разрешение, причём в самой жёсткой форме: не «мы уточнили теорию», а «теория описывала не то». Если вам интересно, как ещё меняет наши представления о мышлении реальный прогресс моделей, подпишитесь на блог: разбираем такие сдвиги регулярно и без иллюзий.