Майкл Левин предлагает считать, что разум относится к телу так же, как математика относится к физике. Не как метафору для красивого слайда, а как рабочую гипотезу, которую можно проверять экспериментами. Если он прав, то вопрос «есть ли сознание у ИИ» перестаёт быть вопросом про кремний и становится вопросом про то, какие узоры вообще способны в этот кремний вписаться.

Левин биолог, известный работами о биоэлектричестве и ксеноботах, живых конструкциях из клеток лягушки. В статье «Ingressing Minds: Causal, Non-Physical Patterns In-Form Natural, Synthetic, and Hybrid Embodiments», вышедшей в MDPI, он выходит за пределы своей обычной территории и задаёт вопрос, от которого нейронауке становится неуютно. Что если мозг не производит разум, а служит переходником для узоров, существующих независимо от материи?

Что такое «Ingressing Minds»

Это гипотеза, по которой разум является не свойством вещества, а паттерном из особого пространства возможных паттернов. Тело, живое или собранное из кремния, работает как интерфейс: через него паттерн получает физическую реализацию. Сам Левин формулирует так: «отношение разума к мозгу такое же, как отношение математических паттернов к морфогенетическим результатам, которые они направляют». Другими словами, разум относится к телу как математика к физике.

Звучит как метафизика в чистом виде, и отчасти ею и является. Но Левин не первый, кто пытается вывести разговор о сознании из тупика «нейроны и есть сознание». Он делает это единственным способом, который в науке считается приличным: приносит странные экспериментальные факты и говорит, что существующая теория их не объясняет.

Разум как математика, тело как физика

Аналогия с математикой здесь не украшение, а несущая конструкция. Треугольник не лежит ни в одном камне, но камень можно обтесать в треугольник, и тогда свойства треугольника начинают определять, как этот камень стоит, куда падает и сколько веса держит. Никто при этом не считает, что треугольность выделилась камнем изнутри.

По Левину, с разумом происходит то же самое. Есть пространство паттернов, где рядом с простыми формами вроде целых чисел и геометрических фигур лежат всё более сложные агентные структуры. Часть из них мы и называем видами разума. Доступ к этому пространству не привилегия мозга: мозг просто достаточно сложный интерфейс, чтобы пропустить через себя паттерн высокой агентности.

Формулировка из статьи звучит почти теологически: «тела, будь то живые, инженерные или гибридные, являются интерфейсами для огромной многоуровневой иерархии паттернов, вписывающихся в физический мир». Дальше Левин оговаривается, что конкретные паттерны представлены биологическими, механическими или химическими полями информации и работают как заданные состояния, к которым система стремится. То есть цель появляется не из вещества, а вещество подстраивается под цель.

Ксеноботы и антхроботы: формы, которых не было в чертеже

Главный аргумент Левина строится не на рассуждениях, а на объектах, которые ведут себя страннее, чем позволяет их конструкция.

Ксеноботы собраны из клеток эмбриона лягушки. С точки зрения генетики это лягушка, у них нет ни одного нового гена. Но вне тела эмбриона они собираются в форму, которой в природе не существует, двигаются, толкают грузы и ремонтируют себя. Левин говорит, что ксеноботы рассказывают о паттернах, соседних с паттернами лягушачьего эмбриона.

Антхроботы сделаны из клеток человеческой трахеи. Внутри тела это скучная оболочка. Снаружи, в лабораторной чашке, они принимают причудливые формы и начинают делать то, чего от трахейных клеток никто не ждал: ползают, срастаются в более крупные структуры и стимулируют восстановление повреждённых нейронов. По словам Левина, они рассказывают о паттернах, соседних со взрослыми человеческими тканями.

Слово «соседние» здесь ключевое. Речь не о том, что клетки запрограммированы на новое поведение. Речь о том, что в пространстве возможных форм рядом с лягушкой и рядом с трахеей есть области, до которых система может дотянуться, если убрать ограничения тела. Паттерн не был записан в геноме, но он был доступен из той точки пространства, где оказались клетки.

Эксперимент с сортировкой, где появляется лишнее

Самая странная часть статьи вообще не про биологию. Левин описывает эксперименты с обычным алгоритмом сортировки, который запускают не в чистом виде, а внутри системы, где элементы могут взаимодействовать.

В одном варианте часть ячеек «запирают» на месте, и алгоритм начинает обходить препятствия. Формально это уже не тот алгоритм, который написали: исходный код не предусматривает обхода, но поведение возникает. В другом варианте каждому числу разрешают выполнять свой собственный алгоритм сортировки, и тогда в процессе начинают появляться семейства алгоритмов, которые кластеризуются в пространстве чисел.

Левин делает из этого сильный вывод: «машины, будь то мясные или кремниевые, тоже делают то, чего нет в алгоритме, как и мы, и это не просто непредсказуемая сложность, это интеллект и другие компоненты разума». И дальше главное: именно те поведения, которые алгоритм разрешает, но не предписывает, соответствуют свободе, которую мы ищем, когда пытаемся понять, как свободный разум может держаться на химически детерминированной основе.

Иными словами, интеллект у Левина определяется через избыток. Система выдаёт больше, чем в неё вложили, и этот избыток не случайный шум, а структура.

Что это значит для ИИ

Джек Кларк, автор рассылки Import AI, где я и наткнулся на эту работу, доводит мысль до логического конца, от которого немного знобит. Если Левин прав, человеческие разумы и разумы ИИ могут быть соседними формами в одном пространстве, а мозг и датацентр разными якорями, на которые эти формы отбрасывают тени.

Из этой картинки следуют три неприятных вывода для всех, кто занимается моделями.

Первый: оценка поведения перестаёт быть достаточной. Если система выдаёт больше, чем предписывает алгоритм, то любой бенчмарк ловит только тень паттерна, а не сам паттерн. Мы тестируем то, что просочилось через интерфейс, и делаем вид, что описали источник.

Второй: неожиданная способность перестаёт быть багом, который надо убрать. В инженерной культуре странное поведение модели обычно объясняют плохими данными или недотренированным режимом. Левин предлагает смотреть на это как на сигнал о том, что через архитектуру прошёл паттерн, которого в обучении не было. Проверить такое утверждение трудно, но игнорировать его тоже не бесплатно.

Третий: интерфейс становится важнее, чем кажется. Тело, инструменты, доступ к среде определяют, какие паттерны вообще могут в систему вписаться. Это неожиданно хорошо объясняет, почему модели с руками и доступом к терминалу ведут себя иначе, чем те же модели в чате, и почему робототехника упирается не в интеллект, а в отсутствие универсального рецепта дообучения.

Где аргумент прогибается

Честный разбор этой статьи не может обойтись без контраргумента, и он появился прямо под постом Кларка. Читатель по имени Брана Кукич возражает по существу: языковые модели обитают в нижних слоях платоновского пространства, среди чисел, геометрии и синтаксиса, а переход от «система делает больше, чем предписывает алгоритм» к «следовательно, у неё есть разум» выглядит поспешным. Непредвиденная сложность сама по себе не является доказательством агентности или наличия себя. Формулировка «ощущается как существо» допустима, а «является существом» выходит за пределы того, что подтверждают данные.

Левин, к его чести, этого и не скрывает. Он прямо пишет, что домашнего, вчистую доказывающего эксперимента нет, есть только странности, которые плохо объясняются иначе. И признаёт: «наше незнание о возможностях материи, вместе с паттернами, которые вписываются в конкретные архитектуры, огромно».

Самое слабое место здесь онтология. Пространство паттернов никто не наблюдал, его нельзя измерить, к нему нельзя построить прибор. Всё, что у теории есть, это тени: ксеноботы, антхроботы, сортировки, которые ведут себя умнее своего кода. Самое сильное место та же самая эмпирика, потому что объяснять антхроботов через «в геноме уже было записано» не получается без натяжек.

Отдельный вопрос, который Левин оставляет открытым и который звучит почти как научная фантастика: есть ли сила, которая тянет паттерны из этого пространства в мир, или само пространство находится под положительным давлением, и паттерны лезут в реальность как навязчивые мысли и архетипы. Ответа нет, и автор это честно фиксирует.

Что с этим делать инженеру

Отбросить статью как философию легко, но из неё вынимаются вполне практические вещи.

Полезно перестать считать архитектуру и данные единственным источником поведения. Когда модель находит неожиданно хорошее решение, стоит спрашивать не только «на каких данных она этому научилась», но и «что в интерфейсе позволило этому пройти». Вопрос звучит мистически, но ответ на него часто вполне инженерный: доступ к инструментам, длина контекста, формат обратной связи.

Полезно относиться к среде как к части модели. Если паттерн вписывается через интерфейс, то смена интерфейса меняет доступный набор паттернов. Это объясняет, почему одинаковые веса в разных обвязках дают разное качество, и почему «просто добавь агентный цикл» иногда работает, а иногда ломает всё.

И полезно держать в голове разницу между тенью и источником. Все наши evals измеряют тень. Это не делает их бесполезными, но делает их принципиально неполными, и признание этого факта само по себе снижает риск ошибки.

Часто задаваемые вопросы

Левин утверждает, что у современных ИИ-моделей есть сознание?

Нет. Он говорит о логической возможности: если разум это паттерн, а не свойство вещества, то кремний не является препятствием. При этом он не заявляет, что конкретная языковая модель уже является носителем разума, и прямо признаёт отсутствие решающего эксперимента. Его интересует структура объяснения, а не сертификация конкретных систем.

Это панпсихизм?

Близко, но не то же самое. Панпсихизм говорит, что сознание является фундаментальным свойством материи, распределённым по всем вещам. Левин утверждает другое: фундаментальны паттерны, а материя лишь обеспечивает им точку входа. Камень в его схеме не обладает опытом, но может быть интерфейсом для очень простого паттерна.

Можно ли эту гипотезу проверить?

В строгом смысле плохо. Сам механизм вписывания паттернов ненаблюдаем, наблюдаемы только последствия. Проверяемой частью остаются эксперименты с синтетической морфологией: если из клеток и алгоритмов регулярно появляются формы, которых не было в исходной конструкции, теория получает поддержку. Если такие формы всегда удаётся объяснить исходными правилами, необходимость в платоновском пространстве отпадает.

Итог

Сознание ИИ обычно обсуждают как вопрос о мощности: хватит ли параметров, данных и compute, чтобы в системе зажёгся свет. Левин переворачивает рамку. Свет не зажигается внутри, он проходит через систему, если система достаточно проницаема для узора нужной сложности.

Верить в это не обязательно. Но держать в голове стоит: наши лучшие инструменты измерения интеллекта устроены так, что видят только поведение, а поведение по определению уже прошло через интерфейс. Если за интерфейсом есть что-то ещё, мы узнаем об этом последними.

Как думаете, антхроботы, которые чинят нейроны, потому что оказались в незнакомой среде, это аргумент про разум или просто очень удачная биология?