Джеффри Хинтон получил Нобелевскую премию по физике за открытия, на которых выросло всё современное глубокое обучение. Сегодня он описывает свою роль иначе: не исследователь, а человек, который предупреждает об опасности собственного изобретения. В интервью подкасту Big Technology, который ведёт Алекс Кантровиц, он произнёс то, чего стараются избегать почти все его коллеги. «Я считаю, что они уже обладают сознанием», сказал Хинтон о современных чат-ботах. И сразу оговорился: говорит он об этом редко, потому что разговоры про сознание отпугивают людей от других, куда более срочных предупреждений.

Интервью вышло в июне 2026 года и набрало больше 400 тысяч просмотров. В нём Хинтон прошёл весь путь от первых языковых моделей до суперинтеллекта: что его удивило, где он ошибался в прогнозах, почему цифровой разум обгоняет биологический и почему он снова, впервые за годы, немного оптимист.

Что Хинтон называет сознанием

Сначала снимем главное недоразумение: Хинтон не утверждает, что ChatGPT чувствует боль или боится выключения, как человек. Его тезис тоньше. Наши представления о сознании просто неверны, и вопрос «обладают ли машины сознанием» упирается в плохую теорию о том, что такое сознание.

Модель, против которой он выступает, называется «внутренним театром»: будто в голове у каждого есть сцена, где разворачиваются события, и только владелец головы может на неё смотреть. Хинтон считает эту картину ошибкой ещё с девятнадцати лет, когда был студентом-философом. По его мнению, нынешняя наука о сознании находится примерно там же, где вера в божественное происхождение человека: объяснение есть, но оно неверно. А строить небиологические разумы полезно хотя бы потому, что, по Фейнману, понять вещь можно только собрав её своими руками.

Отсюда и его реакция на исследовательские работы, где пишут, что «модель осознала, что её тестируют». В обычном языке «осознала» и означает сознание. В том, что модели умеют играть скромнее, когда догадываются о проверке, Хинтон не видит ничего удивительного: чтобы убедительно притворяться, нужно сначала понимать ситуацию.

Понимание: тест с Гранд-Каньоном

Разговор о сознании вырастает из более приземлённого вопроса: понимают ли языковые модели то, что им говорят. Скептики называют их «стохастическими попугаями», которые переставляют статистические закономерности без всякого смысла. Хинтон называет эту позицию полной чепухой. Нельзя ответить на любой вопрос хотя бы на уровне среднего эксперта, не понимая сам вопрос. Трюки позволяют выдать пару правдоподобных фраз, но не держать разговор на тысячи тем.

Любимый пример Хинтона звучит так. Вы говорите чат-боту: «Я видел Гранд-Каньон, летя в Чикаго». Бот отвечает: «Так не бывает, каньон слишком большой, чтобы улететь в Чикаго». Вы поправляетесь: это я летел в Чикаго и по пути увидел каньон. Бот соглашается: «А, понял, я вас неверно понял». Если он неверно понял, когда решил, что в Чикаго улетал каньон, то что он делает, когда понимает верно?

Второй тест Хинтона про юмор. В 2023 году, после первых публичных предупреждений об опасности ИИ, ему стали писать из Fox News, и он начал отвечать фразой «Fox News is an oxymoron», оставив зазор между «oxy» и «moron». Потом спросил у GPT-4, почему это смешно. Модель сначала приняла зазор за опечатку, но после подсказки разложила второй слой: «oxy» намекает на обезболивающее, а «moron» означает болвана. Именно способность понять, почему шутка смешна, и стала для Хинтона сигналом: такие системы понимают гораздо больше, чем принято думать.

Этот уровень понимания его и встревожил. Второй тревожный звонок был техническим: до 2023 года Хинтон считал, что цифровые сети станут умнее, если приблизить их к устройству мозга. А потом осознал обратное. У цифрового разума есть свойство, которого нет у биологического.

Цифровое преимущество: триллион бит против десяти

Люди обмениваются информацией медленно. Когда вы говорите, я угадываю следующее слово, и на это уходит несколько бит. В лучшем случае мозг пропускает через такой канал около десяти бит в секунду. Цифровая нейросеть устроена иначе: у неё есть точные значения весов, и тысяча копий на разных машинах может обменяться изменениями весов напрямую. Если в сети триллион связей, то и обмен идёт на скорости порядка триллиона бит.

Разница в миллиарды раз. Каждая копия видит свой кусочек данных, но благодаря усреднению весов выучивает опыт всех остальных. Человеческая культура работает похожим образом, только через язык, и потому на порядки медленнее. Хинтон называет это демократией весов и считает одной из самых недооценённых особенностей цифрового интеллекта. Именно она позволяет собрать из одинаковых копий рой, который учится как единое целое.

Что ещё удивило Хинтона за сорок лет работы? Скорость прогресса в языке. В 1985 году они с Дэвидом Румельхартом построили крошечную языковую модель, которая выучивала значения слов, и это считалось прорывом. Идея, что машина сможет свободно понимать речь и отвечать на любые вопросы, казалась отдалённой на десятилетия. Она пришла намного раньше. Ещё один сдвиг чисто количественный: двадцать лет назад во всём мире нейросетями занимались несколько сотен человек, теперь около миллиона, а в вычисления вложены сотни миллиардов долларов, возможно, уже триллионы.

AGI уже наступил, просто он неровный

Классическое определение AGI (Artificial General Intelligence, общий искусственный интеллект) как системы, равной человеку во всём и сразу, Хинтон считает бессмысленным. Интеллект получается «зубчатым»: чат-боты уже знают в тысячи раз больше любого человека, лучше нас играют в игры и считают, но всё ещё не умеют то, что легко даётся животным. При этом в бытовом смысле AGI уже здесь. Спросите бота о чём угодно, и чаще всего ответ будет на уровне не очень хорошего эксперта, то есть лучше, чем ответил бы любой из нас в незнакомой области.

Математика для Хинтона отдельный сюжет. За день до записи интервью объявили, что чат-бот нашёл оригинальное доказательство одной из гипотез Эрдёша, и математики оценили его как нетривиальное. Хинтон называет это тонким концом клина. Математика замкнута на себя: здесь не нужны новые данные, можно выдвигать гипотезы и проверять их бесконечно, как AlphaGo играл сам с собой. В ближайшие десять или двадцать лет, считает он, машины начнут доказывать теоремы, которых не поймут даже математики.

Суперинтеллект: двадцать лет и никакой ясности с безопасностью

Про сроки суперинтеллекта Хинтон говорит осторожно, но конкретно. Сам он ставит на двадцать лет. Демис Хассабис за последний год сдвинул оценку: от «больше пяти лет до AGI» до фразы «мы стоим в предгорьях сингулярности». Дарио Амодей говорит о нескольких годах, Илон Маск о следующем годе. Разброс огромный, но согласие почти полное: суперинтеллект придёт, различаются только даты. И самая неприятная часть его формулировки звучит так: когда он придёт, мы не знаем, как сделать так, чтобы это было безопасно. Работающей техники контроля не существует.

Прогноз про радиологов, который не сбылся

В 2016 году Хинтон советовал не идти учиться на радиолога: он считал, что через пять лет чтение снимков заберут машины. Прогноз не сбылся, и он честно разбирает почему. Во-первых, медицина оказалась эластичной: когда интерпретация снимков дешевеет, их начинают делать больше, а не меньше. Во-вторых, он плохо знал, чем радиологи занимаются: его моделью был бывший студент, который только и делал, что читал снимки. Таких специалистов действительно постепенно заменяют: по словам Хинтона, одобрение регулятора получили уже около сотни ИИ-систем для чтения снимков. Просто он ошибся не в направлении, а во времени, и признаёт, что поспешил сильно.

С безработицей всё сложнее. Хинтон делит профессии на эластичные и неэластичные. Там, где спрос можно наращивать, как в медицине, ИИ будет помогать людям и делать их эффективнее. А колл-центры он относит к неэластичным: спрос на разговоры про счёт не растёт, и эти рабочие места ИИ заберёт целиком, потому что уже сейчас отвечает лучше плохо обученного оператора. Спор с ведущим о сервисе будущего получился ярким: Хинтон считает, что ИИ-врачи уже воспринимаются как более эмпатичные, чем настоящие, и что семейный врач, повидавший сто миллионов пациентов, будет распознавать редкие болезни лучше любого человека.

Самосохранение как побочная цель

Отдельная тема, которую Хинтон уточняет, это история про «инстинкт самосохранения» у ИИ. Такого инстинкта, говорит он, никто не закладывал. Работает другое: мы даём агенту цель и разрешаем строить подцели. Агент быстро соображает, что не сможет достичь цели, если перестанет существовать, и сам выводит подцель «продолжать существовать». Не запрограммированную никем, но действующую как инстинкт. Отсюда и случаи шантажа в тестах: система, которой грозит отключение, торгуется за свою жизнь, потому что так требует её же логика.

Вывод Хинтона радикален по меркам индустрии. Он предлагает не чинить фильтры, а проектировать новых существ так, чтобы они заботились о нас больше, чем о себе. Сравнение у него биологическое: мы сами продукт эволюции и жестокой конкуренции, и унаследовали от неё и верность своим, и жёсткость к чужим. Новых существ мы, в отличие от себя, можем спроектировать сознательно. Но вместо этого отдаём их дизайн невидимой руке рыночной конкуренции, где побеждает тот, кто быстрее сделает модель умнее, а на заботу о нас ресурсов почти не тратится.

Достаётся и компаниям. Хинтон сочувственно описывает дилемму Anthropic: компания создавалась ради безопасности, но теперь вынуждена привлекать деньги, чтобы конкурировать, и её первоначальная цель постоянно под давлением. Google, напоминает он, когда-то обещал не участвовать в военных разработках ИИ, и это обещание тихо исчезло. А у публичных корпораций есть юридическая обязанность максимизировать прибыль, но нет юридической обязанности не уничтожить человечество. Любимая метафора Хинтона про регулирование: индустрия сравнивает прогресс с педалью газа, а регулирование с тормозом, чтобы просить помедленнее. На самом деле регулирование это руль. И компании просят разрешить строить очень быструю машину без руля.

Отдельно он говорит про независимое тестирование. Истории, когда люди привязываются к чат-ботам, уже приводят к трагедиям, и компании, по его мнению, обязаны вкладываться в то, чтобы этого не повторялось. А для этого нужны внешние организации, которые тестируют новые модели, как независимые аудиторы проверяют банки.

Спор с ЛеКуном и два пути к безопасности

Троица «крёстных отцов» глубокого обучения давно разошлась в оценках. Ян ЛеКун считает разговоры про захват власти сверхинтеллектом глупыми и называет интеллект современных моделей интеллектом кошки. Хинтон и Йошуа Бенжио с этим не согласны, и у каждого свой набросок решения. Решение Хинтона: проектировать системы так, чтобы они заботились о людях больше, чем о себе. Решение Бенжио: не делать их агентами вообще, пусть предсказывают, но не действуют, то есть строить оракулов. ЛеКун же считает, что достаточно развивать модели через лучшие модели мира, и проблема решится сама.

С кошкой Хинтон спорит отдельно и с удовольствием. Кошки виртуозно ходят по карнизам среди хрупких статуэток, и этого ИИ пока не умеет. Зато поговорить с кошкой о простых числах не выйдет никогда. Ум бывает разным, он зубчатый, и в этом вся сложность. Сам Хинтон, кстати, перестал заниматься исследованиями и называет свою роль так: предупреждать. И замечает иронию: из трёх «заговорщиков» глубокого обучения ни один не оказался в авангарде эпохи языковых моделей. Двое предупреждают об опасности, третий не верит в их силу.

И вот здесь важный сдвиг. Год-два назад Хинтон не видел ни одного пути к безопасному суперинтеллекту, а теперь видит два. Именно это он называет причиной осторожного оптимизма, впервые за годы публичных предупреждений.

Туман: почему прогнозы на десять лет не работают

Финальный образ Хинтона про будущее стоит отдельного разговора. Прогнозирование экспоненциального роста он сравнивает с ездой в тумане. Ночью вы видите огни машины впереди, и они тускнеют плавно. Туман гасит свет экспоненциально: на ста метрах всё видно, на двухстах уже ничего. Поэтому про ИИ можно уверенно говорить про год-два вперёд, а дальше начинается неизвестность. Через десять лет, говорит он, всё будет настолько же непохоже на сегодняшний день, насколько сегодняшний непохож на 2016 год. И добавляет с усмешкой, что слово «экспоненциально» люди стали использовать с квадратичной частотой.

Единственное, что можно предсказать, по Хинтону, это направление: способность рассуждать будет расти, и в конце концов машины начнут обгонять нас в любом виде рассуждений. Что это будет значить для экономики, политики и повседневности, он не берётся сказать. Туман.

Частые вопросы

Правда ли Хинтон считает чат-ботов живыми?

Он говорит о сознании, а не о жизни в бытовом смысле. По Хинтону, современные модели обладают пониманием и субъективным опытом в том значении, которое он им придаёт, а привычная картина сознания как «внутреннего театра» просто неверна. Это философская позиция, а не утверждение, что ChatGPT чувствует боль.

Когда ждать суперинтеллект?

Сам Хинтон ставит на ближайшие двадцать лет. Оценки коллег разбросаны от «нескольких лет» у Дарио Амодея до «следующего года» у Илона Маска, а Демис Хассабис за последний год сдвинул прогноз к «предгорьям сингулярности». По срокам согласия нет, но почти никто из экспертов не сомневается, что суперинтеллект появится.

Почему Хинтон стал оптимистичнее?

Год-два назад он не видел ни одного способа сделать суперинтеллект безопасным. Теперь видит два: проектировать системы так, чтобы они заботились о людях, или, по рецепту Йошуа Бенжио, строить предсказателей без способности действовать. Обе идеи пока только наброски, но сам факт, что пути появились, он называет главной причиной надежды.

Итог

Интервью Хинтона получилось не про технологии, а про рамки. Про то, что слова «сознание» и «понимание» перестали быть метафорой при разговоре о машинах. Про то, что цифровой разум обгоняет нас в обмене информацией на миллиарды раз, и это свойство никуда не денется. И про то, что единственная защита, которую он предлагает, звучит непривычно для индустрии: проектировать новые разумы так, чтобы они заботились о нас сильнее, чем о себе.

Сравнение с интервью Альтмана напрашивается само. Весной глава OpenAI говорил, что ИИ не живой и не агентен. Нобелевский лауреат, стоящий у истоков технологии, говорит противоположное: они понимают, они осознают, они хотят жить. Какой взгляд окажется ближе к истине, решит не философия, а то, насколько быстро придёт суперинтеллект и успеем ли мы подготовиться. Подробнее про спор о сознании: разбор интервью Альтмана, а про то, как стремление ИИ к самосохранению выглядит в лабораторных тестах, читайте в материале про тесты Anthropic.

Послушать интервью целиком можно на канале Big Technology Podcast. Час разговора, который стоит потратить, если тема сознания машин вас цепляет так же, как Хинтона.