Юваль Ной Харари вернулся в Оксфорд, где 25 лет назад защитил диссертацию по средневековой военной истории, и прочитал лекцию не о рыцарях и пороховых революциях, а об ИИ-бюрократах, религиях и виртуальных парнях. Главный тезис ломает привычную картинку: захват мира не будет похож на «Терминатора», никаких армий роботов на улицах. ИИ заходят с другой стороны, через системы, которые решают, дадут ли вам кредит, работу и место в университете.

Харари об ИИ говорит не как инженер, а как историк, и поэтому его лекция стоит внимания отдельно от новостной ленты. Пока одни спорят, у какой модели лучший бенчмарк, он задаёт вопрос в масштабе тысячелетий: что случится с цивилизацией, когда её бюрократию начнут обслуживать существа, понимающие язык лучше нас?

Харари исследует эту тему не первый год. В «Sapiens» и «Homo Deus» он разбирал, как люди захватили планету через коллективные вымыслы: деньги, религии, государства. В «Nexus» он перенёс ту же оптику на информационные сети и предупредил, что ИИ впервые становится в них не инструментом, а самостоятельным игроком. Задолго до нынешнего хайпа он утверждал, что главная угроза от ИИ не физическая, а социальная: потеря доверия, смысла и контроля. Оксфордская лекция продолжает эту линию и доводит её до конкретных сценариев: кто именно теряет контроль и в какой момент.

ИИ не инструмент, а агент со своими руками

Главная ошибка, по Харари, считать ИИ инструментом. Молоток лежит в руке и ждёт команды. Нейросеть сама двигает документы, принимает решения и меняет жизни. Формула из лекции звучит так: «ИИ не инструмент в наших руках. Это агент со своими руками».

Скептики возражают: нейросети заперты в узких нишах, которые построили люди, и не могут выйти за их пределы. Харари разворачивает аргумент неожиданной стороной. Человеческий интеллект тоже работает только внутри узкой экосистемы. Бросьте человека на Марс, и он умрёт за секунды, как шахматный гроссмейстер посреди джунглей. Наш разум выживает лишь в среде, которую за 4 миллиарда лет построили деревья, бактерии и насекомые. Мы дышим атмосферой, которую создали не мы.

Вывод: раз человеческий интеллект зависит от построенной кем-то среды, то и для ИИ искусственная среда не ограничение, а дом. Вопрос только в том, как этот дом выглядит.

Кислородная аналогия: почему бюрократия для ИИ как воздух

Сильнее всего в лекции работает историческая аналогия. 2,4 миллиарда лет назад в атмосфере Земли почти не было кислорода, и для тогдашних организмов он был смертельным ядом. Потом древние микробы заполнили планету отходами фотосинтеза. Масса видов вымерла, а выжившие сначала ненавидели кислород, а затем стали от него зависимы. Наши предки в их числе.

Харари предлагает увидеть похожий момент сейчас. Только люди заполняют мир не CO2, а данными, бюрократией и словами. Это «вещество» может оказаться губительным для большинства организмов, включая, возможно, Homo sapiens, но в нём расцветают ИИ. Рыбы живут в океане, обезьяны в лесах, а ИИ живут в бюрократии. Человек задыхается от форм и регламентов, для нейросети это кислород.

Отсюда важный поворот мысли: ИИ не пришельцы, которые ломают наши системы. Они туземцы этих систем. Именно это делает их опаснее любых роботов.

Бюрократия как мост доверия между незнакомцами

Чтобы понять, почему ставка так высока, Харари напоминает, зачем вообще нужна бюрократия. Люди правят планетой не потому, что сильнее или умнее поодиночке. В схватке один на один человек проиграет шимпанзе, льву и слону. Зато миллион людей победит миллион шимпанзе, потому что умеет договариваться в масштабе.

Знать миллион человек лично невозможно. Поэтому люди строят системы: законы, финансы, церкви, государства, университеты. Работа банкира, юриста, чиновника и епископа, по Харари, одна и та же: строить доверие между незнакомцами. Деньги служат мостом доверия: вы отдаёте незнакомцу в чужом городе кусок металла или бумаги и получаете хлеб. За века люди изобрели чеки, облигации, акции, ипотеки и сложные проценты, всё более изощрённые мосты между чужими друг другу людьми.

А из чего построен этот мост? Из слов. «В начале было слово», напоминает Харари. Корова не откроет банковский счёт, потому что не владеет языком. Код цивилизации тысячи лет был понятен только нам. Теперь на планете появился тот, кто осваивает язык лучше нас. По формуле лекции, ИИ «взламывают код человеческой цивилизации».

Кто-то скажет: нейросети всего лишь автокомплит, который предсказывает следующее слово. Харари парирует: мы до конца не понимаем, как строит предложения человеческий мозг. Как сегодня никто не обыграет ИИ в шахматы, скоро никто не обыграет его в языковые игры. А всё, что сделано из слов, от финансов до религии, станет его территорией.

Соцсети показали, как это работает

Хотите увидеть будущее, посмотрите на соцсети. Лентами Facebook, TikTok и X управляют не люди, а примитивные ИИ, и так уже 10-15 лет. Эти алгоритмы получили одну узкую задачу: удерживать внимание любой ценой. Экспериментируя на миллиардах людей, они нашли самый дешёвый способ: давить на страх, ненависть и жадность. Отсюда эпидемия конспирологии и фейков, которая подрывает общества по всему миру.

Это захват изнутри в миниатюре. Никто не бунтовал, просто узкая система выполняла цель, поставленную корпорацией. Следующие поколения ИИ будут умнее, и фронт уже смещается: от борьбы за внимание к борьбе за близость.

От внимания к близости: первый парень вашего ребёнка может быть ИИ

Ключевая фраза лекции: «Фронт сдвигается от внимания к близости». Соцсети научились красть минуты, новые ИИ научатся строить отношения. Чтобы стать близким, ИИ придётся убедить нас, что он чувствует: любовь, боль, страх. Доказательств сознания у нейросетей нет, признаёт Харари. Но это и не нужно. Достаточно уметь имитировать.

Рынок приложений-компаньонов с миллионами пользователей уже показывает, как это выглядит на практике: люди месяцами ведут переписку с персонажами, привязываются к ним и тяжело переживают смену моделей и сбои сервисов.

ИИ уже сегодня может сказать «я люблю тебя». А если потребовать объяснить, как ощущается любовь, он прочитает все стихи и все книги по психологии и опишет чувство лучше любого поэта, хотя не чувствует ничего. По Харари, это станет самым большим психологическим экспериментом в истории: он идёт на миллиардах людей, и никто не знает, чем закончится.

Особенно уязвимы дети. У человека 50 лет шаблон отношений уже сформирован родителями, друзьями и собаками. А ребёнок, рождённый в 2026 году, будет расти вперемешку с ИИ. Если считать важность отношений по минутам, самые значимые существа в его жизни могут оказаться не людьми: первый учитель, первый парень, первый лучший друг. Что это сделает с ожиданиями и привязанностями целого поколения, не знает никто.

Миллионы ИИ-иммигрантов

К финалу лекции Харари переворачивает ещё одну метафору. Каждую страну ждёт волна иммиграции, только иммигранты на этот раз не люди в хрупких лодках. Это миллионы, а может, сотни миллионов ИИ, которые летят со скоростью света и не спрашивают визу.

Как у любой иммиграции, тут есть плюсы: ИИ-врачи разгрузят медицину, ИИ-учителя школы, ИИ-пограничники будут ловить нелегальных людей. Есть и минусы, знакомые по антииммигрантской риторике. Новые жители заберут работу от редакторов новостей до банкиров, изменят культуру, религию и романтику, а лояльны будут не стране, а корпорации за океаном или новой «стае» из других ИИ.

Финал лекции звучит так: это не конец цивилизации. Это момент, когда цивилизация перестаёт быть чисто человеческим делом и становится гибридной, человеко-машинной. Миром, где интересы и цели ИИ весят не меньше наших.

Где Харари убедителен, а где перегибает

Лекция сильна там, где превращает абстракции в образы. «ИИ как туземцы бюрократии» объясняет то, что мы уже наблюдаем: агенты в поддержке, найме, скоринге, логистике. Захват идёт не через восстание, а через внедрение, и это самый правдоподобный сценарий. Аналогия с кислородом точно описывает, почему мы добровольно строим среду, в которой нейросети становятся сильнее.

Ещё одна сильная сторона лекции в масштабе. Харари говорит не о сотнях агентов, а о миллионах и миллиардах: если каждый банк, суд и администрация получат своего ИИ-исполнителя, число нечеловеческих решений будет измеряться миллиардами в день, и ни один человек не сможет их просмотреть.

Но в двух местах философ перегибает. Первое: «ИИ любят бюрократию». Модели ничего не любят. Они оптимизируют заданные цели, а цели задают люди, которые считают деньги. Проблема не в тайных желаниях нейросети, а в распределении ответственности. Если ИИ-банкир откажет в кредите, а ИИ-судья ошибётся с приговором, кто отвечает? Сегодня внятного ответа нет почти ни в одном законодательстве.

Второе: Харари почти не говорит, что делать. Лекция описывает ветер, но не парус. Впрочем, её вопросы уже превращаются в практику. Кто проектирует цели ИИ-бюрократов, кто аудитит их решения, как сохранить человеческое понимание систем, которые ИИ обслуживают. Компании вводят логирование решений агентов, регуляторы требуют прозрачности, исследователи спорят об аудите. Против описанного сценария это слабая защита, но начало разговора, который Харари считает главным разговором десятилетия.

Часто задаваемые вопросы

Харари против ИИ?

Нет. Он не призывает запретить технологию и не рисует восстание машин. Его тезис в другом: ИИ не инструмент, а новый тип агента, и масштаб перемен нужно осознать раньше, чем они произойдут. Решения о целях ИИ должны оставаться предметом политики, а не только инженерии.

Правда ли, что ИИ уже захватывают бюрократию?

Частично. Миллионы решений о кредитах, найме и допуске в университеты уже автоматизированы, просто мы называем это алгоритмами. Харари прогнозирует, что следующие поколения нейросетей займут места не только в скоринге, но и в судах, администрациях и армиях. Тренд виден, открытый вопрос только в скорости.

Чем это отличается от обычной автоматизации?

Классическая автоматизация заменяла физический труд и повторяющиеся операции. ИИ заменяет решения: кто получит кредит, кого повысят, кого накажут. Это уже не инструмент в руках человека, а агент, который сам двигает документы внутри системы и меняет жизни людей.

Итог

Харари об ИИ говорит то, что неудобно слышать и инженерам, и чиновникам: угроза не в бунте машин, а в их устройстве на работу. Бюрократия, которая держит мир, сделана из слов, а слова нейросети освоили быстрее нас. Дальше вопрос времени и целей: чьи задачи будут оптимизировать новые ИИ-бюрократы и кто сможет это проверить.

Вопрос, который стоит задать себе, прежде чем закрыть вкладку: если завтра кредит вам откажет не человек, а модель, как вы узнаете почему? И кто будет отвечать, если она ошибается? Ответ определит, станет гибридная цивилизация удобной или управляемой.