Человек, который десять лет пугал мир ИИ-апокалипсисом, больше не пугает. В свежем интервью The Economist Илон Маск звучит не как пророк катастрофы, а как пассажир, который смирился с маршрутом и решил наслаждаться видом из окна. При этом цифры, которые он называет, никуда не делись: 10–20% вероятности того, что ИИ и роботы закончат историю человечества. Просто философия изменилась. Разбираем, что именно он сказал и почему его новый план контроля над ИИ выглядит одновременно разумным и наивным.

Пять лет до превосходства, десять до потери контроля

Маск повторил свой прогноз: примерно через пять лет ИИ превзойдёт суммарный человеческий интеллект. «Не останется ничего, что ИИ не сможет делать лучше людей, кроме, пожалуй, умения быть человеком», говорит он. Следствие, по его логике, это эпоха изобилия, где любой сможет получить всё, что способен вообразить. Звучит как фантастика, и Маск это признаёт: «Это может прозвучать абсурдно, но мы живём в 2026 году. Давайте посмотрим, где мы окажемся в 2036-м».

На прямой вопрос журналиста, правда ли, что через десять лет люди больше не будут контролировать ситуацию, ответ был коротким: «Думаю, это маловероятно». Маловероятно, что люди сохранят контроль. Аргумент он строит через эволюционную аналогию: если разница в интеллекте между ИИ и человеком станет больше, чем разница между человеком и шимпанзе, трудно представить, что шимпанзе останутся у власти. «Мы, по сути, эволюционировавшая форма шимпанзе, добавляет Маск. Ещё недавно мы качались на деревьях и ели бананы. Мы и сейчас едим бананы».

Это редкий случай, когда технологический лидер публично и спокойно соглашается с тем, что его собственная отрасль делает человечество необязательным на вершине пищевой цепи. Без апокалиптической риторики, в тоне прогноза погоды.

Ракета с 20-процентным шансом взрыва

Самый показательный момент интервью случился, когда журналист напомнил Маску его же оценку: 10–20% вероятности того, что роботы-убийцы уничтожат человечество. Раньше Маск говорил об этом с тревогой, теперь выглядит расслабленным. Что изменилось?

«Я пришёл к философскому выводу: смотреть на светлую сторону», объясняет он. «Я не вижу способа остановить этот невероятный импульс ИИ и роботов. Иногда я думаю, что даже если бы существовала кнопка остановки, нажимать её, наверное, не стоило бы, потому что наиболее вероятный исход это невероятное изобилие для всех». Его текущая жизненная позиция формулируется в двух словах: давайте наслаждаться поездкой.

Тут журналист поймал его на противоречии с помощью собственной индустрии: вы бы сели в ракету, зная, что у неё 10–20% шанс взорваться? «Да», ответил Маск и рассмеялся. Но тут же уточнил: это верно только если вы ничего не можете с этим поделать. Единственное доступное действие, по его словам, это минимизировать вероятность плохого исхода.

Отдельно он ушёл в космологию: по стандартной модели физики вселенную ждёт тепловая смерть, долгое скучное остывание до разрежённого серого супа. «Если тепловая смерть вселенной действительно финал нашей реальности, тогда всё сводится к путешествию, потому что пункт назначения ужасен». Космический масштаб рассуждения удобен: на фоне тепловой смерти вселенной 10–20% P(doom) выглядят почти уютно.

Ирония ускорителя: как попытки остановить ИИ ускорили ИИ

Самое честное признание интервью касается собственной роли Маска. Он напомнил, что создавал OpenAI как противовес Google, у которого тогда была фактическая монополия на ИИ. Потом из OpenAI выделился Anthropic, и сейчас именно Anthropic, по его оценке, лидирует в отрасли.

«Эти действия привели к побочным эффектам, которые ускорили ИИ. Это не было моей целью», говорит Маск. «Похоже, все дороги ведут к ускорению ИИ. Тогда я подумал: ладно, можно грустить об этом, а можно вступить в клуб». Пауза. «Вы определённо вступили в клуб», замечает журналист. «Да. Если не можешь победить их, присоединяйся».

Это важный момент для понимания всей истории ИИ-безопасности последнего десятилетия. Почти каждая попытка замедлить гонку или создать ответственного игрока заканчивалась новым участником гонки и новым давлением на остальных. OpenAI как противовес Google породил Anthropic, Anthropic поднял планку безопасности, и в итоге темп только вырос. Маск здесь артикулирует то, о чём многие в отрасли думают, но не говорят вслух: механизм соревнования сильнее любых намерений.

План Маска: пусть лисы проверяют друг друга

Конкретный повод для интервью это предложение Демиса Хассабиса о частно-государственном регуляторе ИИ. Маск рассказал, что говорил с Хассабисом несколько часов до публикации его статьи, и его контрпредложение выглядит проще и радикальнее.

Никаких новых регуляторов на первом этапе. Вместо этого ведущие ИИ-компании проводят регулярные созвоны, раз в неделю или раз в две, и обсуждают вопросы безопасности. Главный элемент: каждая лаборатория получает ранний доступ к новой модели конкурента за неделю-две до релиза и проверяет её. Если находит проблему, сигнализирует. Если компания игнорирует сигнал, вот тогда подключается правительство.

Логика Маска строится на стимулах. Чиновник без глубокой технической экспертизы физически не может оценить, готова ли модель к релизу, потому что не работает на переднем крае. А конкуренты могут: у них есть и компетенция, и мотивация. «У всех конкурентов есть стимул держать остальных честными, объясняет он. Они не будут стесняться указывать, что модель конкурента стоит задержать». Государство в этой схеме не регулятор первой линии, а запасной вариант на случай, если компания проигнорировала тревогу коллег.

Идея не нова по форме, но нова по исполнителям. В авиации и фарме отраслевой обмен данными об инцидентах работает десятилетиями, но там компании не соревнуются за технологическое превосходство, которое переписывает правила каждые несколько месяцев. Предложение Маска фактически превращает самую острую конкуренцию в истории в механизм взаимного надзора.

Где план уязвим

У схемы есть очевидные слабости, и честный разбор обязан их назвать. Первая: конфликт интересов работает в обе стороны. Конкурент заинтересован не только в безопасности, но и в задержке чужого релиза. Флаги рисков могут стать оружием в коммерческой войне, и отличить искреннюю тревогу от саботажа будет трудно, особенно правительству без технической экспертизы.

Вторая: схема не закрывает вопрос открытых моделей и новых игроков. Китайские лаборатории, стартапы, open-source сообщество в неформальные созвоны лидеров не попадают. Третья: история показывает, что добровольные отраслевые соглашения живут ровно до первого момента, когда соблюдение становится дорогим. Вспомним, как быстро испарились обещания о «красных линиях», когда началась гонка рассуждающих моделей.

И всё же у предложения есть одно неоспоримое достоинство: оно реалистично. Оно не требует международного договора, нового законодательства и согласия недружественных государств. Ему нужно, чтобы пять-семь компаний, которые и так читают чужие статьи и измеряют чужие бенчмарки, начали делать это системно и до релиза, а не после.

Личный фактор: детектор зла и дорога в ад

Журналист не мог обойти тему личных конфликтов: лидеры ИИ-индустрии публично оскорбляют друг друга в соцсетях, и трудно представить их за одним столом. Маск подтвердил, что не является поклонником Сэма Альтмана, и сформулировал претензию предельно чётко: «Если вы основали некоммерческую организацию, которая должна была быть open-source компанией, принадлежащей миру, а она каким-то образом превратилась в коммерческую компанию с закрытым кодом и оценкой в 800 миллиардов долларов, вы бы подумали: секундочку, это полная противоположность тому, на что я давал деньги».

Про Дарио Амодея он говорит иначе: Anthropic покинула OpenAI именно потому, что команда не доверяла Альтману, иначе Anthropic просто не существовало бы. Сам Амодей, по словам Маска, «очень принципиальный человек», и ни один сотрудник Anthropic «не включил мой детектор зла». При этом Маск добавляет фразу, которую стоит выписать отдельно: «Дорога в ад вымощена, по большей части, дурными намерениями. Но есть там и несколько благих плиток, так что самоуспокаиваться нельзя».

Это редкое сочетание: публичное признание конкурента этичным при сохранении претензий к другому. Для отрасли, где диалог часто сводится к перепалкам, даже такой уровень взаимного признания это сдвиг.

Шесть месяцев это долго

На замечание, что систему контроля нужно запустить в ближайшие полгода, Маск ответил фразой, которая многое говорит о текущем темпе: «Шесть месяцев это долго». Обоснование простое: анонсов прорывов в ИИ бывает по несколько в день, и он перестал за ними успевать. Даже человек, который владеет одной из ИИ-компаний, признаётся, что потерял счёт новостям прошлой недели.

Это, пожалуй, самый практический аргумент всего интервью. Любая схема регулирования, которая проектируется годами, заведомо устареет до внедрения. Скорость стала не фоном для политики, а её главным ограничением.

Часто задаваемые вопросы

Что такое P(doom) и почему у Маска он 10–20%?

P(doom) это субъективная вероятность катастрофического исхода от развития ИИ, которую эксперты называют на основании своих моделей и интуиции. Маск оценивает её в 10–20% и при этом считает, что остановить развитие невозможно, поэтому единственная стратегия это снижение риска, а не попытка торможения.

Что предлагает Маск вместо государственного регулятора?

Неформальные еженедельные созвоны ведущих лабораторий плюс ранний доступ конкурентов к новым моделям за одну-две недели до релиза. Конкуренты проверяют модели и сигнализируют о рисках, а правительство вмешивается только если компания игнорирует предупреждения.

Почему Маск считает, что конкуренты будут честными аудиторами?

Потому что у них есть одновременно техническая компетенция и коммерческий стимул. Чиновник не может оценить готовность модели к релизу, а конкурент может и будет мотивирован указать на проблемы, поскольку небезопасный релиз соперника опасен для всей отрасли, включая его самого.

Итог

Интервью Маска The Economist это документ странной эпохи: человек с 10–20% оценкой гибели человечества рассуждает об этом с улыбкой и предлагает самый прагматичный план контроля из всех озвученных за последний год. Не потому, что он стал оптимистом, а потому, что признал очевидное: остановить гонку нельзя, можно только попытаться сделать её менее смертельной. Взаимная проверка моделей конкурентами не идеальна и уязвима для злоупотреблений, но это первый план, который не требует от мира невозможного. Следующий шаг простой и проверяемый: посмотрим, состоится ли хотя бы один такой созвон лидеров лабораторий до конца года. Если нет, разговоры о контроле останутся тем, чем были всегда, фоновым шумом на фоне очередного рекордного релиза.