Что делать правительству, если технология, способная изменить мир сильнее, чем Промышленная революция, появится через пять-десять лет — а может, и не появится вовсе? Запрещать заранее — значит рисковать потерять конкурентоспособность. Разрешать всё — значит рисковать безопасностью. Этот паралич выбора лежит в основе нового эссе, опубликованного на сайте radical-optionality.ai, где группа исследователей предлагает третий путь: не регулировать ИИ сейчас, а строить способность регулировать его потом. Они называют это «радикальной опциональностью» — и у них есть конкретный план из восьми шагов.

Что такое радикальная опциональность

Концепция проста: вместо того чтобы пытаться предсказать, каким будет трансформативный ИИ и какие риски он создаст, правительства должны инвестировать в собственную готовность принимать правильные решения тогда, когда информация станет доступной. Это не либертарианский призыв «пусть рынок разберётся» и не превентивный запрет в духе «остановим всё, пока не поздно». Это стратегия подготовки: собирать информацию, нанимать экспертов, строить институции — и при этом не навязывать жёстких правил, которые через два года окажутся бесполезными или вредными.

Авторы исходят из четырёх предпосылок. Первая: трансформативный ИИ — то есть система, способная вызвать сдвиг, сравнимый с сельскохозяйственной или промышленной революцией — может появиться в ближайшие десять лет. Вторая: мы не знаем, какими именно возможностями он обладать, какие риски нести и как лучше всего его регулировать. Третья: технология двойного назначения с такими военными импликациями неизбежно потребует государственного надзора. Четвёртая: построение институциональной способности к такому надзору займёт годы — и ждать, пока риски станут очевидными, нельзя.

Если эти четыре пункта кажутся вам разумными, вывод следует почти математически: нужно начинать готовиться сейчас, не прибегая к преждевременному регулированию, которое может задушить инновации.

Почему предсказать будущее ИИ невозможно

Исторически правительства ужасно предсказывают траекторию технологий. Международное энергетическое агентство систематически недооценивало рост солнечной энергетики более десяти лет, каждый раз прогнозируя, что она выровняется или снизится, в то время как отрасль росла на 25% в год. Эпидемиологи в начале 2020 года отмахивались от COVID-19 как от «просто гриппа». ИИ усугубляет эту проблему: его возможности «зубчатые» — модель может быть экспертом в одной задаче и проваливаться в другой, на порядок более простой. Это делает бенчмарки ненадёжным индикатором общей компетентности.

К тому же ИИ развивается экспоненциально, а человеческий мозг плохо мыслит экспонентами. Мы проводим прямые линии вместо кривых и постоянно оказываемся в состоянии студента, который внезапно обнаруживает, что экзамен завтра, а он не готов. Авторы эссе называют это «pacing problem» — проблемой темпа: законы и регуляции не успевают за скоростью технологического прогресса.

Но есть и более тревожный фактор. Рекурсивное самоулучшение — когда ИИ-системы участвуют в разработке следующего поколения ИИ — уже началось. Инженеры ведущих лабораторий сообщают, что значительная часть кода, используемого для создания новых моделей, пишется текущими моделями. Если этот цикл ускорится, прогресс может стать гиперболическим — и тогда регуляторы, не подготовленные заранее, окажутся в положении пожарной команды, прибывающей к уже сгоревшему дому.

Почему не работает ни либертарианство, ни превентивный запрет

Авторы разбирают оба крайних подхода и находят у каждого фатальный изъян. Либертарианский аргумент «пусть рынок разберётся» хорошо звучит на фоне провалов европейского регулирования технологий, но ломается на военных импликациях. Никто не станет отстаивать право частных лиц свободно покупать ядерное оружие — и трансформативный ИИ, по мнению многих национальных экспертов по безопасности, может иметь военное значение, сравнимое с ядерным. Двойное назначение этой технологии означает, что полное отсутствие регулирования политически нереально.

С другой стороны, «твёрдый» предосторожный принцип — запретить любое действие, которое может представлять риск, пока его безопасность не доказана — тоже неработоспособен. Каждая революционная технология создаёт риски вместе с выгодами. Если применить этот принцип последовательно, придётся запретить интернет, антибиотики и электричество. Мягкая версия, которая используется в ЕС, требует соотношения затрат и выгод — и здесь авторы находят общий язык с европейским подходом. Но даже она предполагает, что мы можем оценить риски заранее. А в условиях глубокой неопределённости любая такая оценка — вслепую.

Антиципаторное управление — попытка предсказать будущее и заранее создать регуляторную рамку — тоже обречено. Примеры из истории: Audio Home Recording Act 1992 года, который регулировал домашнюю запись, был фактически мёртв с момента принятия из-за появления персональных компьютеров. Попытки предвосхитить технологический прогресс обычно порождают законы, которые либо неэффективны, либо контрпродуктивны.

Восемь конкретных шагов для правительств

Эссе предлагает восемь мер, которые увеличивают опциональность — способность правительства действовать гибко и компетентно — не создавая значительных издержек для инноваций. Вот они в сжатом виде.

Сбор информации. Прозрачные требования и обязательная отчётность для разработчиков фронтирных моделей. Не жёсткое регулирование — а требование публикировать протоколы безопасности и отчёты об оценках рисков. Это позволяет правительствам и гражданскому обществу развивать экспертизу, не вмешиваясь в разработку.

Защита инсайдеров. Законодательство, защищающее сотрудников AI-компаний от retaliation при сообщении о серьёзных рисках для общественной безопасности. Это почти бесплатно для инноваций — «не увольняй человека за то, что он рассказал правительству о реальной опасности» — и резко повышает качество информации, доступной регуляторам.

Обмен информацией. Создание безопасных каналов для обмена данными о возможностях моделей и рисках между правительствами, а также между правительствами и внешними стейкхолдерами. Если Агентство по кибербезопасности знает, что знает Пентагон, решения принимаются быстрее и точнее.

Гибкие правила. Регуляторные определения, которые можно обновлять быстрее, чем законы, встроенные в статуты. Технологии меняются быстрее законодательных циклов, и закон, который определяет ИИ по критериям 2024 года, будет бесполезен в 2028-м.

Оценки и аудит. Построение государственной и сторонней экосистемы оценки фронтирных моделей. Независимые аудиторы, которые могут проверять, соответствуют ли заявления компаний их реальным практикам. Некоторые ведущие компании уже сами просят такого аудита.

Безопасность весов. Добровольные, но комплексные стандарты физической и кибербезопасности для всей цепочки поставок разработки ИИ. Утечка весов мощной модели — это не инцидент, а стратегическая катастрофа. Стандарты здесь работают как в ядерной отрасли: не запрещая исследования, а защищая их результаты.

Найм и таланты. Конкурентоспособная компенсация для экспертов по AI-управлению в государственных органах. Сейчас британский AISI предлагает зарплаты от £65 000 до £145 000, в то время как частный сектор платит исследователям в десятки раз больше. Правительства не могут конкурировать по деньгам, но могут создавать резервные корпуса экспертов, которые вызываются в кризис.

Избегать преждевременной преемпции. Не отменять законы штатов, регулирующие ИИ, до тех пор, пока на федеральном уровне не принята альтернатива. Мораторий на государственное регулирование ИИ, который обсуждался в Конгрессе в 2025 году, был бы опасен: он запретил бы штатам действовать, не дав федеральной альтернативы. Это радикально сужает опциональность, а не расширяет её.

Почему это важно прямо сейчас

Авторы подчёркивают: стоимость этих мер скромна по сравнению с потенциальными выгодами. «Даже если есть 95% шанс, что деньги на данную политику потрачены зря, пятипроцентный шанс положительного эффекта в отношении смягчения рисков или реализации выгод от самого важного изобретения в истории человечества означает, что затраты оправданы тысячекратно», — пишут они. Это не гипербола, а ожидаемая полезность в условиях огромных ставок.

Практический пример: администрация Байдена ввела требование отчётности через Бюро промышленности и безопасности — примерно пять компаний должны были отправлять один email раз в несколько месяцев с результатами внутренних оценок безопасности. Это «экстремально лёгкое касание», по словам авторов, и оно не встретило возражений со стороны компаний. Но правило было отменено при администрации Трампа вместе с исполнительным указом об ИИ. С точки зрения радикальной опциональности это был шаг назад: правительство потеряло канал информации, который почти ничего не стоил.

Другой пример — текущий спор между Пентагоном и Anthropic. Пентагон использовал инструменты, предназначенные для борьбы с иностранными противниками, чтобы наказать domestic компанию за её позицию в переговорах. С одной стороны, это злоупотребление властью. С другой — именно такие инструменты могут понадобиться в подлинной чрезвычайной ситуации. Парадокс в том, что чем лучше подготовлены институции, тем меньше вероятность, что им придётся прибегать к экстренным полномочиям. А экстренные полномочия — это всегда риск концентрации власти и потери демократических гарантий.

Часто задаваемые вопросы

Чем радикальная опциональность отличается от «ничего не делать»?

«Ничего не делать» — это пассивность. Радикальная опциональность требует активных инвестиций в институциональную ёмкость: нанимать людей, строить каналы информации, развивать экспертизу. Разница между подготовкой и бездействием такая же, как между студентом, который готовится к экзамену заранее, и студентом, который надеется, что экзамена не будет.

Почему нельзя просто запретить опасные исследования?

Потому что мы не знаем, какие исследования окажутся опасными. Жёсткое превентивное регулирование, основанное на нынешних представлениях о рисках, почти наверняка окажется неэффективным или контрпродуктивным — как Audio Home Recording Act 1992 года, который был мёртв с рождения. Кроме того, запрет в одной стране не остановит исследования в авторитарных режимах.

Как это относится к бизнесу?

Для компаний, разрабатывающих ИИ, опциональность означает предсказуемость. Вместо внезапных запретов или мораториев — прозрачные требования, понятные правила игры и диалог с подготовленными регуляторами, которые понимают технологию. Это снижает регуляторный риск и ускоряет принятие решений, когда они необходимы.

Итог

Радикальная опциональность — это не компромисс между инновациями и безопасностью, а попытка выйти за рамки этого дихотомического выбора. Авторы показывают, что существует целый класс политик, которые повышают безопасность, не создавая значимых издержек для инноваций: сбор информации, защита инсайдеров, гибкие правила, аудит, безопасность весов. Это не мечты о будущем — это вещи, которые можно сделать сейчас, при нынешних бюджетах и политических реалиях.

Главный вывод эссе можно свести к одной фразе: не предсказывай — готовься. История регулирования технологий полна примеров, когда правительства ошибались, потому что пытались предвосхитить непредсказуемое. Радикальная опциональность предлагает другую стратегию: признать неопределённость, принять её и построить институции, которые смогут принимать хорошие решения вне зависимости от того, какое будущее наступит. Для России, Европы, США и любой другой страны, которая планирует жить в мире с трансформативным ИИ, это эссе стоит прочитать целиком. Потому что когда технология появится, готовить институции будет уже поздно.