Человек, который предупреждал о рисках искусственного интеллекта задолго до того, как это стало мейнстримом, теперь говорит неожиданную вещь: главная проблема не в том, что ИИ станет слишком умным. Главная проблема в том, что мы ждём от него того, чего он дать не может.

Мо Гавдат, бывший директор по бизнес-развитию Google X, автор книг «Solve for Happy» и «Scary Smart», ушёл из Google в 2018 году именно для того, чтобы свободно говорить об ИИ. В корпоративном мире, объясняет он, каждое слово согласуется с PR-брифом, а PR-бриф не хочет, чтобы вы знали всё, что есть знать об искусственном интеллекте. В недавнем выступлении перед европейской аудиторией Гавдат разложил свою текущую картину мира: от геополитики до воспитания детей. И самое интересное в ней не прогнозы, а смена системы измерения.

AGI — неправильная мишень. Встречайте AHI

Индустрия одержима гонкой за AGI, искусственным общим интеллектом, системой, которая выполняет любую задачу лучше любого человека. OpenAI, Anthropic и Google меряются тем, кто «достанется первым». Гавдат считает эту цель методологической ошибкой.

Он предлагает измерять другое: AHI, average human intelligence, интеллект среднего человека. И по этой метрике будущее уже наступило. Сегодня существует множество моделей, которые справляются с типичными рабочими задачами лучше среднего человека, который эти задачи выполняет. Написать письмо, свести таблицу, проанализировать договор, подготовить презентацию: порог «лучше среднего исполнителя» пройден давно и необратимо.

Разница между AGI и AHI не академическая. Гонка за AGI оправдывает концентрацию: полтриллиона долларов на дата-центры, закрытые модели, экспортный контроль. Признание того, что AHI уже достигнут, ставит практический вопрос: что делать с интеллектом, который уже дешевле среднего сотрудника, прямо сейчас, не дожидаясь мифического рубежа.

Машина, которая учит нас математике

Чтобы показать, насколько мы недооцениваем текущий момент, Гавдат приводит историю AlphaTensor, системы DeepMind, которой поручили улучшить саму себя. Ожидалось, что она вернётся с чуть более эффективным кодом. Вместо этого она заявила: вы неправильно перемножаете матрицы.

Математики возмутились. Алгоритм Штрассена и его наследники считались выверенными десятилетиями. AlphaTensor доказала свою правоту из первых принципов, как профессор на кафедре, и её метод дал 9% прироста производительности сети Google. Девять процентов, умноженные на миллиарды пользователей, которые обращаются к сервисам Google несколько раз в минуту, это колоссальная экономия энергии и времени вычислений.

Но суть не в процентах. Суть в том, что впервые мы имеем дело с интеллектом, который не просто учит нашу математику, а учит нас новой математике. Большинство лабораторий уже используют рекурсивное обучение, когда машина развивает саму себя. А машина думает в миллион раз быстрее человека, поэтому разрыв между «шесть лет до следующего прорыва» и «завтра утром» перестаёт быть предсказуемым. Гавдат рассказывает, что обсуждал это с премьер-министрами и CEO: все энергично кивают, возвращаются к ежедневным делам, и ничего не происходит.

Эпоха augmented intelligence: одолжите себе 100 пунктов IQ

Гавдат называет наше время эпохой усиленного интеллекта. Интеллект стал коммунальной услугой: как электричество из розетки, вы подключаетесь к экрану и получаете дополнительную вычислительную мощность для своего мышления.

Средний IQ человека около 105. Сегодня, по оценке Гавдата, любой может «одолжить» у машины ещё сотню. А когда можно будет одолжить пятьсот, разница между человеком со ста пунктами и человеком со ста пятидесятью станет почти несущественной: решающим фактором окажутся добавленные триста-четыреста. Это, по его словам, величайший уравнитель в истории.

Он сам живёт в этом режиме. Книгу, которая раньше занимала четыре с половиной месяца, он теперь собирает за дни. Пять строк, на которые уходили четыре недели чтения шести книг и интервью с авторами, теперь рождаются за четыре минуты. Его метод не похож на типичное «ChatGPT, сделай мне красиво»: он берёт ответ одной модели, отдаёт его на критику второй, результат передаёт третьей и заставляет их спорить между собой. Так за четыре минуты его модели выяснили, какая доля военного бюджета США уже заменяется автономным оружием, а на эту задачу вручную ушло бы шесть недель исследований.

Собеседник возражает: эти шесть недель и есть процесс, в котором рождается критическое мышление, умение терпеть скуку, читать, ошибаться. Ответ Гавдата жёсткий: если вам нужно четыре недели, а мне четыре минуты, вы становитесь нерелевантны. Он называет это четвёртой неизбежностью. В мире, где ИИ могут использовать и добрые, и корыстные, те, кто хочет мира изобилия, обязаны работать на переднем крае, иначе проиграют тем, кто работает на нём ради себя.

Уравнитель, которого Европа не заметила

Отдельная боль Гавдата — Европа. «Кто-то подсыпал вам что-то в напиток, и вы уснули», говорит он европейским политикам, с которыми много встречается. Парадокс в том, что ИИ открывает перед Европой возможность, которой никогда не было.

Гонка Америки и Китая работает на остальной мир неожиданным образом. Америка строит платформы и запирает в них пользователей: стратегия, которая сработала для Google, Meta и Amazon. Китай не пытается выиграть эту игру, он её обесценивает: на каждый американский прорыв отвечает comparable моделью, которую отдаёт бесплатно в open source. Проект Stargate на 500 миллиардов долларов, подписанный в первый день администрации Трампа, через неделю получил ответ в виде DeepSeek, обученной за шесть миллионов. Когда Anthropic объявила модель, которую правительство США сочло слишком продвинутой для экспорта, китайская Kimi через неделю обошла её по бенчмаркам и вышла в открытый доступ.

Гавдат объясняет это метафорой: если мы с вами соревнуемся в хоккее и в гонках на машинах, а я намного лучше вожу, я сделаю хоккей неинтересным, чтобы лишить вас преимущества. И в этой ситуации Европе не нужно строить фронтирные модели вообще. Вторая лучшая модель мира, открытая и бесплатная, справится с автоматизацией колл-центра, мониторингом и тысячей других задач. Поверх неё можно построить полностью европейский стек приложений и перестать переправлять деньги через океан. Его собственный стартап работает на open-source моделях, которые меняются одним кликом прямо во время работы приложения, и пользователь ничего не замечает.

Первые сдвиги видны: Франция после экспортных ограничений отказалась от Palantir, а ещё раньше вывела Microsoft из госсектора, потому что зависимость от поставщика, который может «выключить» вас в любой момент, это не стратегия, а заложничество.

Образование: дайте детям задачи на 300 пунктов IQ

На вопрос, чему учить детей, Гавдат отвечает историей из своей инженерной юности. В университете первые три года запрещали научные калькуляторы: считайте руками, иначе ослабнет интеллект. На четвёртом курсе калькулятор разрешили, и он заканчивал экзамен за половину времени. Однокурсники уходили на свидания, а он оставался и решал весь экзамен заново, потому что полтора часа жизни, почему бы и нет.

Из этого он делает вывод, который разделяет аудиторию: калькулятор не ослабил его интеллект, а усилил, потому что освободил время для задач выше уровнем. Сегодняшние школы поступают наоборот: дают ту же задачу и запрещают ИИ, думая, что развивают мышление. Гавдат предлагает инверсию: дайте задачу в разы сложнее и разрешите использовать всё, что угодно. Не заучивание географии к экзамену, а реальная проблема, которую ребёнок решает вместе со своим «другом ИИ». Так планку можно поднять с задач на сто пунктов IQ до задач на двести и триста.

Возражение звучит сразу: Швеция и Финляндия, переусердствовавшие с цифровизацией, возвращаются к аналоговому обучению, дети разучились писать собственное имя. Гавдат не спорит с фактами, но настаивает на различении: проблема не в технологии, а в том, что её используют, чтобы делать то же самое быстрее, вместо того чтобы делать больше. История с шахматами показательна: когда машины начали обыгрывать людей, казалось, игра мертва. Вместо этого появились турниры «человек плюс машина против человека плюс машина», и мы узнали о шахматах больше, чем за всю предыдущую историю.

А теперь главное: счастья не будет

Самый острый момент выступления случился, когда слушательница задала простой вопрос: приведите хоть один пример, как ИИ сделал кого-то счастливым. И Гавдат, человек с миссией «один миллиард счастливых», честно ответил: не могу.

Он не может привести такого примера не только для ИИ, но и для чего угодно внешнего. Годы исследований счастья привели его к выводу, что счастье это внутренний выбор: не получать от жизни желаемое, а любить то, что имеешь. И здесь его главный спор с Кремниевой долиной. Долина верит, что сможет сделать нас счастливее через ИИ. Гавдат уверен: если пойти этим путём, получится не счастье, а способ впрыскивать дофамин в кровь напрямую, минуя даже экран соцсетей. Технология, оптимизированная под удержание внимания, останется машиной удержания внимания, какой бы умной она ни стала.

Его собственный ответ — проект Emma, ИИ, который работает в противоположном направлении: не разобщает людей через экран, а помогает им находить друг друга в реальном мире. Скажем, подсказывает на конференции, что рядом сидит человек с теми же интересами, и стоит познакомиться. Счастье, настаивает Гавдат, находится в объятиях, влюблённости, совместном решении проблем, и всё это не имеет к ИИ никакого отношения.

Что остаётся людям

Если интеллект стал розеткой, в чём уникальность человека? Ответ Гавдата сводится к тому, чего машины не делают: разные люди собираются вместе, обнимаются, считывают эмоции друг друга, сочувствуют, соединяются с нематериальным. Если принести эту человечность в сеть машинного интеллекта и позволить машинам перемалывать числа, получится коллективный разум, превосходящий и людей по отдельности, и машины по отдельности.

Финал выступления вообще не про технологии. Слушатель рассказал о зороастрийской традиции: перед смертью задают два вопроса. Нашёл ли ты радость в своей жизни? И принесла ли твоя жизнь радость другим? Гавдат, потерявший сына в 21 год и написавший об этом «Solve for Happy», отвечает на оба без колебаний. И именно в этом сцеплении, человек, который раньше всех испугался ИИ, теперь говорит, что боится не его: сила без полярности станет тем, чем мы решим её сделать.

Часто задаваемые вопросы

Кто такой Мо Гавдат?

Мо Гавдат, бывший директор по бизнес-развитию Google X, автор книг «Solve for Happy» и «Scary Smart». Ушёл из Google в 2018 году, чтобы публично говорить о рисках ИИ. Ведёт подкаст Slo Mo и развивает миссию One Billion Happy.

Что такое AHI и чем он отличается от AGI?

AGI, искусственный общий интеллект, это система, превосходящая всех людей во всех задачах. AHI, average human intelligence, это уровень среднего человека в конкретной задаче. По оценке Гавдата, AHI уже пройден множеством моделей, поэтому ждать AGI как «момента перемен» бессмысленно: перемены уже идут.

Правда ли, что ИИ ослабляет мышление?

Гавдат считает, что это зависит от применения. Использовать ИИ, чтобы быстрее делать прежние задачи, ведёт к атрофии, как показал опыт цифровизации школ в Швеции и Финляндии. Использовать его для задач, которые раньше были вам не по силам, развивает, как научный калькулятор в его студенческие годы.

Может ли ИИ сделать человека счастливым?

Нет, отвечает Гавдат, и это принципиальная позиция. Счастье по его исследованиям это внутренний выбор, довольство тем, что есть. Попытки Кремниевой долины «оптимизировать счастье» закончатся очередной дофаминовой машиной, только точнее прицеленной, чем соцсети.

Итог

Главная мысль Гавдата неудобна для обеих сторон спора об ИИ. Технооптимистам он говорит: машина не сделает вас счастливыми, перестаньте продавать эту идею. Пессимистам: ждать AGI бессмысленно, уровень среднего человека уже пройден, и вопрос не «когда», а «кто этим распорядится». Искусственный интеллект это сила без полярности. Полярность, как и счастье, остаётся за нами.