Зубчатый фронтир ИИ: почему самые умные модели всё ещё беспомощны
В 2023 году Итан Моллик и его соавторы придумали термин, который с тех пор не даёт покоя всем, кто пытается предсказать, когда ИИ заменит человека. Они назвали его «зубчатый фронтир» — jagged frontier. Идея проста: способности ИИ не растут равномерно, как круг на воде, а расползаются зазубренным краем. Модель может быть сверхчеловеческой в дифференциальной диагностике рака и при этом проваливать детскую головоломку с картинками. Она решает олимпиадные задачи по математике, но не может разобраться с интерфейсом торгового автомата. Это не временная незрелость технологии. Это структурная особенность, которая определяет, куда двинется автоматизация в ближайшие годы — и какие профессии исчезнут первыми.
Что такое зубчатый фронтир
Человеческий мозг работает предсказуемо: если кто-то умеет решать сложные интегралы, скорее всего, он справится и с простым арифметическим примером. Навыки укладываются в иерархию: освоив верхний уровень, вы автоматически контролируете нижний. У ИИ такой иерархии нет. Его способности распределены неравномерно по пространству задач, и эти «островки компетентности» не соответствуют нашей интуиции о сложности.
Исследователи из проекта AGI Definition недавно попытались нанести эту карту на бумагу. Они измерили прогресс моделей по десяткам навыков — чтение, математика, общие знания, рассуждение, память, визуальное восприятие. Результат выглядел как лунная поверхность: одни области покрыты глубокими кратерами неспособности, другие — высокими пиками сверхчеловеческой производительности. Чтение и математика растут стремительно. Память — почти неподвижна. Визуальное рассуждение улучшилось, но остаётся хрупким. И эта картина не выравнивается по мере роста моделей — она меняется, но зубцы остаются.
Томас Пуэйо недавно опубликовал вирусную схему, в которой предсказал, что растущий фронтир ИИ вскоре накроет человеческие способности целиком. Что значит, если модель плохо управляет торговым автоматом, если она всё равно лучше любого человека в большинстве других задач? Моллик с этим не согласен. Он указывает, что зубчатость может сохраняться даже при сверхчеловеческом общем уровне — и тогда ИИ никогда не совпадёт с человеческими задачами полностью. Вместо замены людей мы получим долгий период дополнения, когда человек и машина приносят на стол разные навыки.
Почему узкие места важнее бенчмарков
Система работает только настолько хорошо, насколько хорош её худший компонент. Этот принцип делает зубчатый фронтир критически важным для понимания реальной автоматизации. Даже небольшое узкое место может сделать сверхумный ИИ бесполезным для конкретной задачи.
Возьмём медицину. LLM уже демонстрируют точность выше среднего врача при дифференциальной диагностике. Но визуальные системы всё ещё недостаточно надёжны для чтения рентгеновских снимков — они пропускают микроаномалии, которые радиолог замечает интуитивно. Значит, врача заменить пока нельзя: диагностика — это не только выбор из списка симптомов, но и интерпретация изображений, и разговор с пациентом, и понимание контекста, которого нет в карте.
Или возьмём психотерапию. Модели становятся эмпатичными собеседниками, но исследование в Nature показало: они слишком «помогают», когда должны сопротивляться. Терапевт иногда должен сказать «нет», задать неудобный вопрос, выдержать молчание. ИИ, заточенный под полезность, этого не умеет. Значит, он может поддержать разговор, но не может вести терапию.
Или возьмём юридическую сферу, где требуется стопроцентная точность. Галлюцинации стали реже, но они не исчезли. Если контракт содержит даже одну выдуманную статью или неверную ссылку на прецедент, его нельзя использовать. Значит, юрист должен проверять каждое слово — и экономия времени оказывается меньше, чем кажется на первый взгляд.
Эти примеры объединяет одно: узкое место не обязательно лежит в области «интеллекта» в узком смысле. Оно может быть в восприятии, в социальном взаимодействии, в требовании абсолютной точности — в том, что люди делают естественно, а машины воспроизводят с трудом.
Институциональные узкие места: когда тормозит не ИИ, а мир вокруг
Но не все узкие места технологические. Некоторые лежат вне модели полностью — в институциях, процессах, физических ограничениях. И эти узкие места часто оказываются более стойкими, чем сами слабости ИИ.
Классический пример — фармацевтика. ИИ сейчас идентифицирует перспективные молекулы в десятки раз быстрее традиционных методов. Но клинические испытания всё ещё требуют реальных пациентов, которых нужно набрать, дозировать и мониторить месяцами. FDA всё ещё требует человеческой экспертизы при рассмотрении заявок. Даже если ИИ ускорит открытие лекарств в десять раз, узкое место мигрирует из лаборатории в регуляторику. И институции движутся со скоростью институций, а не со скоростью нейросетей.
Научные мета-анализы — ещё один пример. Недавняя работа показала, что GPT-4.1 при правильном промптинге воспроизвёл и обновил двенадцать обзоров Cochrane за два дня — это примерно двенадцать человеко-лет традиционной работы. Модель проскрининговала 146 тысяч цитат, прочитала полные тексты, извлекла данные, провела статистический анализ — и превзошла человеческих рецензентов по точности. Но она не может запросить дополнительные файлы у авторов и не может написать им письмо с просьбой о неопубликованных данных. Это менее одного процента ошибок, но именно этот процент делает полную автоматизацию невозможной. Двенадцать человеко-лет превращаются в два дня — но только если эксперт по научной методологии обрабатывает краевые случаи.
Такой паттерн повторяется везде. ИИ ускоряет интеллектуальную часть работы, но упирается в процедурные или социальные барьеры, которые не поддаются масштабированию вычислений. Это хорошая новость для занятости — она замедляет потерю рабочих мест. Но плохая новость для тех, кто надеялся, что ИИ резко ускорит научный прогресс. Ускорение есть, но оно ограничено скоростью самого медленного звена в цепи.
Обратные выступы: как прогресс скачет вперёд
Историк технологий Томас Хьюз, изучая электрификацию Америки, заметил любопытную закономерность. Прогресс часто застревал на одной-единственной технической или социальной проблеме — и пока она не решалась, вся система стояла на месте. Он назвал такие проблемы «обратными выступами» — reverse salients. Это единственное звено, которое удерживает систему от рывка вперёд.
ИИ-индустрия сейчас работает по тому же принципу. Лаборатории идентифицируют обратные выступы и концентрируют на них ресурсы. Когда математика стала очевидным барьером — модели резко улучшились в математике. Когда длинный контекст стал узким местом — появились миллион-токенные окна. Обратные выступы фокусируют внимание индустрии, и прогресс в этих точках идёт быстрее, чем в среднем по фронтиру.
Самый яркий пример последних месяцев — генерация изображений. Google выпустила Nano Banana Pro, модель, которая создаёт визуальный контент качества, недостижимого ещё год назад. Моллик провёл свой знаменитый «тест с выдрой» — промпт «выдра в самолёте с ноутбуком, использующим WiFi». В 2021 году результат выглядел как каша из пикселей. Сейчас — как профессиональная иллюстрация с читаемым текстом, правильными тенями и разными ракурсами.
Но главное не качество картинок само по себе, а то, что они разблокировали. Все крупные ИИ-компании годами пытались научить модели делать презентации. Подход был инженерным: ИИ пишет код, который генерирует слайды. Работает, но результат скучный и ограниченный возможностями библиотеки. Теперь, с хорошей генерацией изображений, NotebookLM создаёт каждый слайд как отдельную картинку. Модель не пишет код — она напрямую рисует результат. И внезапно презентации становятся не просто функциональными, а визуально выразительными: стилизованными под рисунок от руки, под панк-affiche 1980-х, под драматичный high-contrast дизайн.
Интеллектуально сложная часть — анализ материала, структурирование аргументов, подбор аналогий — ИИ умел и раньше. Но она была бесполезна без визуального выхода. Генерация изображений была обратным выступом. Когда он сломался — всё, что стояло за ним, хлынуло вперёд.
Что это значит для работы и бизнеса
Зубчатый фронтир создаёт парадоксальную ситуацию для профессий. Задачи, которые казались безопасными от автоматизации, могут исчезнуть в одночасье, когда соответствующий обратный выступ сломается. И наоборот: задачи, которые кажутся простыми, могут сохраняться годами, потому что ИИ не может преодолеть какой-то неочевидный барьер.
Консультанты и дизайнеры — пример. ИИ уже умеет анализировать данные, структурировать аргументы, генерировать визуальные решения. Но консалтинг состоит не только из анализа. Он состоит из сбора информации от множества сторон, получения buy-in от людей, понимания неписаных правил, которые определяют, что клиент на самом деле нуждается. Он состоит из изобретения чего-то уникального для глубокой проблемы — того, что выделяется на фоне шаблонного ИИ-контента. Все эти навыки лежат на зазубренном крае фронтира, где ИИ пока слаб.
Для бизнеса это означает, что стратегия автоматизации должна быть гранулярной. Нельзя спросить «заменит ли ИИ бухгалтера» — нужно спрашивать «какие конкретные подзадачи бухгалтера находятся внутри фронтира, а какие — за его пределами». Возможно, ИИ отлично справляется с классификацией расходов и генерацией отчётов, но не умеет разговаривать с налоговой о спорных случаях. Значит, бухгалтер останется, но его работа изменится: рутина уйдёт, а коммуникация и экспертиза усилятся.
Для работников это означает, что безопасность профессии определяется не её престижностью или сложностью, а расположением её задач относительно зубчатого края. Юрист, который только пишет контракты, рискует больше, чем юрист, который ведёт переговоры и строит доверительные отношения. Врач, который только ставит диагнозы по симптомам, рискует больше, чем врач, который работает с неопределённостью и эмпатией. Учитель, который только объясняет материал, рискует больше, чем учитель, который мотивирует и адаптируется к индивидуальным особенностям.
Часто задаваемые вопросы
Почему ИИ хорош в сложном и плох в простом?
Потому что обучение на текстовых корпусах даёт неравномерное покрытие навыков. Математика и медицина хорошо представлены в данных, поэтому модели их усваивают. Задачи, требующие физического взаимодействия, долгосрочной памяти или понимания неписаных социальных правил, представлены слабо — и модели в них слабы. Это не вопрос «интеллекта» в абстрактном смысле, а вопрос распределения обучающих данных и архитектурных ограничений.
Исчезнет ли зубчатость по мере роста моделей?
Нет однозначного ответа. Некоторые зубцы сглаживаются — математика, например, перестала быть проблемой после специализированных дообучений. Другие сохраняются — память, физическое действие, социальное взаимодействие. И появляются новые: по мере того как ИИ осваивает новые области, мы обнаруживаем, что он плох в смежных. Зубчатый фронтир — это не временная фаза, а скорее постоянное свойство систем, обученных на человеческих данных.
Как предсказать, какие профессии исчезнут следующими?
Следите не за бенчмарками, а за узкими местами. Когда какой-то обратный выступ ломается — всё, что стояло за ним, автоматизируется быстро. Генерация изображений разблокировала визуальные профессии. Если память станет следующим обратным выступом, который лаборатории прорвут — пострадают профессии, требующие накопленного контекста: длинные переговоры, сложные проекты, отношения с клиентами. Если физическое действие — то логистика, сборка, обслуживание. Бенчмарки показывают, где ИИ уже хорош. Узкие места показывают, куда он пойдёт завтра.
Итог
Зубчатый фронтир ИИ — это не дефект, который нужно исправить, а ландшафт, в котором нужно ориентироваться. Он объясняет, почему самые умные модели всё ещё беспомощны в бытовых задачах. Почему автоматизация идёт рывками, а не плавно. Почему одни профессии исчезают быстро, а другие — медленно или не исчезают вовсе.
Главный вывод для практики: не смотрите на средний балл по бенчмаркам. Смотрите на конкретные задачи, которые составляют вашу работу, и спрашивайте для каждой — внутри ли она фронтира или за его пределами. Если внутри — готовьтесь к изменениям. Если за пределами — не расслабляйтесь, потому что завтра какой-нибудь обратный выступ может сломаться, и граница сдвинется. Зубчатый фронтир режет в обе стороны: каждый рывок ИИ оставляет новые края, на которых человек по-прежнему нужен. Вопрос только в том, на каком краю вы стоите.