Зазубренный фронтир ИИ: почему самые умные модели всё ещё тупят

Зазубренный фронтир ИИ: почему самые умные модели всё ещё тупят

Модель, которая берёт золото на Международной математической олимпиаде, не может запустить торговый автомат. Система, способная поставить диагноз точнее врача-специалиста, терпит неудачу в простом визуальном тесте на логику. Это не баг и не временное ограничение — это фундаментальная черта современного ИИ, которую Итан Моллик, профессор Уортонской школы бизнеса, назвал «зазубренным фронтиром» (jagged frontier). Граница возможностей ИИ не гладкая. Она выглядит как линия фронта после артобстрела: где-то ИИ ушёл далеко за пределы человеческих способностей, а в соседнем секторе — отстаёт на уровне ребёнка.

Что такое зазубренный фронтир

В 2023 году Моллик и его соавторы ввели термин, чтобы описать странную способность ИИ отлично выполнять одни задачи и катастрофически проваливать другие — причём в таком соотношении, которое не соответствует человеческой интуиции о сложности. Мы ожидаем, что если система решает дифференциальные уравнения, она справится и с простым визуальным пазлом. Но ИИ не работает так. Его способности распределены неравномерно, и эта неравномерность не уменьшается по мере роста моделей — она меняет форму, но остаётся.

Недавнее исследование группы учёных, которые попытались картировать форму ИИ-способностей, подтвердило это эмпирически. Чтение, математика, общие знания, логическое рассуждение — всё это ИИ осваивает стремительно. Но память, способность запоминать новые задачи и учиться на них постоянно, остаётся слепым пятном с минимальным прогрессом. Лучший промптинг или более крупная модель могут сдвинуть границу, но зазубренность остаётся.

Почему зазубренность не исчезает

Существует популярная точка зрения, которую выразил Томас Пуэо в вирусном посте: растущий фронтир ИИ рано или поздно перекроет зазубренность. Человеческие способности в основном фиксированы, а ИИ растёт экспоненциально. Какая разница, плох ли ИИ в торговых автоматах, если он всё равно становится лучше любого человека?

Эта логика звучит убедительно, но пропускает несколько критических аспектов. Во-первых, зазубренность может быть настолько глубокой, что суперумный ИИ никогда не будет полностью перекрывать человеческие задачи. Без постоянной памяти система не сможет выполнять многие виды работы, которые люди делают естественно: вести долгосрочные отношения с клиентами, адаптироваться к меняющимся нормам в команде, накапливать институциональное знание. Это не значит, что ИИ бесполезен — это значит, что он остаётся инструментом, а не заменой.

Во-вторых, даже если ИИ почти полностью превосходит человека в какой-то области, остаются краевые случаи, которые требуют человеческого вмешательства. Исследование, в котором GPT-4.1 воспроизводил обзоры Cochrane — золотой стандарт медицинских мета-анализов — показало это наглядно. Модель проскринила 146 тысяч цитат, прочитала полные статьи, извлекла данные, провела статистический анализ. И сделала это точнее человеческих рецензентов. Двенадцать человеко-лет работы — за два дня. Но модель не могла получить дополнительные файлы и не могла написать авторам с запросом о неопубликованных данных. Это составило менее одного процента ошибок, но этот один процент означает, что процесс нельзя полностью автоматизировать. Зазубренность создаёт бутылочное горлышко, и бутылочное горлышко означает, что даже очень умный ИИ не может просто заменить человека.

Бутылочные горлышки и обратные выступы

Бутылочные горлышки бывают двух типов. Первые — когда ИИ упрямо остаётся ниже человеческого уровня в какой-то задаче. Системы компьютерного зрения на базе LLM недостаточно хороши для чтения медицинских снимков, чтобы заменить радиологов. Модели слишком «послушны», когда должны возражать, поэтому не могут заменить терапевтов. Галлюцинации, пусть и реже, всё ещё случаются, что делает ИИ непригодным для задач, где требуется стопроцентная точность.

Второй тип бутылочного горлышка — процессы, которые не имеют ничего общего со способностями ИИ. Даже если модель может находить перспективные молекулы лекарств в десять раз быстрее традиционных методов, клинические испытания всё равно требуют реальных пациентов, которых нужно рекрутировать, дозировать и мониторить. FDA всё ещё требует человеческой экспертизы заявок. Бутылочное горлышко мигрирует от интеллекта к институциям, а институции двигаются со скоростью институций.

Историк технологий Томас Хьюз описывал это явление, изучая развитие электрических систем. Прогресс часто застревал на одной технической или социальной проблеме. Хьюз называл такие точки «обратными выступами» (reverse salients) — единственная проблема, удерживающая систему от рывка вперёд. Когда эта проблема решается, вся система скачкообразно продвигается.

Как бутылочные горлышки лопаются

Самый мощный пример за последний месяц — Google Nano Banana Pro, новая система генерации изображений. Она сочетает качественную модель создания картинок с умным ИИ, который может направлять процесс, подглядывая в интернет при необходимости. Результат: от запроса «выдра в самолёте использует Wi-Fi» в 2021 году — к абстрактному месиву пикселей — до 2025 года, когда система генерирует читаемый текст, разные ракурсы, тени, без серьёзных ошибок.

Но главное не качество картинок как таковых. Главное — что качественная генерация изображений была бутылочным горлышком для множества других возможностей. Возьмём создание презентаций. Все крупные ИИ-компании пытались научить свои модели делать PowerPoint, заставляя их писать код — что ИИ делает отлично. Но слайды, созданные через код, получались скучными и ограниченными. Теперь NotebookLM от Google использует Nano Banana Pro, создавая каждый слайд как отдельное изображение. Внезапно презентации становятся гибкими, стилизованными, визуально насыщенными — и всё это без написания строчки кода.

Интеллектуально сложная часть — анализ материала, структурирование аргументов, подбор аналогий — ИИ умел делать уже больше года. Но создание слайдов было бутылочным горлышком, которое удерживало всё остальное. Когда горлышко лопнуло, за ним хлынуло всё, что стояло за ним.

Что это значит для работы и бизнеса

Зазубренный фронтир — это не только техническая проблема, но и организационная реальность. Даже если ИИ становится сверхчеловеческим в анализе и создании презентаций, это не означает, что он заменяет консультантов и дизайнеров. Эти профессии состоят из множества разных задач вдоль зазубренной границы: можете ли вы собрать информацию и получить одобрение от всех заинтересованных сторон? Можете ли вы понять неписаные правила, которые определяют, что люди на самом деле нуждаются? Можете ли вы придумать что-то уникальное, что выделяется на фоне ИИ-материала? Зазубренный фронтир предлагает множество возможностей для человеческой работы.

В то же время, стоит ожидать рывков вперёд, когда фокус на обратных выступах приведёт к внезапному устранению бутылочных горлышек. Области, которые раньше были исключительно человеческими, становятся доступными ИИ. Если вы хотите понять, куда движется ИИ, не смотрите на бенчмарки. Смотрите на бутылочные горлышки. Когда одно лопается, за ним хлынет всё, что стояло позади.

Часто задаваемые вопросы

Почему ИИ хорош в сложном, но плох в простом?

Потому что ИИ учится на статистических паттернах в данных, а не на причинно-следственных связях. Сложная математика — это хорошо представленный паттерн в обучающих данных. Простая визуальная головоломка может требовать здравого смысла или физической интуиции, которые не так легко извлечь из текста.

Исчезнет ли зазубренность с ростом моделей?

Нет. Зазубренность меняет форму, но не исчезает. По мере того как одни слабые места закрываются, появляются другие. Память, физическое взаимодействие, долгосрочное планирование — всё это остаётся сложной проблемой даже для самых больших моделей.

Как использовать зазубренность в бизнесе?

Идентифицируйте, какие задачи в вашей работе находятся внутри фронтира ИИ, а какие — за его пределами. Делегируйте ИИ то, что он умеет. Инвестируйте в развитие навыков, которые ИИ пока не освоил: межличностное взаимодействие, стратегическое мышление, работа с неопределённостью.

Итог

Зазубренный фронтир ИИ — это не временная аномалия, а фундаментальная черта технологии. Он означает, что ИИ не заменит людей целиком, а создаст новую экологию совместной работы, где каждый делает то, что умеет лучше. Следующее бутылочное горлышко — память, обучение в реальном времени, физическое взаимодействие — где-то сейчас кто-то из лабораторий работает над ним как над обратным выступом. Когда оно лопнет, мы увидим очередной скачок. А пока — учитесь работать с зазубренностью, а не против неё.

← Все записи
← Все записи