ИИ-агент, который сутки напролёт улучшает один и тот же алгоритм, постепенно сдаётся. Он не тупеет: просто перестаёт пробовать по-настоящему смелые идеи и всё чаще объявляет, что «достиг практического предела». Команда исследователей из Беркли и Стэнфорда (arXiv:2610.20563, 14 октября 2026) выяснила, почему все известные стратегии масштабирования таких агентов упираются в плато, и нашла неожиданное лечение. Агенту нужно периодически забывать всё, кроме лучшего найденного решения.

Звучит как баг, но в роли механизма забывание даёт прирост до 39% при том же бюджете вычислений. Команда из четырёх агентов, которая стирает свою историю и держится за единственный лучший результат, обходит и одиночного агента, и четверых параллельных с полноценной коммуникацией. Причём на всех четырёх задачах: от оптимизации GPU-ядра до обучения языковой модели.

Что такое autoresearch-агенты

Автоисследовательские агенты это LLM в замкнутом цикле оптимизации. Агент предлагает очередное решение, автоматический судья его измеряет, а оценка вместе с обратной связью возвращается в контекст следующей попытки. Цикл крутится часами и выдаёт сотни кандидатов. Именно так работают FunSearch от DeepMind, который нашёл новые математические конструкции, AlphaEvolve, ускоривший матричные алгоритмы, и «autoresearch» Андрея Карпати, где агент бесконечно улучшает скрипт обучения.

Проблема в том, что все эти системы накапливают опыт. Агент «переживает» каждую свою попытку, каждую неудачу и каждое объяснение, почему что-то не сработало. Судьёй может быть компилятор, бенчмарк, набор тестов или отдельная модель-оценщик, суть одна: у задачи появляется объективный счёт, и он формирует следующий шаг. И багаж прошлых попыток со временем начинает не помогать, а мешать.

Три стратегии масштабирования и общее плато

Увеличивать отдачу от автоматического поиска можно тремя способами, которые повторяют то, как масштабируют усилия люди-исследователи. Дать одному агенту больше времени. Запустить несколько агентов параллельно, чтобы они охватили больше направлений. Или позволить параллельным агентам общаться и развивать находки друг друга.

Исследователи проверили все три стратегии и обнаружили одну и ту же стену. Чем длиннее становится сессия агента, тем мельче и осторожнее его правки. Первые предложения меняют по сто и более строк кода, а к середине бюджета агент правит десятки строк, а затем и вовсе единицы. Расход «мыслящих» токенов падает втрое от изначального уровня.

Плато измеримо. Во второй половине бюджета параллельные агенты улучшили результат на конкурсной задаче AtCoder всего на 1,2%, а число циклов ядра на тесте Anthropic снизили лишь на 2,4%. Показательнее всего статистика по прогонам: из 763 завершённых ходов в VLIW-задании 532 не предложили ни одного нового кандидата, съев две трети всего бюджета. В 531 случае из 532 агент просто читал один файл, не вносил правок и завершал ход заявлением о плато.

Самый яркий пример самообмана: после 34 ходов на 1710 циклах агент написал «я достиг практического предела этой конфигурации машины» и перестал предлагать решения. Из его оставшихся 201 хода 164 закончились той же формулировкой. Настоящего предела не было и близко: тот же агент позже доходил до 1644 циклов, а команда с забыванием спустилась до 1077.

Почему длинная история ломает поиск

Механизм у деградации поведенческий, а не интеллектуальный. Агент привязывается к собственным прошлым попыткам, исследователи называют это анкорингом. Каждая новая идея оценивается через память о неудачах: похожее уже не получилось, значит, направление «рискованное». В результате сессия сужается, правки становятся косметическими, а поиск продолжает расходовать бюджет почти впустую.

Тянут вниз сразу два вида истории. Состояние поиска хранит каждого кандидата вместе с оценкой и отзывом судьи, а сессия агента хранит сообщения и рассуждения, включая подробные объяснения провалов. Оба слоя растут линейно с числом попыток, и оба участвуют в выборе следующего шага. Агент не просто помнит, что уже пробовал: он постоянно перечитывает собственные объяснения неудач и постепенно превращает их в список табу.

Иногда агент даже продолжает генерировать идеи, но перестаёт их пробовать. В одном из VLIW-прогонов он одиннадцать ходов подряд обдумывал новую реализацию дерева выбора. Сначала отклонил её из-за ошибочного сравнения оценок стоимости с границей загрузки ядра. В следующем ходе сам исправил сравнение и разобрал требования к регистрам. И всё равно не стал реализовывать: изменение показалось «слишком сложным и рискованным». Сессия зависла в точке, где идеи есть, а экспериментов нет.

Коммуникация добавляет к этому второй эффект. Она распространяет удачные находки, и это работает: свежая идея одного агента быстро доходит до остальных. Но одновременно она выравнивает предложения. Чем больше агенты читают полные решения друг друга, тем похожее предлагают сами, а команда из похожих агентов перестаёт выигрывать у одиночки. Два эффекта действуют на разных временных масштабах, и при долгом поиске гомогенизация побеждает.

Забывание: как устроен механизм

Предложение авторов выглядит почти кощунственно на фоне гонки за гигантскими контекстными окнами. Поиск делится на раунды, и в конце каждого раунда агент выбрасывает всё: сессию с сообщениями и рассуждениями, полную историю кандидатов с их оценками. Остаётся единственный лучший кандидат. Новый агент стартует с пустого контекста и тех же инструкций, что были в первом раунде, но от улучшенной точки отсчёта. Каждый такой сброс называется forget.

Прогресс при этом не теряется. Лучший кандидат уже вобрал в себя большинство эффективных находок предыдущих итераций, утверждают авторы. Отбрасывается не результат, а способ его поиска, вместе с обусловленностью неудачными направлениями. После сброса агенты снова делают крупные правки, около пятидесяти изменённых строк, и тратят вдвое больше токенов на рассуждения. В медианном срезе первых десяти предложений это 40 строк против 6 при простом продолжении и 9,4 тысячи «мыслящих» токенов против 2,9 тысячи.

С командой забывание работает ещё лучше. Сброс применяется ко всем четырём агентам сразу, и каждый стартует от лучшего кандидата всей команды. Коммуникация при этом устроена минималистично: никакого оркестратора, агенты видят кандидатов коллег как коммиты в общем репозитории и асинхронно заимствуют чужие приёмы. Технически всё держится на компоненте под названием reducer, который решает, какие кандидаты и какую сессию видит агент в следующем ходе.

Похожие идеи витают в воздухе: параллельно вышли работы Fork-and-Flush, где агент периодически форкается в свежие траектории, и Stateless Language Agents с изолированными воркерами. Берклийцы идут дальше, стирая не только контекст сессии, но и рабочее состояние, оставляя единственное решение.

Что показали четыре задачи

Эксперименты ставились на четырёх разных задачах: эвристический солвер для контеста AtCoder Heuristic Contest 014, задача алгоритмической оптимизации Q171 из стэнфордского набора Frontier-CS, оптимизация ядра для симулированного VLIW-процессора в испытании Anthropic и улучшение скрипта обучения небольшой языковой модели в стиле nanochat. Все конфигурации работали на одной модели (DeepSeek V4.1 Flash) и с одинаковым бюджетом, каждый эксперимент повторяли трижды.

Команда с забыванием победила на каждой задаче, и по лучшему прогону, и по среднему. На AtCoder средний результат вырос с 795 у одиночного агента до 1103, то есть на 39%, а против параллельных агентов на 14%. На VLIW-ядре число циклов упало с 1426 до 1097, улучшение на 23%, причём разброс между повторами оказался самым маленьким. На Frontier-CS средний счёт поднялся с 64,0 до 80,8 (+26%), а на nanochat метрика ошибки val BPB снизилась с 0,980 до 0,961. В среднем по четырём задачам забывание добавляет 10% к параллельным агентам и 22% к одиночному.

Отдельный эксперимент показал, что дело именно в забывании, а не в общем везении. Из одного и того же состояния поиска, уже упёршегося в плато, продолжение сессий даёт 1,6% у одиночки, 1,9% у параллельных и 1,4% у команды. Забывание на том же месте даёт 4,5%, 7,0% и 9,2% соответственно, и обходится примерно вдвое дешевле: короткий контекст экономит токены. Из 36 забываний во всех прогонах 32 привели к новому лучшему кандидату уже в следующем раунде.

Есть и предел: выигрыш от каждого следующего сброса уменьшается. На AtCoder первый forget добавил 11,2%, второй 4,8%, третий 1,7%. Чем ближе поиск к оптимуму, тем меньше остаётся улучшать, и это нормально.

Лучшая иллюстрация пользы связки «забывание плюс коммуникация» пришла из VLIW-прогонов. Перед первым сбросом команда почти не двигалась: улучшения составляли пару циклов, с 1212 до 1201. После сброса один агент решился на смелую переделку способа чтения значений из дерева. Первая версия оказалась медленнее (1409 циклов), вторая лишь повторила стартовую точку. Тогда агент посмотрел дифф коллеги, позаимствовал небольшой трюк и объединил его со своей идеей: 1136 циклов, самое крупное улучшение раунда, а к его концу команда дошла до 1114. Без забывания агент остался бы в плену накопленного контекста и не тронул бы смелую идею. Без коммуникации он бросил бы её после двух неудач.

Почему это важно

Вывод авторов формулируется одной фразой: для открытого поиска то, что агенту позволено помнить, значит не меньше, чем объём вычислений, который ему дают. В эпоху, когда индустрия соревнуется в гигаваттах и миллионах токенов контекста, это отрезвляющая мысль. Память агента перестаёт быть нейтральным складом и становится управленческим решением, таким же, как размер модели или число повторов.

Практический урок для тех, кто гоняет долгие автоматизированные циклы: планируйте деградацию заранее. Сбрасывайте сессии по расписанию, оставляйте лучший артефакт, следите за размером правок и расходом рассуждений как ранними индикаторами плато. Если агент вдруг начал «думать» заметно меньше, дело не в лимитах, а в накопленной истории. Это согласуется с трендом последних лет: контекст агента всё чаще проектируют как управляемый ресурс, а не как ведро, которое нужно наполнять до краёв. Открытым остаётся главный вопрос: когда именно забывать и что помнить. Авторы называют его следующим шагом для будущих работ.

Частые вопросы

Забывание не теряет уже найденные решения?

Нет. Сохраняется лучший кандидат со своим счётом, а он, по наблюдению авторов, вбирает большинство полезных находок предыдущих итераций. Отбрасывается лишь история о том, как эти находки были сделаны. На практике 32 из 36 забываний за все прогоны привели к новому лучшему результату уже в следующем раунде.

Это про память чат-ботов?

Не совсем. Речь о длинных циклах автоматической оптимизации, где у задачи есть объективный судья и счёт, а агент работает часами. Для короткого диалога механика другая, но принцип переносится: накопленный контекст это политика поведения, а не нейтральный архив. Больше истории не значит лучше.

Почему агент деградирует, если модель не менялась?

Из-за анкоринга. Модель остаётся той же, но сужается стратегия: прошлые неудачи превращаются в запреты, правки мельчают, рискованные идеи откладываются. Агент перестаёт исследовать пространство решений и начинает охранять собственный опыт.

Итог

Пока одни наращивают контекстные окна и парк ускорителей, команда из Беркли напоминает, что у памяти есть цена. Небольшая группа агентов, которая после каждого раунда стирает историю и держится за единственный лучший результат, обходит и одиночку, и толпу с коммуникацией, причём дешевле. Забывание перестаёт быть недостатком и становится рычагом масштабирования ИИ-открытий. Полный текст исследования доступен на arXiv:2610.20563. А как думаете вы: доверили бы агенту право всё забыть, кроме результата?