500 миллионов человек еженедельно открывают ChatGPT. Сэм Альтман назвал эту цифру в ходе интервью на TED2025, и она задаёт масштаб: каждый десятый житель планеты уже взаимодействует с ИИ от OpenAI на регулярной основе. Но главное — не цифра. Главное — что Альтман считает самым опасным в ближайшем будущем. И это не терминаторы и не сингулярность. Это ИИ-агенты, которые будут «кликать по интернету» от вашего имени.

Что такое агентный ИИ и почему он меняет всё

Агентный ИИ (agentic AI) — это системы, которым вы даёте не просто запрос, а задачу и полномочия. ИИ-агент может зайти на сайт ресторана, выбрать столик, ввести данные вашей кредитной карты и подтвердить бронирование. OpenAI уже тестирует это через продукт Operator, и Крис Андерсон, ведущий TED, лично попробовал функцию — впечатление оказалось двояким. Агент работает, но в какой-то момент просит данные карты, и тут включается инстинкт самосохранения.

Альтман описал происходящее точной аналогией: «Я помню времена, когда не вводил номер кредитной карты в интернет, потому что родители убедили меня, что кто-то его прочитает. Потом мы построили антифрод-системы и привыкли». С агентным ИИ происходит то же самое — только ставки выше. Если обычный чат-бот ошибается, вы получаете неверный ответ. Если ошибается агент с доступом к вашим файлам, аккаунтам и деньгам — последствия качественно иные.

Именно поэтому Альтман назвал безопасность агентных систем «самым интересным и самым важным вызовом безопасности, с которым мы столкнулись». Не абстрактные риски будущего — а конкретная задача: как сделать так, чтобы ИИ, которому вы дали ключи от цифровой жизни, не опустошил банковский счёт и не удалил данные.

Безопасность как продукт: парадокс, который работает

В ходе интервью Альтман сформулировал идею, которая звучит контринтуитивно, но имеет практический смысл: безопасность и качество продукта становятся одним и тем же. «Хороший продукт — это безопасный продукт, — сказал он. — Вы не будете пользоваться нашими агентами, если не доверяете им». Другими словами, рыночная конкуренция сама заставит компании делать ИИ безопаснее. Если ChatGPT-агент удалит кому-то важные файлы — пользователь уйдёт к конкуренту.

Это рассуждение вызывает скепсис, и Андерсон не упустил случая его поддеть. Реплика о том, что «track record не поможет, когда мощность растёт экспоненциально», попала в нерв. Альтман согласился, что ставки растут, и признал: переход к агентным системам открывает «целую категорию новых проблем, которые нужно научиться решать». Но insisted на том, что итеративный подход — выпуск, обратная связь, корректировка — пока работает, и альтернативы ему нет.

Позиция OpenAI сводится к простому тезису: нельзя научиться делать безопасные системы, не выпуская их в реальный мир. Пока ставки относительно невысоки — нужно набивать шишки. Это раздражает тех, кто хочет железных гарантий до запуска, но Альтман прямо сказал: если вы ждёте идеальной безопасности, вы будете ждать вечно.

ChatGPT Memory: ИИ, который знает вас всю жизнь

Второй крупной темой интервью стала функция Memory — не та, что была раньше, а принципиально новая. ChatGPT теперь запоминает контекст ваших разговоров и постепенно выстраивает модель вашей личности, привычек и предпочтений. Альтман описал это так: «Вы будете разговаривать с ChatGPT на протяжении всей жизни. Возможно, однажды он будет слушать вас весь день, наблюдать за тем, что вы делаете, и станет продолжением вас — компаньоном, который помогает вам быть лучшей версией себя».

Андерсон сравнил это с фильмом «Она», где ИИ-компаньон читает все письма героя и убеждает издателя опубликовать его книгу. Альтман не стал отрицать параллель: «Думаю, что-то в этом направлении произойдёт скоро. Вы будете получать проактивные подсказки, которые помогают вам стать лучше — без того, чтобы специально задавать вопросы».

Это серьёзный сдвиг в парадигме. ChatGPT перестаёт быть поисковой строкой, куда вы приходите с вопросом. Он превращается в фонового ассистента, который понимает вас глубже, чем большинство людей. И здесь возникает напряжение между пользой и приватностью — ваше представление о себе, сохранённое в весах модели, — это золотая жила для рекламодателей и головная боль для регуляторов.

Открытая модель и конкуренция с DeepSeek

Разговор не обошёлся без темы открытого исходного кода. Альтман признал, что OpenAI «опоздала» с open-source, но пообещал выпустить «очень мощную открытую модель, лучше любой текущей open-source модели на рынке». Это прямой ответ на DeepSeek и растущее давление со стороны сообщества.

Интересно, что Альтман не стал преуменьшать влияние DeepSeek. На прямой вопрос о том, угрожает ли дешёвый китайский конкурент бизнес-модели OpenAI, он ответил честно: «Мы целыми днями звоним людям и умоляем дать нам GPU. Наш рост идёт вот так» — и показал рукой вверх. При этом запуск DeepSeek «не повлиял на рост» ChatGPT. Парадокс объясняется просто: пользователю нужна не абстрактно мощная модель, а интегрированный продукт с генерацией изображений, памятью, видео и экосистемой плагинов. Модели умнеют так быстро, что для большинства задач «достаточно хорошей» становится любая из топ-моделей.

Но есть нюанс, который Альтман озвучил с пугающей прямотой: «Некоторые люди будут использовать открытую модель так, как некоторым в этой комнате не понравится». Это стандартная оговорка о безопасности open-source, но в контексте агентного ИИ она обретает новый смысл. Открытая модель, способная действовать в интернете автономно, в руках злоумышленника — это не просто генератор текста, а инструмент автоматизированного воздействия в масштабе.

ИИ для науки: главный оптимистический тезис

Когда Андерсон спросил, что Альтмана больше всего вдохновляет, ответ был неожиданным: не продукты, не агенты, а наука. «Я глубоко верю, что главный драйвер улучшения жизни людей — это новые научные открытия. Мы начинаем слышать от учёных, что с нашими новыми моделями они реально продуктивнее — и это влияет на то, что они могут открыть».

На вопрос о комнатно-температурных сверхпроводниках Альтман ответил: «Я не думаю, что это запрещено законами физики. Значит, это возможно». Конкретные примеры: значимый прогресс в борьбе с болезнями с помощью ИИ-инструментов в ближайшие годы, а физика, возможно, займёт больше времени. Но направление понятное — модели становятся достаточно умными, чтобы помогать в гипотезах, которые человек один не проверил бы за всю жизнь.

Это важный контрапункт к разговорам о рисках. Альтман выстраивает нарратив: да, безопасность агентов — критическая задача, но потенциальная награда — научные прорывы, которые изменят медицину, материаловедение и физику. И выбирать между «замедлить ради безопасности» и «ускорить ради прогресса» не приходится — нужно делать и то, и другое одновременно.

Креативная экономика: «нужна новая модель»

Тема авторского права прозвучала остро. Андерсон показал, как ChatGPT генерирует изображение «Чарли Браун в образе ИИ», и задал прямой вопрос: не является ли это кражей интеллектуальной собственности? Альтман ответил разделённо. С одной стороны, OpenAI уже блокирует генерацию «в стиле живущего художника» без его согласия. С другой — признал, что текущая модель авторского права не работает для эпохи ИИ.

«Если вы музыкант и всю жизнь слушали музыку, а потом написали песню под влиянием услышанного — как разделить, сколько из неё от песни, которую вы слышали в 11 лет?» — спросил Альтман. Аналогия не идеальна, потому что ИИ обучается на миллионах произведений систематически, а не «подсознательно вспоминает». Но направление размышлений понятно: нужна новая экономическая модель, в которой создатели получают компенсацию за то, что их работы стали частью обучающей выборки.

При этом Альтман подчеркнул, что часть креаторов в восторге от ИИ: «Это потрясающий инструмент, я делаю невероятные новые работы». Раскол в творческом сообществе реален, и он не разрешится красивым компромиссом — скорее мучительным процессом, через который общество уже проходило с появлением интернета, стриминга и соцсетей.

AGI: не момент, а процесс

Один из самых содержательных фрагментов интервью — обсуждение AGI (Artificial General Intelligence). Андерсон заметил, что ChatGPT уже кажется общей интеллектуальной системой: можно спросить о чём угодно и получить разумный ответ. Почему это не AGI?

Альтман назвал три конкретных отличия. Первое: текущие модели «позорно плохи» во многих вещах — он использовал фразу «embarrassingly bad at». Второе: они не обучаются непрерывно, не могут «пойти и стать лучше в том, в чём слабы». Третье: они не могут выполнить произвольную интеллектуальную задачу за компьютером — «вы не можете сказать: сделай эту работу за меня, и чтобы ИИ пошёл, покликал по интернету, позвонил кому-то, посмотрел ваши файлы и сделал».

Но главное — Альтман предложил сместить фокус с определения AGI на признание реальности: «Мы находимся на невероятной экспоненциальной кривой. И модели будут становиться умнее и способнее, и умнее, и способнее. И неважно, в какой точке вы скажете «это AGI» — система пойдёт далеко за этот предел». Это прагматичная позиция: спорить о термине бессмысленно, когда технологии развиваются темпом, который не оставляет времени на академические дискуссии.

Что это значит для вас

Интервью Альтмана на TED2025 — не просто promotional tour. Это карта того, куда движется индустрия, и какие проблемы придётся решать всем нам — как пользователям, как профессионалам и как обществу.

Агентный ИИ появится в коммерческих продуктах в ближайшие месяцы. Это значит, что к концу 2025 года вы, скорее всего, будете регулярно поручать ИИ-агенту задачи, которые сегодня делаете руками: бронирование, покупки, навигация по бюрократии, заполнение форм. Вопрос не в том, произойдёт ли это, а в том, насколько быстро вы начнёте доверять агенту доступ к своим данным.

Параллельно ИИ начнёт «знать» вас — не как поисковик, который помнит запросы, а как ассистент, который понимает ваш контекст, привычки и цели. Это создаст беспрецедентный уровень персонализации и одновременно — беспрецедентную поверхность для утечек данных.

И наконец, открытая модель от OpenAI изменит баланс сил в индустрии. Если мощный ИИ станет доступен любому разработчику, регуляторная ловушка «можно контролировать три крупные компании» перестанет работать. А это значит, что разговоры о безопасности агентного ИИ нужно вести сегодня — пока ставки ещё «относительно невысоки», как говорит Альтман. Потому что скоро они станут высокими.

Часто задаваемые вопросы

Что такое ИИ-агенты и чем они отличаются от обычного ChatGPT?

ИИ-агент — это система, которая не просто отвечает на вопросы, а выполняет задачи: заходит на сайты, нажимает кнопки, заполняет формы, делает покупки. ChatGPT генерирует текст, а ИИ-агент действует в цифровом мире от вашего имени, как ассистент с доступом к вашим аккаунтам.

Насколько безопасно давать ИИ-агенту доступ к личным данным?

Безопасность — главный вызов для агентного ИИ. OpenAI и другие компании строят системы «preparedness framework» для тестирования моделей перед выпуском. Однако технических гарантий полной безопасности пока нет, и Альтман прямо признаёт, что ставки растут с каждым месяцем.

Когда OpenAI выпустит открытую модель?

Конкретных дат Альтман не назвал, но подчеркнул, что модель будет «около frontier» — то есть близка по качеству к проприетарным, и лучше любой текущей открытой модели. Работа над ней уже ведётся, и OpenAI провела первую встречу с сообществом для обсуждения параметров.

Итог

Интервью Альтмана на TED2025 показало главное: индустрия ИИ-агентов переходит от разговоров к продукту. Operator уже тестируется, Memory уже работает, открытая модель уже в разработке. Безопасность агентного ИИ — это не абстрактная философия, а конкретная инженерная задача, от которой зависит, будут ли люди доверять ИИ свои данные и деньги. И ответ на неё мы получим не в научных статьях, а в реальном пользовательском опыте ближайших месяцев. Если хотите подготовиться — начните с вопроса: каким задачам вы готовы доверить ИИ-агента уже сегодня?