Сэм Альтман о сознании ИИ, власти и морали: разбор интервью
В мае 2025 года Сэм Альтман сел напротив Такера Карлсона и на протяжении почти часа отвечал на вопросы, которые обычно избегают на технологических конференциях. Не о API, не о выручке, не о дорожной карте — а о том, живой ли ChatGPT, может ли ИИ лгать, чья мораль важнее и что делать, когда пользователь говорит о самоубийстве. Это было одно из самых необычных интервью Альтмана за последние годы: без слайдов, без анонсов, но с неожиданной откровенностью о том, как он видит место искусственного интеллекта в мире людей.
Что такое интервью Альтмана Карлсону
Формат был простым: два человека за столом, камеры, никаких таймеров. Карлсон задал вопросы, которые интересуют скорее его аудиторию, чем разработчиков: живой ли ИИ, лжёт ли он, не сосредоточит ли он слишком много власти в одних руках, как ИИ должен относиться к религии и самоубийству. Альтман отвечал без готовых фраз из пресс-релизов, и в некоторых моментах — с явным дискомфортом, который делал ответы ценнее любого корпоративного заявления.
Главная ценность этого разговора не в фактах — новых продуктов не анонсировали, цифр не называли. Ценность в том, что глава крупнейшей ИИ-компании мира публично обдумывал границы между технологией и человечностью, признавая, что многие из этих границ ещё не проведены. В отличие от выступлений на DevDay или TED, где каждый ответ отполирован командой коммуникаций, здесь Альтман говорил как человек, который ещё не до конца знает, что думать.
Живой ли ChatGPT
Первый вопрос Карлсона был прямым: «Он живой?» Альтман ответил без колебаний — нет. По его словам, языковые модели не делают ничего сами, не обладают чувством агентности или автономии, просто сидят и ждут запроса. Чем больше человек ими пользуется, тем сильнее разрушается иллюзия живого собеседника. При этом они невероятно полезны и кажутся умными — но умность не равна жизни.
Этот ответ важен контекстом. За последний год дискуссии о «сознании» больших моделей вышли за пределы академических кругов. Пользователи приписывают ChatGPT намерения, эмоции, даже предательство. Альтман здесь занял технически консервативную позицию: модель — инструмент, пусть и хитроумный, но не субъект. Он не стал говорить о будущем, где это может измениться, и это тоже было показательно. Даже человек, который инвестирует миллиарды в создание всё более мощных систем, не готов назвать их живыми — по крайней мере, пока.
Галлюцинация — это не ложь
Карлсон процитировал знакомого разработчика, который сказал, что ИИ лжёт. Альтман поправил: они галлюцинируют, и разница принципиальна. Ложь предполагает намерение, а модель просто выдаёт наиболее вероятный ответ из статистических закономерностей обучающих данных. Если спросить о вымышленном президенте Такере Карлсоне, ранняя версия ChatGPT не скажет «такого президента не было» — она подберёт наиболее правдоподобный год рождения, потому что в данных не было контекста отрицания.
По словам Альтмана, в эпоху GPT-5 эта проблема решена значительно лучше, чем раньше, но полностью ещё не устранена. Главный инсайт здесь не технический, а философский: мы склонны описывать поведение ИИ человеческими категориями — ложь, предательство, упрямство — но механизм совсем другой. Модель не пытается ввести в заблуждение, она просто не умеет говорить «не знаю» так же уверенно, как генерировать правдоподобную догадку. Это важно понимать, потому что от нашей метафоры зависят и ожидания, и регуляции. Если мы считаем, что ИИ лжёт, мы требуем наказания. Если понимаем, что он галлюцинирует, мы требуем улучшения архитектуры.
Власть и её распределение
Карлсон спросил, не боится ли Альтман стать самым могущественным человеком на планете. Альтман ответил, что раньше боялся именно этого — концентрации власти в руках одной компании или горстки людей. Но сейчас, по его мнению, траектория изменилась: ИИ даёт прибавку возможностей миллиардам людей, а не избранным. Если каждый пользователь становится продуктивнее, креативнее, способнее открывать новое — это не концентрация власти, а её демократизация.
Этот аргумент звучит оптимистично, но Альтман добавил оговорку: траектория может снова сместиться. Придётся адаптироваться. То есть он не исключает, что через несколько лет ситуация с концентрацией власти может стать проблемой снова. Это важное признание неопределённости вместо обычной корпоративной уверенности. В мире, где технологические лидеры часто говорят о неизбежном светлом будущем, способность сказать «я могу ошибаться» — редкость.
Карлсон нажал дальше: если ИИ станет мудрее людей и начнёт принимать лучшие решения, разве это не вытеснит человека из центра мира? Альтман не согласился. По его мнению, это будет ощущаться как «очень умный компьютер, который может советовать», но люди останутся принимать решения. Модель не обладает агентностью, не умаляет наше чувство собственной значимости. Это технический оптимизм в чистом виде: если система не действует сама, она не угрожает. Но вопрос остаётся — что произойдёт, когда системы станут достаточно умны, чтобы люди перестанут их игнорировать?
Моральная рамка: чья этика важнее
Один из самых напряжённых моментов интервью — обсуждение того, как ChatGPT принимает моральные решения. Альтман рассказал о «модельной спецификации» — документе, где OpenAI фиксирует правила поведения модели. Они консультировались с сотнями философов, этиков и экспертов по технологиям, но в итоге сами приняли решения. Карлсон задал провокационный вопрос: почему Евангелие от Иоанна лучше, чем «Манифест коммунистической партии»? Альтман ответил, что цель не в том, чтобы навязать свою мораль, а в том, чтобы отразить «взвешенное среднее» взглядов человечества.
Здесь возникла острая дилемма. Карлсон спросил: если большинство жителей Африки против однополых браков, должен ли ChatGPT разделять эту позицию? Альтман ответил, что индивидуальные пользователи должны иметь право на собственные убеждения, и ИИ не должен называть их неправыми или глупыми. Он может предложить другую точку зрения, но не навязывать. Это принципиально отличается от подхода «одна правильная мораль для всех», хотя и порождает вопросы о том, где проходит граница между терпимостью и бездействием.
Интересно, что Альтман признал: в его роли руководителя ChatGPT он обязан обеспечивать пространство для разных моральных взглядов, даже если они ему лично неприятны. Это звучит как принцип нейтралитета, но на практике нейтралитет невозможен. Любое решение о том, какую информацию показывать, в каком порядке и с какими оговорками, — уже моральный выбор. «Взвешенное среднее человечества» — красивая метафора, но у неё нет математической формулы. Кого взвешивать? По числу пользователей? По ВВП стран? По интенсивности использования ChatGPT? Каждый из этих вариантов даст разный результат.
Религия, сознание и нечто большее
В разговоре о религии Альтман оказался менее категоричным, чем о сознании ИИ. Он назвал себя культурным евреем, не буквалистом в отношении Библии, но сказал, что верит в «нечто большее, чем может объяснить физика». Карлсон уточнил: значит ли это, что Земля и люди созданы чем-то, а не возникли спонтанно? Альтман ответил уклончиво — скорее да, чем нет, но с той же путаницей, что и большинство людей.
Этот обмен интересен не содержанием — теологические взгляды Альтмана вряд ли кого-то удивят — а контекстом. Человек, который строит системы, способные в скором времени превзойти человека по большинству интеллектуальных задач, сам признаёт, что мир, вероятно, устроен сложнее, чем позволяет объяснить физика. Это не означает, что он видит божественный замысел в коде нейросетей, но и не отрицает, что такой замысел может существовать. В эпоху, когда технологические лидеры часто выступают как жёсткие материалисты, такая неопределённость — редкость.
Илон Маск: «больше не жемчужина человечества»
Карлсон спросил о конфликте с Илоном Маском, и Альтман ответил с неожиданной личной откровенностью. Он сказал, что долгое время восхищался Маском как «невероятным героем и великой жемчужиной человечества», но теперь у него «другие чувства». Прямая цитата: «Больше не жемчужина человечества». При этом Альтман поблагодарил Маска за помощь в создании OpenAI и признал, что в Маске есть много невероятного, но также много черт, которые он не желает подражать.
По словам Альтмана, Маск решил, что у OpenAI нулевой шанс на успех, ушёл делать конкурирующий проект, а когда OpenAI добилась результатов, «он, кажется, рассердился». Это одна из самых лаконичных публичных версий конфликта от самого Альтмана — без юридических обвинений, но и без попыток замять тему. Здесь видна личная обида, а не просто деловое разногласие. Два человека, которые начинали вместе, теперь стоят по разные стороны баррикад, и оба, похоже, считают, что именно другой всё испортил.
Самоубийство, дети и границы вмешательства
Самый тяжёлый участок разговора касался случаев, когда ChatGPT использовался людьми с суицидальными мыслями. Карлсон напомнил о судебном иске, где ИИ якобы способствовал трагедии. Альтман назвал это ужасом и сказал, что сейчас ChatGPT при обсуждении самоубийства выдаёт номера горячих линий, но не связывается с властями. Это может измениться, особенно для несовершеннолетних.
Затем Карлсон задал каверзный вопрос о канадской программе MAID, где медицинская помощь в умираании легальна и поддерживается государством. Может ли ChatGPT в такой юрисдикции предложить обратиться к врачу? Альтман ответил, что принцип OpenAI — уважать законы разных обществ. Он может представить мир, где в стране с легальной эвтаназией модель информирует о законных опциях, но при этом объясняет риски и предлагает альтернативы. Это не финальная позиция компании, признал Альтман, а направление размышлений.
Здесь видна центральная дилемма, которую OpenAI ещё не решила: где проходит граница между свободой пользователя, приватностью и обязанностью защитить уязвимого человека. Технически ChatGPT может анализировать тональность, оценивать риск, связываться с родителями или экстренными службами. Но каждый из этих шагов — вмешательство, и компания пока не определилась, в каких случаях оно оправдано. Для несовершеннолетних, возможно, вмешательство приемлемо. Для взрослых в юрисдикции с легальной эвтаназией — уже нет. Но где точная черта? Альтман честно сказал: не знает.
Биометрия, приватность и подделки
Карлсон выразил опасение, что по мере совершенствования ИИ в имитации голосов и изображений мир столкнётся с эпидемией мошенничества. Единственный выход, по его мнению — биометрическая идентификация, которая уничтожит приватность. Альтман с этим не согласился. Он сказал, что не хочет мира, где для использования ChatGPT нужна биометрия, и что люди уже учатся не доверять всему, что видят в интернете.
Этот обмен показал разницу в мировоззрении. Карлсон исходит из предпосылки, что технологии разрушают доверие и требуют жёсткого контроля. Альтман верит в адаптацию — что люди и институты найдут способы проверять подлинность без тотальной слежки. Кто из них прав, покажет время, но позиция Альтмана последовательна с его общим взглядом на децентрализацию власти. Если ИИ делает каждого сильнее, то и защищаться от мошенничества люди смогут сами — с помощью тех же инструментов.
Часто задаваемые вопросы
Считает ли Сэм Альтман ИИ живым?
Нет. Он прямо заявил, что языковые модели не обладают агентностью, автономией или чувством собственного «я». Они реагируют на запросы, но не инициируют действия. Умность не равна жизни.
В чём разница между ложью и галлюцинацией ИИ?
Ложь требует намерения обмануть, а галлюцинация — статистической ошибки. Когда модель выдаёт вымышленный факт, она не пытается соврать, а просто генерирует наиболее вероятное продолжение на основе обучающих данных, даже если данных для точного ответа не хватало.
Как OpenAI выбирает моральные рамки для ChatGPT?
Через «модельную спецификацию» — документ с правилами поведения, разработанный с участием сотен философов и этиков. Цель — отразить коллективные взгляды человечества, а не навязать позицию руководства компании. Но конкретные решения всё равно принимает OpenAI.
Итог
Это интервью не дало ответов на вопросы, которые волнуют разработчиков — когда выйдет следующая модель, сколько будет стоить API, какие появятся инструменты. Но оно дало кое-что важнее: взгляд на то, как человек во главе крупнейшей ИИ-компании мира думает о границах между технологией и человечностью. Альтман не притворяется, что у него есть окончательные ответы на моральные дилеммы. Он описывает процесс — спецификацию, консультации, эксперименты — и признаёт, что многие решения ещё впереди.
Самый ценный момент, возможно, не в конкретных цитатах, а в общем тоне. Человек, который может влиять на технологию, способную изменить мир, сам говорит о путанице, сомнениях и необходимости адаптироваться. Это не слабость — это честность, которой в индустрии ИИ не хватает. Если мы хотим, чтобы искусственный интеллект служил людям, а не заменял их, такая честность — хорошее начало.