Блог об AI
Заметки о нейросетях, промпт-инжиниринге и том, как искусственный интеллект меняет всё вокруг.
Последние записи
Voxtral 3: голосовой агент за $0.0035 в минуту аудио
Mistral собрала распознавание, рассуждение и синтез речи в один поток на LiveKit и выставила цены за минуту. В ту же неделю Block показал Dessa, модель, которая вообще не знает текста.
TorchTitan: один стек вместо двух для претрейна и agentic RL
Команда TorchTitan показала, что тренер и генератор могут быть одной моделью с бит-в-бит совпадающими логитами, а FlexShard, GraphTrainer и torch_checkpointing убирают узкие места на кластерах в сотни GPU.
Частичное обучение нейросетей: 4% нейронов дают 90% выигрыша
Свежая работа с arXiv выводит формулу фазового перехода между случайными признаками и полностью обучаемой сетью. Чем хуже инициализация, тем меньшая доля обучаемых нейронов нужна, а остальное добирают замороженные.
OpenShell: рантайм, в котором агент не видит ваших ключей
OpenShell разделяет агента и его ключи: песочница на уровне ядра, шлюз с учётными данными и SMT-проверка каждой новой политики. Что это даёт и где границы.
AI-дайджест: как закрыть очередь «прочитаю потом» за ночь
Проект с Hacktoberfest превращает свалку закладок в ночной конвейер: модель читает, судит и озвучивает статьи, а утром остаётся минутный бриф и счётчик сэкономленных минут.
Абстенция LLM: почему TF-IDF обошёл GPT-4o на 40 пунктов
Вместо выбора «самая умная модель» авторы измеряют, когда автоматическое решение вообще стоит принимать. Ответ неприятный: обученный TF-IDF с порогом отказа дешевле и точнее любой промптнутой LLM.
Калибровка физики world model: один токен вместо дообучения
Инженеры из Мичиганского университета показали, как научить world model физике конкретной сцены за один короткий клип взаимодействия. Один 64-мерный токен заменяет дообучение и разметку массы с трением, а на режимах за пределами обучающего диапазона держится там, где модель с истинными параметрами разваливается.
Токенизатор и стоимость инференса: как срезать 77% расходов
Португальский грейдер эссе на Qwen3-4B писал ответ в 350 токенов. После замены словаря стало 101, стоимость упала на 77%, а качество выросло с 0.703 до 0.810.
Прунинг рассуждений: PKTP вместо перебора 128 попыток
Вместо того чтобы выбирать между качеством и разнообразием черновиков, PKTP оптимизирует pass@k напрямую: латентная гауссова модель учитывает, что похожие черновики проваливаются вместе.
Сознание ИИ: разум как узор из платоновского пространства
Биолог Майкл Левин предлагает считать разум паттерном, который вписывается в тело как интерфейс. Ксеноботы, антхроботы и сортировка, которая ведёт себя умнее своего алгоритма.