Блог об AI
Заметки о нейросетях, промпт-инжиниринге и том, как искусственный интеллект меняет всё вокруг.
Последние записи
KTIR и Dataflow Scheduler: как MLIR компилирует IBM Spyre
Инженеры IBM показали, как решения Inductor превращаются в программу для 32-ядерного dataflow-ускорителя: KTIR фиксирует раскладку, Dataflow Scheduler строит конвейер, а SpyreCode оставляет адреса символическими до самого запуска.
Сингулярность ИИ уже началась: речь Джека Кларка в МВФ
Соучредитель Anthropic выступил на лекции Пер Якобссона перед экономистами МВФ и заявил, что сингулярность не впереди, а уже внутри. Взамен он предложил им строить лаборатории и учиться сдержанности.
Claude Duet: Anthropic продаёт суждение, а не модель
Anthropic открыла research preview Claude Duet: агент работает на своей виртуалке с браузером, присылает утренний бриф и молчит, пока не понадобится ваше решение. Главная ставка продукта не в умении строить дашборды, а в калибровке, когда к человеку вообще стоит обращаться.
Видеоавтоэнкодер для world model: цена сжатия в миллисекундах
Типичное восьмикратное сжатие по времени задерживает каждое действие на 400 мс. Kyutai построили семейство видеоавтоэнкодеров CADRE, обучили на них один и тот же world model в четырёх средах и выяснили, что манипуляция и навигация требуют противоположных компрессий.
JCA от NVIDIA: видео и 3D-движение для любого скелета
Модель JCA от NVIDIA выдаёт видео и трёхмерное движение суставов за один проход. Движение можно наложить на любой скелет, от обезьяны до робота Unitree, и проиграть в исходной сцене.
FlyDSL: PyTorch-ядра AMD в 3 раза быстрее без правок кода
Google и Meta тут ни при чём: инженеры PyTorch добавили FlyDSL, бэкенд ядер для AMD с явной раскладкой данных. Inductor выбирает его сам, а vLLM на MXFP4 ускоряется до 3,01x.
Decision-модели: агенты перестают генерировать токены
Вместо того чтобы писать ответ токен за токеном, decision-модель сравнивает скрытое состояние с вариантами из запроса и выдаёт вероятности параллельно. Разбираем, как устроен pointer head в Amazon Strands Decider, чем это отличается от обычного классификатора и где такой подход ломается.
Autograd-эксплойт: нулевой loss запускает код в PyTorch
Функция потерь печатает 0.000000 на каждой итерации, но backward-проход при этом крутит «Жизнь» Конвея в весах модели. Показываю механику через float32 и ULP, демо на MNIST и почему статические сканеры тут бессильны.
Прогресс ИИ за 30 месяцев: 180 моделей сильнее GPT-4
Моллик собрал количественный отчёт о тридцати месяцах между двумя своими книгами: двадцать сменявшихся лидеров, обвал цены правильного ответа в 750 раз и бенчмарк, который перестал измерять прогресс.
Ревью кода стало узким местом: почему ИИ не ускорил релизы
Генерация кода подешевела в сотни раз, а срок от идеи до продакшена почти не изменился. Стоимость переехала в ревью, интеграцию и поддержку, и там её никто не измеряет.