Переход к вычислениям во время вывода
Десять лет прогресс означал масштабирование обучения. Модели рассуждения поменяли ось: тратим вычисления на этапе вывода, даём модели подумать — и точность растёт на самых трудных задачах.
Сигнал, а не шум
Ясный взгляд на исследования, формирующие ИИ.
Вдумчивый разбор свежих статей по машинному обучению — со ссылками на источники, для тех, кто строит на их основе.
Избранное
Mixture-of-Experts простыми словами
Mixture-of-Experts направляет каждый токен в небольшое подмножество специализированных подсетей. Именно эта архитектура тихо стоит за многими крупнейшими открытыми моделями.
Mixture-of-Experts простыми словами
Как модель на триллион параметров работает по цене гораздо меньшей.
Переход к вычислениям во время вывода
Главное изменение 2025 года — не более крупная модель, а возможность дольше «думать».
Mixture-of-Experts простыми словами
Как модель на триллион параметров работает по цене гораздо меньшей.
Переход к вычислениям во время вывода
Главное изменение 2025 года — не более крупная модель, а возможность дольше «думать».