Фабрика токенов
Термин «ИИ-фабрика» точнее описывает происходящее, чем привычное слово «датацентр». Классический датацентр — это хранилище и вычислительная мощность общего назначения. ИИ-фабрика — это производственная линия с одним продуктом: токенами. Каждый ватт потреблённой электроэнергии проходит через GPU-кластер и на выходе даёт определённое количество токенов — единиц, из которых складывается любой ответ языковой модели, любое решение агента, любой вывод модели.
Именно поэтому метафора фабрики здесь не риторическая, а операционная. У такого объекта есть производственная мощность (токены в секунду), себестоимость единицы продукции (стоимость токена) и энергоэффективность (токены на ватт). Эти показатели поддаются измерению, оптимизации и сравнению между поставщиками — так же, как на любом промышленном производстве.
Ключевые метрики
Производительность на ватт и стоимость токена становятся главными экономическими показателями этой инфраструктуры. Для операторов ИИ-фабрик это означает принципиальный сдвиг в том, как они считают эффективность: не FLOPS и не количество серверов, а соотношение вычислительного выхода к энергозатратам.
Стоимость токена при этом определяется не только ценой железа, но и тем, насколько эффективно удаётся утилизировать каждый ватт — это и выбор архитектуры модели (например, MoE-модели дают меньше активных параметров на один запрос), и охлаждение, и загрузка кластера. Производительность на ватт становится конкурентным преимуществом: кто добывает токен дешевле — тот выигрывает рынок inference.
Агентный ИИ как катализатор
Смена метрик напрямую связана с переходом от разовых запросов к агентному ИИ. Классическая модель использования LLM — пользователь задаёт вопрос, модель отвечает. В агентной парадигме модель работает непрерывно: планирует, вызывает инструменты, итерирует, принимает решения в долгих автономных сессиях. Количество токенов на одну «задачу» при этом вырастает на порядки.
Предприятия сегодня разворачивают специализированных агентов, которые функционируют постоянно, без участия человека в каждом цикле. Такие агенты не ждут запроса — они мониторят, анализируют, действуют. Это принципиально меняет требования к инфраструктуре: нужна не пиковая мощность для обработки всплесков трафика, а устойчивая, предсказуемая производительность при непрерывной нагрузке.
Именно поэтому понятие «ИИ-фабрика» выходит за рамки маркетингового термина и приобретает инженерный и экономический смысл: это объект, спроектированный под непрерывное производство токенов с заданной себестоимостью, а не универсальная вычислительная площадка.