Цена интеллекта. Из чего складывается стоимость корпоративного ИИ

Пока компании экспериментировали с ИИ, в фокусе были точность моделей и демонстрация возможностей. Но при реальной эксплуатации на первый план выходит экономика: стоимость вычислений, требования к инфраструктуре, рост нагрузки. Здесь бизнес впервые сталкивается с полной стоимостью владения и понимает, что она формируется не внутри модели, а вокруг нее.

Полный TCO: что формирует цену на ИИ

Расходы на корпоративный ИИ начинаются не с моделей, а с инженерных систем, которые должны выдерживать работу оборудования. Современные GPU создают такую тепловую и электрическую нагрузку, что типовые корпоративные серверные просто не справляются: требуется иное охлаждение, питание, резервирование и коммутация. Из-за этого компаниям приходится либо модернизировать существующие площадки, либо фактически строить небольшие ЦОДы — нередко в местах с более дешевой электроэнергией, потому что потребление быстро превращается в одну из ключевых статей TCO.

Следующий слой — оборудование. В отличие от классической ИТ-инфраструктуры, где мощности можно расширять постепенно, ИИ требует другого набора ресурсов: GPU-серверов, высокой вычислительной мощности и предсказуемой сетевой производительности. Именно видеоускорители задают архитектурные требования для всей системы — от хранилища до пропускной способности межсерверных связей и работы с данными.

При этом локальная инфраструктура часто выглядит дороже на старте: приходится покупать мощности с запасом, держать их в резерве и обеспечивать охлаждение и питание даже при минимальной нагрузке. В облаке эти издержки распределяются между тысячами клиентов — поэтому одна и та же операция может стоить ощутимо меньше. Но в долгосрочной перспективе on-prem может оказаться экономичнее: за счет стабильной загрузки и предсказуемой утилизации собственная инфраструктура дает более контролируемый и иногда более низкий TCO.

Далее — команды и процессы. Для промышленной эксплуатации ИИ уже недостаточно «двух разработчиков». Нужны люди, которые выстраивают MLOps- и LLMOps-процессы, следят за версиями моделей, проводят A/B-тесты, поддерживают качество данных и адаптируют архитектуру под изменяющуюся нагрузку. И только после этого в расчет принимаются лицензирование, безопасность и управление доступами, но их вклад в TCO несравним с затратами на инфраструктуру, оборудование и эксплуатацию.

Какие затраты компании чаще всего недооценивают

Первое, что оказывается неожиданным в продакшене, — стоимость работы GPU-кластера в непрерывном режиме. В пилотах энергопотребление могут не учитывать, но при постоянной нагрузке оно превращается в крупную статью OPEX: питание, охлаждение и резервирование обходятся дороже, чем само «железо». 

Следующий критичный фактор — утилизация. В корпоративных системах нагрузка почти никогда не бывает равномерной. Длинные запросы, расширенный контекст, скачки трафика, частые перезапуски моделей приводят к тому, что часть видеокарт простаивает, а часть оказывается перегруженной. GPU не могут работать «как придется»: простаивающая карта — прямой убыток, а резерв под пиковые нагрузки делает каждый запрос дороже.

Отдельная статья скрытых расходов — технический долг MLOps- и LLMOps-контуров. Пайплайны, которые работали в пилоте, часто не выдерживают «боевой» нагрузки: задержки в масштабировании, узкие места в обработке данных, неустойчивая оркестрация. Каждое обновление модели требует переделки части контура, а изменение сценариев инференса — перестройки архитектуры.

И финальный фактор — поддержка 24×7. SLA, реакция на инциденты, мониторинг, A/B-тесты, контроль версий, соответствие регуляторике — все это постоянные расходы, которые в сумме могут достигать 15–20% от первоначального бюджета ежегодно.

Архитектурные решения и их влияние на стоимость

Архитектура корпоративного ИИ формируется не вокруг технологий, а вокруг бизнес-задач. Они определяют, где модель должна работать, какие данные она будет обрабатывать и какие ограничения придется учитывать. На первый взгляд облако выглядит самым быстрым вариантом: подключил API — и можно запускать сервис. Готовая экосистема, гибкое масштабирование, минимум настроек. Но эта простота оборачивается зависимостью от тарифов и правил конкретного провайдера: изменение версии или цены автоматически увеличивает TCO.

Локальное развертывание (on-prem) дает больше контроля. Данные остаются внутри периметра, архитектура предсказуема, требования к комплаенсу проще закрывать. Но за контроль нужно платить. Это капитальные инвестиции в инфраструктуру, оборудование, инженерную среду и команду, способную поддерживать MLOps-процессы на уровне облачного провайдера.

Поэтому все чаще компании останавливаются на гибридном подходе. Пиковые нагрузки и быстрые эксперименты удобнее выносить в облако. Все, что связано с персональными данными, конфиденциальными документами или дообучением моделей, целесообразно держать внутри. Этот путь позволяет избежать закупки избыточного «железа» и привязки к единственному вендору.

Конечно, выбор архитектуры упирается не только в бюджет. Ограниченный доступ к мировым облакам, уровень зрелости отечественных сервисов, регуляторика и необходимость поддерживать собственный технологический контур — все это сужает набор доступных решений. А когда выбор ограничен, архитектура начинает определять, во что обойдется эксплуатация ИИ и насколько гибко компания сможет развивать проект дальше.

Читайте также

Каталог ИТ-услуг, SLA и прозрачная стоимость сервисов для бизнеса

Когда в компании всерьез начинают говорить о модели «ИТ как сервис», разговор почти всегда быстро упирается в приземленную вещь — каталог услуг. Без него CIO сложно играть роль внутреннего провайдера: непонятно, что именно ИТ обещает бизнесу, на каких условиях и где проходит граница ответственности. Повестка последних лет только усилила эту тенденцию.

Как оценивать ROI в проектах ИИ

Универсальных рецептов здесь нет: то, что приносит заметную пользу одному процессу, может оказаться бессмысленным для другого даже внутри одной компании. Поэтому оценка ROI начинается с конкретной задачи и того процесса, в который она встроена. Экономический эффект всегда индивидуален.

В первую очередь зачастую смотрят на выручку и маржинальность — эти показатели лучше всего отражают влияние ИИ на бизнес. Но доказать прямую связь между внедрением и финансовым результатом непросто. Эффект растягивается во времени, зависит от зрелости процессов и того, насколько органично модель встроена в операционную деятельность. Многие выгоды проявляются косвенно: в качестве сервиса, в снижении ошибок, сокращении повторных обращений, росте LTV или улучшении NPS. Внутренние эффекты измерить еще сложнее — удовлетворенность сотрудников, удобство инструментов и скорость работы редко переводятся в однозначные экономические метрики.

В то же время все большее значение обретает снижение операционных рисков. Более стабильные процессы, меньшее число инцидентов и предсказуемость работы — это тоже результат внедрения ИИ, но его невозможно выразить одной цифрой. Универсальные формулы или «опросники ROI» здесь не работают: попытки представить единый коэффициент для всех компаний — это скорее маркетинг, чем аналитика.

Поэтому оценка эффективности постепенно смещается на уровень юнит-экономики. Считается не условная «средняя эффективность компании», а влияние ИИ на конкретный процесс: как быстро выводятся новые функции в продакшен, насколько снижается количество ручных итераций, улучшается ли качество решений. Именно благодаря таким измерениям становится понятно, где ИИ действительно усиливает бизнес, а где остается демонстрацией возможностей, не меняющей результат в операционном контуре.

Куда движется рынок корпоративного ИИ

В ближайшие годы архитектура корпоративного ИИ будет постепенно стандартизироваться. Чем больше появляется успешных внедрений, тем быстрее формируются повторяемые паттерны и готовые референсы — инфраструктуру уже не придется «изобретать» под каждый проект с нуля. Компании уходят от подхода «нам нужно больше видеокарт» к осознанному выбору «железа», контролю утилизации и точному расчету TCO — это главный показатель взросления рынка.

На динамику будет влиять и расширение линейки оборудования. На рынок выходят новые игроки, включая китайских производителей ускорителей, и это постепенно меняет экономику корпоративной инфраструктуры ИИ: у заказчиков появляется больше вариантов для подбора конфигураций под конкретные задачи.
Во многом зрелость рынка определяется тем, насколько точно компания умеет считать секунды работы, киловатты, память и процессы, которые стоят за каждым ответом модели. Чем раньше организация переходит от пилотного энтузиазма к инженерному подходу, тем выше шанс, что ИИ станет не дорогостоящим экспериментом, а устойчивым корпоративным активом, который принесет реальную бизнес-ценность.