Укротители ИИ. Как компании управляют агентами, расходами и рисками

Кто может создавать ИИ-инструменты, и кто их контролирует
В Boston Consulting Group решили не ограничивать инициативу сотрудников, желающих самостоятельно разрабатывать приложения с искусственным интеллектом. Для экспериментов им предоставили специальную среду Spark Lab, где можно создавать прототипы и проверять собственные идеи.
По мнению CIO компании Мерима Бечировича, наиболее перспективные разработки со временем могут стать полноценными корпоративными приложениями. Основой для их развития служит внутренняя платформа Genie. На ней уже реализовано более 100 сценариев применения ИИ, включая поддержку HR-процессов и работу службы технической поддержки.
Но что происходит с безопасностью, когда приложения начинают создавать сотрудники разных подразделений? В BCG требования к работе с данными и ограничения доступа заранее встроили в платформу. При переходе от прототипа к промышленной эксплуатации не приходится заново выстраивать механизмы защиты.
Бечирович оценивает вклад технологий в успех подобных преобразований примерно в 30%. Остальные 70%, по его мнению, приходятся на организационные процессы и людей. Сотрудникам необходимо освоить новые способы работы, а руководителям — определить, где ИИ действительно полезен.
Есть у CIO и еще одна забота. Чем больше самостоятельных разработок появляется внутри компании, тем сложнее становится их сопровождение. Кто будет обновлять созданные сотрудниками приложения, исправлять ошибки, контролировать качество работы моделей? Не решив эти вопросы заранее, компания рискует накопить технический долг, который впоследствии придется устранять ИТ-службе.
В российской X5 Tech инициативу сотрудников также стараются использовать, сохраняя централизованный контроль над развитием ИИ-продуктов. Как поясняет директор по развитию искусственного интеллекта Михаил Неверов, идеи поступают от бизнес-подразделений, разработчиков и технологических команд. Однако прежде, чем проект получит ресурсы, необходимо оценить его полезность, возможность масштабирования и риски.
Портфель ИИ-проектов в X5 Tech распределяют по принципу 70/20/10. Около 70% усилий направляют на основные задачи ретейла, 20% — на развитие новых технологий, включая ИИ-агентов, еще 10% оставляют для экспериментов.
Технических возможностей для создания агентов уже достаточно. Собственная платформа X5 Tech позволяет собирать их с помощью визуального интерфейса, причем, по словам Неверова, за сутки технически можно создать тысячи подобных инструментов. Вопрос в том, сколько из них действительно принесут пользу бизнесу.
Самостоятельность ИИ особенно чувствительна там, где его решения непосредственно затрагивают клиентов. Диана Хабибулина, руководитель продукта в российском банке, обращает внимание на необходимость участия человека в спорных и нестандартных ситуациях. Клиент должен иметь возможность оспорить решение алгоритма и обратиться к сотруднику банка.
Как измерить пользу ИИ для бизнеса
В сингапурской телекоммуникационной группе Singtel для ИИ установили финансовую цель — в течение двух лет обеспечить вклад в операционную прибыль EBIT на уровне 10%.
Гит Бханават, директор компании по искусственному интеллекту, данным и аналитике, отмечает, что первые финансовые результаты программы стали заметны уже через восемь месяцев после ее запуска.
Оценка проектов начинается с определения бизнес-показателей, на которые должно повлиять внедрение. Для одних подразделений это сокращение операционных расходов, для других — увеличение выручки или улучшение обслуживания клиентов. Учитывается и производительность сотрудников, хотя перевести сэкономленное время в деньги удается не всегда.
Предположим, ИИ позволяет выполнять операцию вдвое быстрее. Насколько от этого выигрывает компания? Сократились ли расходы, удалось ли обслужить больше клиентов или сотрудники просто получили дополнительное свободное время?
Сам выбор языковой модели занимает в такой работе сравнительно небольшое место. Гораздо больше усилий требуют подготовка корпоративных данных, проверка результатов и изменение процессов, в которые встраивается ИИ.
Для Singtel имеет значение и технологический суверенитет. Группа работает в нескольких странах, обслуживая в том числе заказчиков из регулируемых отраслей, поэтому при выборе решений учитываются требования к размещению данных, инфраструктуре и контролю над моделями.
В X5 Tech для оценки экономического результата используют концепцию Net AI Value. Из полученного бизнес-эффекта, по словам Михаила Неверова, необходимо вычесть полную стоимость разработки, инфраструктуры, лицензий, эксплуатации и контроля рисков. В зависимости от проекта оценивают влияние ИИ на маржу, списания, наличие товаров на полках, конверсию и операционные затраты.
Проверять результаты помогает собственная платформа A/B-тестирования, работающая как в онлайне, так и в обычных магазинах. С ее помощью можно сопоставлять показатели процессов с применением ИИ и без него.
Иногда экономический эффект начинается с обнаружения проблем, о существовании которых компания прежде не знала. Один из таких примеров приводит Иван Павлов из Телфин. Искусственный интеллект используется для анализа клиентских коммуникаций: изучая разговоры и переписку, система находит причины повторных обращений, задержки в обслуживании и ошибки операторов. Причем анализируются все диалоги, а не небольшая выборка записей.
Дальнейший результат зависит от действий компании. Если клиенты жалуются на неудобный интерфейс приложения, информацию необходимо передать разработчикам. Если обращения обрабатываются слишком долго, придется разбираться в организации работы контакт-центра. Без последующих решений даже подробная ИИ-аналитика останется набором отчетов.
Во сколько обходится корпоративный ИИ
Один сотрудник обращается к ИИ-агенту несколько раз в день, другой запускает сложную обработку документов, требующую значительно больше вычислительных ресурсов. Как распределить бюджет между ними и не обнаружить в конце месяца, что расходы оказались намного выше ожидаемых?
В SAP для этого разрабатывают специальные механизмы контроля. По словам директора компании по искусственному интеллекту Йонатана фон Рюдена, система Joule Work позволяет устанавливать дневные лимиты использования ИИ для отдельных сотрудников и распределять бюджеты между подразделениями и странами. Пользователи видят остаток доступных ресурсов, а исчерпав лимит, могут запросить дополнительные средства.
При расчете затрат учитываются количество пользователей, частота выполнения бизнес-процессов и объем обрабатываемых документов. Впрочем, прогноз остается приблизительным: фактическая стоимость зависит от интенсивности использования агентов и сложности порученных им задач.
Дополнительные расходы возникают из-за выбора языковой модели. По наблюдениям SAP, большинство сотрудников оставляют настройки по умолчанию, даже если для простого запроса достаточно более дешевого варианта. Чтобы избежать лишних затрат, компания работает над автоматическим подбором моделей с учетом сложности задачи.
Но и точный учет потребления ресурсов не решает вопроса об окупаемости. Фон Рюден признает, что связать стоимость работы ИИ-агентов с полученной экономической выгодой удается далеко не всегда. Для этого приходится анализировать процессы, в которых они участвуют, и результаты автоматизации.
Между тем ошибиться с расходами можно еще до запуска системы, выбрав неоправданно сложную технологию. Антон Хаймовский, главный владелец продукта ContentCapture компании Content AI, советует прежде всего выяснить, действительно ли для автоматизации конкретного процесса нужен искусственный интеллект.
Если операцию можно описать строгими правилами, иногда достаточно традиционных средств автоматизации или RPA. Например, при обработке стандартизированных банковских заявок программные роботы способны переносить данные между системами без привлечения дорогостоящих языковых моделей.
Другая задача связана со сложными клиентскими обращениями, требующими понимания естественного языка, учета контекста и взаимодействия с несколькими информационными системами. Здесь применение ИИ-агентов может быть экономически оправданным.
Важен и способ развертывания. Облачные сервисы позволяют начать работу без крупных первоначальных вложений, но расходы растут вместе с объемом запросов. Собственная инфраструктура требует значительных инвестиций, зато при высокой нагрузке может оказаться выгоднее.
Как внедрить ИИ, сохранив работающие системы
Модернизация корпоративного ПО нередко начинается с попыток разобраться в системе, которую десятилетиями дорабатывали разные команды. Давно устарела документация, ушли первоначальные разработчики, а любое изменение может затронуть десятки связанных приложений.
Для таких задач Xebia использует искусственный интеллект. Девипад Трипатхи, руководитель цифровой инженерии и корпоративной трансформации компании,
приводит пример работы с системой на COBOL.
Платформа Xebia Ace за неделю проанализировала 1,2 млн строк программного кода. По оценке компании, производительность такой работы выросла в десять раз.
Однако скорость анализа — это лишь один из параметров модернизации. За годы эксплуатации в программном обеспечении накапливаются бизнес-правила, исключения и зависимости, зачастую нигде не описанные. Переписывая код, необходимо сохранить логику работы приложения, включая особенности, о существовании которых могут уже не помнить даже сотрудники заказчика.
Что произойдет, если ИИ пропустит одно из таких правил? Для системы, обслуживающей финансовые операции или производственные процессы, последствия могут оказаться серьезными.
Трипатхи настаивает на тщательной проверке результатов. Новую версию приложения следует тестировать параллельно с действующей, сопоставляя их поведение и выявляя расхождения. И в отдельных случаях такая эксплуатация может продолжаться несколько месяцев.
Впрочем, внедрение ИИ не всегда предполагает столь масштабную модернизацию. Иной подход предлагает Елена Балашова, вице-президент группы компаний «ВестЛинк» и руководитель Linkage: подключать ИИ к существующим ERP, CRM, WMS и другим системам через API, сохраняя их основную функциональность.
Правда, и здесь есть сложности. Они часто возникают из-за состояния данных. Потому что информация хранится в разных системах, не совпадают форматы, встречаются дубли и пропуски. Прежде чем рассчитывать на точные рекомендации ИИ, приходится налаживать сбор и обработку информации.
Эксперт рекомендует начинать с ограниченного набора бизнес-показателей, постепенно расширяя применение технологии. В ретейле это могут быть списания, оборачиваемость запасов или маржинальность. Пользователю важно понимать, на основании каких данных система рекомендует то или иное действие.
От экспериментов к правилам эксплуатации
Кто контролирует доступ агентов к данным, проверяет результаты их работы и сопровождает созданные решения? А главное, как оценить пользу автоматизации, если сотрудники стали работать быстрее, но расходы компании не сократились?
Эти проблемы обсуждали и участники недавнего круглого стола IT-World «ИИ-агенты для бизнеса — первые успехи, первые разочарования». В центре дискуссии оказались ограничения самостоятельности агентов, риски доступа к корпоративным данным и оценка экономического эффекта. Данил Шайхелисламов из Сбера, например, обратил внимание на то, что автоматизация подготовки отчетов и презентаций позволяет сотрудникам выпускать их значительно больше. Но нужны ли компании дополнительные документы? Рост личной производительности еще не означает улучшения финансовых показателей.
Предоставляя агентам доступ к корпоративным системам, придется пересматривать и процедуры контроля. Пока ИИ лишь рекомендует сотруднику решение, достаточно проверить его результат. Если же агент получает право самостоятельно изменять данные в ERP или выполнять финансовые операции, потребуются ограничения доступа, журналирование действий и возможность вмешательства человека.
Корпоративный ИИ все больше напоминает сильного, но не вполне предсказуемого зверя. Его можно научить выполнять сложные трюки, однако сначала придется установить правила и границы самостоятельности, определить, кто отвечает за последствия ошибок. Именно этим сегодня и занимаются ИТ-руководители, пытаясь сделать искусственный интеллект управляемой частью корпоративной инфраструктуры.
Опубликовано 21.11.2026
