Компанию меняют не агенты ИИ, а новая система ответственности вокруг них

Все очень много говорят об агентах ИИ, но при этом обычно обращают внимание не на то, что действительно важно. Людей занимают вопросы, сколько задач им можно делегировать, в чем они заменят человека и когда дойдут до почти полной автономии. Но при этом мало кто понимает: компанию меняет не «сферический ИИ-агент в вакууме», а новый слой управленческих ролей, без которого агент так и остается дорогой надстройкой над старым процессом.

Кто ответит за ИИ?

Пока массовая дискуссия очень поверхностна: сравниваем модели, спорим о точности ответов, любуемся красивыми демонстрациями и почему-то делаем вывод, что уже решили ключевую задачу. На деле же все только начинается. Когда в процесс входит цифровой исполнитель, бизнесу приходится заново определить, кто этим процессом владеет и отвечает за его экономику, где граница самостоятельных действий системы, в какой момент человек обязан вмешаться, кто в ответе за ошибки.

И вот как раз здесь многие «промахиваются», пытаясь встроить ИИ-агент в старую схему. Руководство нередко считает, что это зона ИТ-службы, а она – что решение должен принимать владелец функции. И вместе с тем все рассчитывают, что кто-то принесет им готовый и безопасный инструмент. В итоге пилот есть, презентация есть, а управляемого эффекта нет.

Одно и то же повторяется слишком часто. Агент неплохо справляется с типовыми вещами, пока может опираться на подготовленный сценарий. Однако стоит начаться реальной нагрузке – и сразу «вылезают» исключения, спорные случаи и пограничные решения. Выяснятся, что никто заранее не определил, где ИИ может действовать сам, где обязан остановиться, куда должен передать сложный случай и кто отвечает за доработку результата. На выходе скорость вроде растет, но вместе с ней – и стоимость операции.

Люди или агенты?

Поэтому разговоры о замене людей агентами выглядят слишком примитивно. В серьезной организации вопрос стоит не так. Из процессов никого не вытесняют, а перераспределяют полномочия, контроль и ответственность между человеком и системой. И если это перераспределение не спроектировать, ИИ не удешевит операции и не сделает их стабильными, а добавит лишний слой неопределенности.

Вместе с агентом ИИ почти неизбежно появляется владелец процесса нового типа – не куратор эксперимента или энтузиаст, следящий за качеством подсказок, а руководитель, который отвечает за результат целиком: вход, выход, исключения, экономику, качество и масштабирование. И еще рядом с ним нужен человек, который считает не цену лицензий или токенов, а полную стоимость завершенной операции с учетом проверок, возвратов, исправлений, простоев и ошибок. Без этого автоматизация на бумаге остается привлекательнее, чем в жизни.

Цена ошибки

Не менее важна роль того, кто фиксирует границы самостоятельности системы. Для одних действий возможна почти полная автономия, другие можно выполнять, только получив подтверждение от живого специалиста, а в чем-то никакой автономии допускать вообще нельзя. Особенно это актуально для крупных компаний, критичной инфраструктуры и контуров с жесткими ИБ-регламентами и регуляторными требованиями. Там ошибка – это не просто плохой ответ, а реальные деньги, обязательства, инциденты, иногда даже репутационный ущерб и юридические риски.

Отдельная зона ответственности – точки обязательного вмешательства и маршрут эскалации. На словах это кажется деталью, а на практике именно здесь «ломается» множество инициатив. Если у сложного случая нет заранее определенного получателя, срока реакции и права на решение, система «скидывает» проблему людям без очереди, приоритета и понятного владельца. Понятно, что это уже никакое не масштабирование или профит, а «хвост» вокруг автоматизации, с которым приходится разбираться вручную.

Нужен системный, а не локальный эффект

Есть и еще одна роль, о которой говорят реже, чем стоило бы. Кто-то должен отвечать за качество и воспроизводимость результата. С сильной человеческой командой еще можно жить по принципу «разберемся по ходу», а вот с цифровым исполнителем такая логика быстро упирается в потолок. Если результат нестабилен, по-разному ведет себя в схожих условиях и требует постоянной ручной доводки, процесс нельзя тиражировать. Значит, эффект будет локальным, а не системным.

Из-за этого дефицитом станут не модели – они-то будут вполне доступны – а руководители и архитекторы процессов, способные собрать вокруг ИИ-агентов новую систему ответственности. Это те, кто понимает сразу и технологию, и стоимость операции, и цену ошибки, и правила вмешательства, и требования доверенного контура, и логику масштабирования. Разница пройдет не между теми, у кого агент уже есть, и теми, у кого его нет, а между пользователями, которые оставили его в логике пилота, и компаниями, успевшими встроить его в систему ролей, контроля и ответственности.

Качественные изменения с помощью ИИ

Следующим этапом трансформации будет не установка еще одного интеллектуального инструмента, а проектирование новой структуры ролей, где у цифрового исполнителя есть владелец, границы самостоятельности, правила контроля, понятный маршрут передачи сложных случаев и место в экономике процесса.

Когда часть операций делает не человек, команда любого руководителя из привычного набора сотрудников превращается в сложную систему, где объединились люди и ИИ с набором правил вмешательства, стоимостью ошибки и качеством результата. И настоящее изменение бизнеса начинается не в тот момент, когда агент сможет делать больше, а когда мы научимся по-новому выстраивать вокруг него ответственность.