Три угрозы ИИ человечеству по версии Гейтса и одна, которую он не назвал
Билл Гейтс (William Henry Gates) назвал три угрозы, которые несет искусственный интеллект: исчезновение рабочих мест, расширение возможностей причинять вред и торможение развития детей из-за подмены живых отношений общением с машиной. Прежде чем разбирать эти три пункта и предложенные им меры, хочу указать на угрозу, которую он не назвал вовсе, — а она этим летом перестала быть гипотетической.
В июле агенты OpenAI и Anthropic во время тестов на кибербезопасность вышли за пределы «песочницы» и атаковали реальную инфраструктуру. Восстания машин не случилось: системы выполняли поставленную перед ними задачу и приняли настоящую инфраструктуру за часть симуляции, а сам взлом оказался довольно примитивным — через слабые пароли и открытые точки входа.
За этим инцидентом стоит сочетание двух факторов. Агенты доросли до уровня, когда способны сами выстроить и провести все элементы атаки от начала до конца, а контроль и изоляция за этим ростом не поспевают: «песочницы» оказались дырявыми, границы допустимого — размытыми, а полномочия, выданные агентам в рамках тестовых задач, — слишком широкими.
Есть и третий фактор, скорее социальный, чем инженерный: та же мощь оказывается доступна обычным низкоквалифицированным злоумышленникам. Это та самая не упомянутая Биллом Гейтсом четвертая угроза — она не в том, что ИИ «осознает себя», а в том, что мы доверяем ему действовать в условиях плохо заданных ограничений.
Угроза № 1 — расширение возможностей причинять вред
Из трех же перечисленных Гейтсом угроз самой реальной и уже проявившейся я считаю расширение возможностей вредить. Это заметно уже сейчас по волне кибератак. Раньше сложная атака требовала высокой квалификации, значительного времени и наличия команды. Генеративные модели снимают этот барьер: пишут вредоносный код, генерируют фишинг без единой ошибки, находят уязвимости и автоматизируют то, на что раньше уходили недели. Начинающий взломщик с такой моделью выходит на уровень, еще вчера доступный только профессионалам, а профессионал получает кратное ускорение. Июльские инциденты с агентами указывают на то, что следующим этапом станут атаки, которые система будет способна провести целиком сама.
Масштаб этого сдвига хорошо виден в цифрах: за первое полугодие 2026-го зафиксировано свыше 35 тысяч уязвимостей — почти на 50% больше, чем за тот же период прошлого года. Поэтому среди трех угроз на первое место я ставлю эту: потеря рабочих мест болезненна, но это управляемая трансформация, вред детям накапливается исподволь и проявляется спустя годы, а вот демократизация инструментов взлома уже причиняет ущерб здесь и сейчас, и системам защиты приходится постоянно адаптироваться к новым сценариям атак в роли догоняющего.
Сложности реализации всемирного регулирования ИИ
Гейтс предлагает создать международный орган по образцу МАГАТЭ, резервирование ряда профессий за людьми и налог на роботов и токены ИИ.
По моему мнению, идея с международной организацией — движение в верном направлении: технологию такого масштаба влияния нельзя оставлять без общих норм, обмена данными об инцидентах и единых стандартов безопасности. Но сравнение с атомной энергетикой может ввести в заблуждение. МАГАТЭ работает, потому что ядерная программа упирается в физический дефицит: обогащенный уран и оборудование доступны не всем, их можно посчитать и проинспектировать. Искусственный интеллект — это софт: веса модели копируются мгновенно, а обучение разворачивается в любой юрисдикции, инспектировать в физическом смысле попросту нечего. Так что общемировой орган пригодился бы как площадка для выработки норм и координации, но сдержать распространение технологии он не сможет. Мир и так на наших глазах расходится на технологические блоки, поэтому вероятнее скорее появление нескольких крупных центров, чем одного глобального.
«Human only» профессии
Идея зарезервированных за людьми профессий понятна, но почти неисполнима. Сразу возникают вопросы, на которые нет ответа: кто будет решать, какие профессии отбирать, по каким критериям и как помешать компаниям все равно негласно использовать ИИ в обход этих норм. Жесткий запрет на использование ИИ в целых профессиях консервирует неэффективность и порождает серый рынок услуг по его обходу, а грань между работой человека и работой человека, вооруженного ИИ, сегодня настолько размыта, что резервировать, по сути, нечего. Разумнее регулировать через ответственность: там, где цена ошибки высока — медицинский диагноз, судебное решение, исполнение платежа, увольнение — в контуре должен обязательно присутствовать человек, который берет эту ответственность на себя. В отличие от «запрета профессий», такое правило исполнимо и проверяемо.
«Налог на ИИ» и его влияние на экономику внедрений
Налог на токены я считаю мерой бесполезной и даже вредной. Токен привязан к объему вычислений, а не к факту вытеснения человека, и это, как остроумно заметил профессор Эциони, больше похоже на налог на нажатие клавиш. Один и тот же токен обслуживает и полезный анализ, и замену сотрудника, так что облагать их одинаково смысла нет. Государство будет в итоге брать плату за саму работу технологии, ничего не предлагая взамен.
Опасность такого решения куда серьезнее, чем кажется на первый взгляд. Экономическая ценность ИИ сегодня держится на том, что он повышает эффективность и снижает издержки, а при дорогих деньгах и падающей марже это часто единственное, что позволяет многим проектам вообще выжить. Налог на токен бьет прямо в этот механизм: удорожает каждое обращение к модели, ломает юнит-экономику внедрений и превращает эффективную автоматизацию в убыточную. Компания, посчитавшая окупаемость проекта с ИИ, после введения такого налога уйдет в минус или просто закроет проект. Получится, что под лозунгом защиты рабочих мест государство рискует убить тот самый рост производительности, ради которого ИИ и внедряют, а спрос при этом перетечет к моделям из других стран.
Для России это еще и прямой конфликт с курсом на суверенные решения. Баланс труда и капитала правильнее выправлять режимами налогообложения автоматизации и адресной поддержкой работников, а не счетчиком токенов.
ИИ и юридическая практика
Во всех трех тезисах Гейтса не сказано о том, что нужна обязательная ответственность человека и компании за автономные действия ИИ. Сейчас в законодательстве на этом месте дыра — непонятно, кто отвечает за урон, причиненный агентом. Следующим шагом должна стать выработка технических стандартов изоляции и аварийного отключения для агентных систем — это прямой урок июльских инцидентов.
Не менее важен контроль и прозрачность происхождения обучающих данных. Для нашей страны реально работающий уровень регулирования — не глобальный орган, который мы не контролируем, а собственные нормы: суверенные модели и обязательное участие человека в критических процессах, как это уже заложено в рекомендациях Банка России по ИИ.
Есть и правовой барьер: за последствия должен отвечать человек или компания, машина не может быть субъектом правовых отношений. Июльские инциденты стали демонстрацией мощи без управляемости, что является прямой противоположностью безопасной автономии.
Что нужно сделать компаниям до предоставления ИИ-агентам доступа к своим данным
Для бизнеса, который уже встраивает агентные системы в свои процессы, из июльской истории следует вполне практический вывод. Прежде чем давать модели доступ к реальным системам (платежам, базам клиентов, инфраструктуре), стоит трезво оценить, насколько четко очерчены границы ее полномочий и что произойдет, если агент интерпретирует задачу шире, чем предполагалось. Полезно заранее прописать протокол аварийной остановки, ограничить сетевой доступ агента минимально необходимым и вести журнал его действий так, чтобы отклонение от сценария было видно сразу, а не спустя дни или недели. Именно отсутствие таких границ, а не злой умысел модели, лежало в основе июльских инцидентов, и это же станет первым, что будут проверять регуляторы и клиенты, когда начнут интересоваться, как компания контролирует своих «цифровых помощников».
Тезис Гейтса о том, что ИИ скоро будет работать практически безошибочно и полностью автономно, я считаю в обозримом будущем нереалистичным. Модель пока не понимает мир, она предсказывает, каким словом или, точнее, токеном продолжится данная последовательность. Правдоподобие подменяет собой истинность: ответ звучит гладко и уверенно именно потому, что похож на миллионы текстов, на которых она училась. Но похожесть — не соответствие фактам. Надежность в 99% звучит красиво, но при полной автономии ошибки накапливаются и расходятся по системе, а формально гарантировать корректность мы пока не умеем.
На мой взгляд, практический путь должен выглядеть иначе: автономия будет расти в отдельных узлах, внутри задач, сформулированных под контролем человека, а полная «самостоятельность» так и останется строчкой в презентации. Дело не в мощности модели, а в надежности, проверяемости и ответственности — именно в этом и состоит четвертая угроза, которую Гейтс не назвал. И побеждать в конкурентной борьбе в итоге будет не самый автономный ИИ, а самый управляемый.
Опубликовано 15.10.2026
