Безопасность ИИ стала политическим аргументом
Еще неделю назад, по его словам, такая оценка могла быть возможной. Заявление прозвучало после того, как американские власти потребовали ограничить доступ иностранных граждан к моделям Fable 5 и Mythos 5, а компания временно отключила их для всех пользователей.
Ранее IT-World писал, что США потребовали закрыть доступ к Fable 5 и Mythos 5 для любого иностранного гражданина, независимо от того, находится он за пределами США или внутри страны. Под это правило попадали и иностранные сотрудники самой Anthropic. Из-за такой формулировки компания решила не разделять пользователей в срочном порядке и отключила модели для всех клиентов.
Теперь конфликт, похоже, переходит из режима жесткого запрета в режим переговоров. По данным Reuters, технические специалисты Anthropic должны были встретиться с представителями администрации Трампа для обсуждения доступа иностранных пользователей к Fable 5 и Mythos 5. В интервью Axios Трамп сказал, что глава Anthropic Дарио Амодеи отреагировал на директиву «быстро» и «ответственно». При этом президент не исключил применения чрезвычайных полномочий по Defense Production Act, хотя добавил, что пока не уверен в необходимости такого шага.
Anthropic столкнулась с обратной стороной собственной логики
Новый поворот в истории связан не только с тем, что Белый дом смягчил тон. На другую сторону конфликта обратили внимание отраслевые эксперты и аналитики. Anthropic годами была одной из самых заметных компаний в дискуссии о рисках продвинутого ИИ, необходимости жестких ограничений и оценки опасных возможностей моделей. Теперь критики компании утверждают, что именно эта риторика могла помочь властям обосновать резкое вмешательство.
Иными словами, Anthropic столкнулась с обратной стороной собственной логики. Компания настаивала, что frontier-модели требуют особого контроля, потому что могут усиливать риски в кибербезопасности, биологии и других чувствительных областях. Но когда государство применило к ее моделям механизм экспортного контроля, Anthropic заявила, что повод слишком узкий, технические детали не раскрыты, а отключение коммерческой модели из-за потенциального jailbreak не выглядит оправданным.
В заявлении Anthropic говорится, что претензии властей были связаны с возможным способом обхода защиты Fable 5. По версии компании, речь шла не об универсальном jailbreak, а об узком сценарии, который позволял находить небольшое число уже известных и относительно простых уязвимостей. Anthropic также утверждала, что аналогичные задачи способны выполнять и другие публично доступные модели.
Спор ушел в кибербезопасность
При запуске Fable 5 и Mythos 5 сама Anthropic описывала их как модели нового уровня. Fable 5 была заявлена как широкодоступная модель с усиленными ограничителями, а Mythos 5, построенная на той же базе, предназначалась для ограниченного круга киберзащитников и инфраструктурных провайдеров. Компания отдельно подчеркивала, что Mythos 5 обладает самыми сильными кибервозможностями среди ее моделей и должна распространяться через доверенный доступ.
Однако часть киберсообщества выступила против запрета не потому, что считает такие модели безопасными. Наоборот, в открытом письме эксперты признали, что Mythos-класс хорошо справляется с поиском уязвимостей и подготовкой эксплойтов. Но, по их мнению, эти возможности не уникальны, а резкое изъятие лучших инструментов у защитников может помочь противникам США больше, чем навредить им. Как пишет AP, письмо подписали более 100 экспертов и руководителей из сферы кибербезопасности, включая представителей Adobe и Nvidia.
Остается также юридическая неопределенность. Сама директива США публично не раскрыта, как и ее точное правовое основание. По оценке издания, вероятной базой мог стать Export Control Reform Act 2018, но широта ограничения выглядит беспрецедентной, потому что доступ к моделям оказался закрыт для любого иностранного гражданина, включая людей, находящихся на территории США.
Доступ к ИИ становится управляемым вручную
Главный вывод из продолжения этой истории в том, что доступ к передовым ИИ-моделям может зависеть не только от подписки, страны подключения или политики самой компании. Он становится вопросом национальной безопасности, экспортного контроля и политических переговоров.
Для рынка это означает, что, если критерии опасности модели остаются закрытыми, а решения принимаются через непубличные директивы, поставщики ИИ получают новый риск. Сегодня ограничение коснулось Anthropic, завтра аналогичный подход может быть применен к другим разработчикам frontier-моделей. При этом пользователи и корпоративные заказчики оказываются в ситуации, когда технологический доступ может измениться не из-за цены, мощности или условий сервиса, а из-за паспорта, юрисдикции и оценки угрозы со стороны государства.
