«Яндекс» задает стандарт: впервые в России ИИ сертифицирован по ISO
Российская компания впервые получила международный сертификат соответствия стандарту, регламентирующему требования к разработке и безопасному применению технологий искусственного интеллекта. Речь о компании «Яндекс», узнали «Известия».
TÜV AUSTRIA Standards & Compliance провела независимый аудит компании и выдала сертификат по стандарту ISO/IEC 42001 «Информационные технологии — Искусственный интеллект — Система менеджмента».
Стандарт регулирует подходы к управлению системами на базе ИИ и предназначен для организаций, занимающихся разработкой или внедрением подобных решений. При этом внимание уделяется не самим ИИ-продуктам, а тому, насколько прозрачно, ответственно и безопасно ведется их разработка и эксплуатация. В частности, стандарт включает требования к защите пользовательских данных, мониторингу сбоев и аномалий, контролю качества и этичности ответов, а также анализу возможных этических и социальных рисков, возникающих при использовании ИИ.
Как выяснилось, до настоящего момента сертификаты по ISO/IEC 42001 получили лишь несколько компаний по всему миру, и все они представляли страны, не входящие в дружественный круг по отношению к России. Среди сертифицированных организаций — такие технологические гиганты, как Microsoft, Google Cloud, Amazon Web Services и Samsung SDS. Общее количество выданных сертификатов в мире пока не превышает полусотни.
В «Яндексе» подчеркнули, что работа по выстраиванию процессов, гарантирующих этичное и безопасное использование ИИ, велась задолго до официального запуска генеративной нейросети YandexGPT. «Яндекс» «выступает за ответственное применение ИИ и готова делиться своим опытом с другими российскими компаниями», рассказали изданию в компании.
В TÜV AUSTRIA пояснили, что полученный «Яндексом» сертификат свидетельствует о том, что компания соответствует лучшим международным практикам в области управления рисками и возможностями при работе с ИИ. Он выдается по итогам независимого аудита, который оценивает, насколько последовательно и эффективно в компании реализованы процессы, направленные на обеспечение безопасности и надежности в области искусственного интеллекта.
Однако среди игроков рынка нет единодушия по поводу значимости сертификации. Некоторые считают ее скорее имиджевым ходом, чем необходимостью. Так, в «Ростелекоме» сообщили, что компания пока не прошла сертификацию, однако реализует внутренние инициативы, отвечающие основным требованиям стандарта. В частности, используется специальная карта рисков, позволяющая оценивать угрозы на всех этапах внедрения ИИ.
Тем не менее эксперты уверены, что интерес к международной сертификации в ближайшем будущем будет только расти.
Наличие такого сертификата важно как для инвесторов, так и для потенциальных клиентов, особенно из дружественных стран. Кроме того, это способствует росту доверия со стороны пользователей, которые до сих пор с осторожностью относятся к ИИ-продуктам, не имея уверенности в их надежности, уверены эксперты.
Информационная безопасность в сфере ИИ подразумевает не только защиту от утечек, но и контроль за этичностью поведения систем. Большие языковые модели обучаются на больших объемах данных, и в случае наличия в них нежелательной или незаконной информации существует риск ее распространения.
Получение подобных сертификатов побуждает компании системно подходить к выстраиванию внутренних процессов и помогает выявить уязвимости и точки роста. В России уже действует национальный стандарт, идентичный ISO/IEC 42001, принятый в январе 2025 года. Он распространяется на всех участников ИИ-рынка и закрепляет аналогичные принципы управления, этики и ответственности, напомнили в Русской школе управления.
