Когда ИИ-решения становятся юридической проблемой
Искусственный интеллект используется при оценке заемщиков, подборе персонала и расчете страховых тарифов. Результаты работы алгоритмов влияют на условия кредитования, трудоустройство и стоимость страховых услуг. Однако человеку не всегда удается выяснить, почему банк отказал ему в кредите, из-за чего не взяли на работу и выросла цена страховки. Он не в курсе, на основании каких сведений ИИ-системы сделали свои выводы. Специалисты факультета права НИУ ВШЭ выяснили, какие правовые риски применения ИИ вызывают наибольшие опасения у российских юристов и какие изменения законодательства они считают необходимыми.
В исследовании НИУ ВШЭ приняли участие 385 респондентов. Оно включало закрытое анкетирование юристов-практиков и качественную фокус-группу. Основное внимание исследователи уделили банковскому кредитованию, страхованию и управлению персоналом.
Почти 73% опрошенных считают риски алгоритмического принятия решений актуальными для России. Еще более определенно юристы высказались о необходимости дополнительного правового регулирования автоматизированных решений с использованием ИИ. За изменение законодательства выступают 81% респондентов: 34% считают необходимым принять отдельный закон, а 47% — внести поправки в действующие нормы. Лишь 12,5% полагают, что существующего регулирования достаточно.
Большинство участников опроса также считают, что граждане должны знать об использовании искусственного интеллекта при принятии решений, затрагивающих их интересы. За безусловное предоставление такой информации высказались 70,8% юристов, еще 16,7% предлагают сообщать об этом по запросу.
При этом 52,1% респондентов считают необходимым законодательно разграничить полностью автоматизированные решения и решения, которые человек принимает с учетом рекомендаций ИИ. Еще 37,5% предлагают предусмотреть такое разграничение для отдельных случаев.
Где применение ИИ вызывает больше всего опасений
Исследователи попросили юристов назвать сферы, в которых использование цифровых технологий при принятии решений связано с наибольшими рисками.
Чаще всего респонденты выбирали государственные услуги — 56,2%. Банковскую деятельность и медицину отметили по 54,2%, образование — 47,9%. Значительно реже назывались трудовые отношения и электронная коммерция (по 25%), а также страхование (18,8%).
Вопросы о принципах правового регулирования показали, что для юристов особенно важны участие человека в принятии решений и прозрачность алгоритмов. Эти варианты выбрали соответственно 33,3% и 29,2% опрошенных. Недопустимость ограничения прав отметили 12,5%, объяснимость решений — 8,3%. Остальные принципы, включая безопасность обработки данных, ответственность разработчиков и пользователей, судебную защиту и независимый аудит алгоритмов, получили менее 7% ответов каждый.
Более подробные ответы респондентов показывают, насколько различаются требования к алгоритмам в зависимости от области их применения.
Банковский скоринг и право на объяснение отказа
Особенно остро вопросы к прозрачности алгоритмов стоят в банковском кредитовании. Оценить работу скоринговых систем российских банков как полностью прозрачную смогли лишь 2,1% опрошенных юристов. Подавляющее большинство — 85,5% — поставили прозрачности таких систем не более трех баллов из пяти.
Около 60% респондентов допускают, что применение скоринговых алгоритмов может необоснованно ограничивать права заемщиков. В частности, опасения вызывает использование сведений, которые клиент не ожидает увидеть среди факторов, влияющих на решение о выдаче кредита.
Наиболее строгого правового контроля, по мнению юристов, требуют данные социальных сетей. Этот вариант выбрали 47,9% участников опроса. Почти столько же отметили биометрические данные (45,8%). За усиление контроля над использованием сведений о доходах и кредитной истории высказались по 43,8%, информации о поведении в интернете — 41,7%.
Гораздо реже респонденты называли традиционные социально-демографические характеристики заемщиков. Возраст отметили 16,7% опрошенных, пол, регион проживания и семейное положение — по 12,5%.
Значительная часть участников исследования считает необходимым обязать банки объяснять клиентам причины автоматизированного отказа. Половина респондентов выступает за предоставление полного объяснения, 18,8% допускают объяснение в общих чертах, еще 20,8% считают достаточным предоставлять его по запросу.
Еще более определенно юристы высказались о возможности пересмотра решения сотрудником банка. Такое право поддерживают 93,7% опрошенных, причем 56,2% считают, что оно должно действовать во всех случаях, а 37,5% — в отдельных ситуациях.
Насколько реально сегодня оспорить решение алгоритма? Только 20,9% респондентов оценивают действующее законодательство как эффективное. Более трети (37,5%) считают существующие механизмы скорее неэффективными, а 12,5% полагают, что они практически не позволяют добиться пересмотра решения.
Один из участников исследования предложил вести технический паспорт скоринговой модели, в котором фиксировались бы источники данных, значимые для алгоритма признаки и ограничения его применения. По его мнению, такая документация облегчила бы проведение аудита и разбор спорных случаев.
На проблему непрозрачности банковских решений обращает внимание и декан факультета права НИУ ВШЭ Вадим Виноградов. По его мнению, если финансовая организация не может объяснить клиенту причины отказа или изменения условий обслуживания, это сказывается на доверии к ней.
Увольнение по рекомендации ИИ
Большинство участников исследования выступают против передачи алгоритмам права самостоятельно решать вопросы приема на работу, перевода и увольнения сотрудников.
Полностью запретить такие решения без участия человека предлагают 58,3% опрошенных. Еще 14,6% считают необходимым установить подобный запрет для отдельных отраслей. Почти четверть респондентов (22,9%) не видят в нем необходимости.
Использование ИИ для оценки эффективности работников юристы воспринимают спокойнее. Более половины опрошенных (54,2%) допускают его применение, если окончательное решение остается за человеком, еще 27,1% — в отдельных случаях. Без дополнительных условий такую практику поддерживают 4,2%.
Похожие результаты получены при оценке возможности использования рекомендаций ИИ в кадровых решениях работодателя. Большинство респондентов (58,3%) считают их допустимыми при условии подтверждения человеком. Еще 16,7% готовы разрешить такую практику только в исключительных случаях.
Наиболее вероятным правовым риском кадровых алгоритмов юристы считают ошибочную оценку кандидата. Этот вариант выбрали 77,1% опрошенных. Далее следуют непрозрачность критериев оценки (70,8%), ошибки алгоритмов (66,7%) и необоснованное ограничение доступа к вакансии (62,5%).
Почти половина респондентов также обеспокоена возможными утечками персональных данных и снижением роли человека при принятии кадровых решений — по 47,9%.
Отдельный вопрос касался ответственности за незаконное увольнение, произведенное по рекомендации ИИ. Две трети участников исследования (66,7%) считают, что отвечать должен работодатель. Еще 25% выступают за солидарную ответственность всех участников. На разработчика системы ответственность возложили только 4,2% опрошенных.
Нельзя исключать, что распространение кадровых алгоритмов приведет к увеличению числа трудовых споров. Такую вероятность в ближайшие пять лет как высокую или крайне высокую оценили 41,7% респондентов. Еще 39,6% считают ее средней.
В ответах участников исследования встречается и предложение закрепить право работника получать понятное объяснение решений, принятых с использованием цифровых технологий. Причем речь идет не только об увольнении или отказе в трудоустройстве, но и о решениях, влияющих на доход сотрудника, его обязанности и график работы.
Страховые тарифы зависят от алгоритмов
Использование ИИ для расчета страховых тарифов большинство юристов считает допустимым. Более 58% поддерживают применение таких систем при условии контроля человека, еще 22,9% называют их полезным инструментом.
Вместе с тем 68,8% участников исследования допускают, что алгоритмы могут необоснованно изменять страховой тариф или приводить к отказу в заключении договора.
Особое внимание респонденты предлагают уделить сведениям, которые страховщики используют при оценке рисков. Необходимость строгого регулирования данных о состоянии здоровья отметили 56,2% опрошенных. Далее следуют информация об образе жизни (52,1%) и покупках, и транзакциях (43,8%). Значительно реже назывались сведения из социальных сетей (27,1%), геолокация (20,8%), пол (12,5%) и возраст (10,4%).
По вопросу об обязанности страховщика объяснять причины автоматизированного отказа или изменения тарифа мнения разделились. Самая многочисленная группа респондентов (43,8%) считает, что компания должна предоставлять объяснение по запросу клиента. Еще 35,4% выступают за обязательное объяснение независимо от наличия запроса. Против такой обязанности высказались лишь 2,1%.
Возможность обязательного аудита страховых алгоритмов поддерживают 45,8% юристов. Еще 12,5% предлагают проводить его только в крупных компаниях. Против выступили 14,6%, а более четверти респондентов затруднились с ответом.
В материалах исследования отмечается, что среди правовых проблем страхования остаются неопределенность в распределении ответственности, риск скрытой алгоритмической дискриминации и вопросы страхового покрытия.
Какие изменения могут потребоваться
В зависимости от области применения алгоритмов юристы предлагают разные меры контроля. В банковском кредитовании наиболее заметен запрос на объяснение отказов и возможность пересмотра решений сотрудником банка. В кадровой работе большинство опрошенных поддерживают ограничения на полностью автоматизированное принятие решений. Для страхования существенное значение имеют порядок использования данных и проверка алгоритмов.
Декан факультета права НИУ ВШЭ Вадим Виноградов считает, что регулирование должно охватывать весь жизненный цикл ИИ-решений, включая качество данных, аудит моделей и процедуры пересмотра результатов их работы.
«В противном случае ИИ из источника конкурентного преимущества для компаний быстро превращается в источник судебных споров и репутационных рисков», — отмечает он.
Предлагаемые юристами меры потребуют от компаний дополнительных организационных процедур. Например, для пересмотра автоматизированного решения необходимо сохранять сведения о том, какие данные использовались при его принятии, и кто впоследствии проверял результат. Если ответственность за кадровое решение остается у работодателя, ему потребуется обеспечить возможность такой проверки независимо от того, кем разработана используемая система.
При этом результаты исследования отражают мнения юристов-практиков, а не итоги технической проверки конкретных алгоритмов. Они позволяют оценить отношение профессионального сообщества к правовым рискам применения ИИ, но не показывают, насколько часто автоматизированные системы действительно допускают ошибки или принимают необоснованные решения.
Пока остается открытым и вопрос о том, какие из предложенных мер будут закреплены законодательно. Большинство участников исследования поддерживают дополнительное регулирование, однако единого мнения о необходимости отдельного закона нет. Почти половина респондентов предпочитает изменения действующих нормативных актов, что допускает сохранение отраслевых различий в требованиях к банковским, кадровым и страховым алгоритмам.
Опубликовано 17.10.2026
