РынокБизнес

Ватикан и Пентагон разработали кодексы этики искусственного интеллекта

Наталья Соловьева | 05.03.2020

Ватикан и Пентагон разработали кодексы этики искусственного интеллекта

Пентагон и Высшее духовное руководство Римско-католической церкви разработали кодексы внедрения систем искусственного интеллекта. Если Пентагон очертил этические принципы использования ИИ в системах вооружений, то Ватикан озабочен соблюдением прав и свобод человечества на фоне дальнейшего развития технологии.

За поведением ИИ будут следить военные

Свод этических принципов, разработанных Министерством обороны США, определяет, как именно ИИ следует внедрять в боевые и оборонные системы. На разработку этих принципов у Пентагона ушло 15 месяцев, в течение которых проводились консультации с экспертами ИИ в сферах промышленности, госуправления, с представителями научного сообщества и общественных организаций. Первоначальные рекомендации в этой сфере Консультативный совет по оборонным инновациям США, в задачу которого входит внедрение высокотехнологичных инноваций в Вооруженных силах страны, адресовал министру обороны США Марку Эсперу (Mark Thomas Esper) осенью 2019 года.

В своем заявлении Пентагон особо подчеркнул такие принципы использования ИИ, как равная доступность, прослеживаемость, управляемость, прозрачность процедур и документации, надежность проверяемых методологий, минимизация непреднамеренных искажений возможностей технологии и предотвращение непреднамеренных последствий.

Среди изложенных принципов был призыв к персоналу проявлять надлежащий уровень рассудительности и осторожности. Кроме того, было заявлено, что для ИИ должны быть выработаны явные, четко определенные виды использования.

Как комментируют эксперты, до принятия новых руководящих принципов от людей требовалось лишь участие в процессе принятия решений. Отныне же военнослужащие будут иметь возможность отключать или деактивировать развернутые системы, которые демонстрируют «непреднамеренное поведение».

Внедрением и координацией новой политики займется Совместный центр ИИ Минобороны США.

«Соединенные Штаты вместе со своими союзниками и партнерами должны ускорить принятие ИИ и возглавить его применение в области национальной безопасности, что позволит сохранить стратегические позиции и защитить основанный на правилах международный порядок, - прокомментировал Марк Эспер заявление Пентагона по ИИ. - В будущем эти технологии способны многое изменить на поле боя, но только не твердое намерение США соблюдать ответственность и следовать законности», - продолжил он.

Ватикан боится, что ИИ нарушит права человека

Если этические принципы Пентагона распространяются исключительно на использование ИИ в системах вооружений и на поле боя, то кодекс этики ИИ, разработанный Ватиканом, призывает защитить человечество в целом, и права каждого отдельного индивидуума, а также регулировать такие технологии автоматической идентификации, как, например, распознавание лиц.

Свой кодекс этики развития ИИ Ватикан предложил резидентам Кремниевой долины. Как сообщается, его уже поддержали компании IBM и Microsoft.

Этический кодекс под авторством Ватикана предусматривает, что ИИ должен работать надежно, прозрачно и непредвзято, уважать частную жизнь людей и гарантировать соблюдение прав человека, в особенности незащищенных слоев населения. Разработчики систем ИИ должны разъяснять не только работу алгоритмов, но и поставленные перед ними цели и задачи.

Озабоченность по поводу бесконтрольного распространения технологий ИИ Папа Римский Франциск выразил в своей речи, которая от его имени была прочитана в ходе конференции, где принимали участие главный юрисконсульт Microsoft Брэд Смит (Brad Smith) и исполнительный вице-президент IBM Джон Келли (John Kelly). Сам Папа Римский не смог прочитать свою речь лично, поскольку был болен.

Призывая к этическому развитию алгоритмов, глава Римско-католической церкви предупредил об опасности использования ИИ для извлечения данных в коммерческих или политических целях, что зачастую проводится без ведома частных лиц.

«Неравенство растет чрезвычайно быстрыми темпами, знания и богатство накапливаются в руках всего лишь нескольких лиц, что чревато серьезными рисками для демократических обществ. Сложившаяся асимметрия, благодаря которой избранные знают о нас все, в то время как мы о них ничего не знаем, что притупляет критическое мышление», - акцентировал он в своем послании. «Соблюдение этических принципов регулирования ИИ должно содействовать прозрачности, особенно в отношении передовых технологий, которые имеют более высокий риск воздействия на права человека – например, систем распознавание лиц».

В документе содержится конкретная ссылка на возможное злоупотребление технологией распознавания лиц. Так, полиция использовала системы распознавания для расследования преступлений, а компании из списка Fortune 500 использовали ИИ для проверки кандидатов на работу – в каждом из этих примеров использование неточно или предвзято работающего ПО может привести к значительному ущербу.

В ходе мероприятия IBM и Microsoft, примкнувшие к кодексу Ватикана и подписавшие совместный документ, заявили, что они отказываются от участия в проектах с использованием ИИ, если приходят к выводу, что заказчик собирается использовать его неэтичным образом.

Как считают эксперты, пока не ясно, могут ли подписаться под этим документом и другие технологические компании, как и то, каким образом подписавшие документ стороны будут применять эти принципы.

Искусственный интеллект AI

Журнал: Журнал IT-News [№ 03/2020], Подписка на журналы


Поделиться:

ВКонтакт Facebook Google Plus Одноклассники Twitter Livejournal Liveinternet Mail.Ru

Также по теме

Мысли вслух

Даже если электронная запись не работает, всегда найдется возможность пройти вакцинацию.
Как бизнес и учебные заведения адаптируют образование к новым реалиям экономики?
Попробуйте представить ощущения, когда ты занимаешься, вроде бы, прорывными вещами, а тебе объясняют "это, парень, тенденция вчерашнего дня".
Возникает понятное желание поразбираться, иногда на это нужны несколько лет.

Компании сообщают

Мероприятия