Ватикан и Пентагон разработали кодексы этики искусственного интеллекта
Пентагон и Высшее духовное руководство Римско-католической церкви разработали кодексы внедрения систем искусственного интеллекта. Если Пентагон очертил этические принципы использования ИИ в системах вооружений, то Ватикан озабочен соблюдением прав и свобод человечества на фоне дальнейшего развития технологии.
За поведением ИИ будут следить военные
Свод этических принципов, разработанных Министерством обороны США, определяет, как именно ИИ следует внедрять в боевые и оборонные системы. На разработку этих принципов у Пентагона ушло 15 месяцев, в течение которых проводились консультации с экспертами ИИ в сферах промышленности, госуправления, с представителями научного сообщества и общественных организаций. Первоначальные рекомендации в этой сфере Консультативный совет по оборонным инновациям США, в задачу которого входит внедрение высокотехнологичных инноваций в Вооруженных силах страны, адресовал министру обороны США Марку Эсперу (Mark Thomas Esper) осенью 2019 года.
В своем заявлении Пентагон особо подчеркнул такие принципы использования ИИ, как равная доступность, прослеживаемость, управляемость, прозрачность процедур и документации, надежность проверяемых методологий, минимизация непреднамеренных искажений возможностей технологии и предотвращение непреднамеренных последствий.
Среди изложенных принципов был призыв к персоналу проявлять надлежащий уровень рассудительности и осторожности. Кроме того, было заявлено, что для ИИ должны быть выработаны явные, четко определенные виды использования.
Как комментируют эксперты, до принятия новых руководящих принципов от людей требовалось лишь участие в процессе принятия решений. Отныне же военнослужащие будут иметь возможность отключать или деактивировать развернутые системы, которые демонстрируют «непреднамеренное поведение».
Внедрением и координацией новой политики займется Совместный центр ИИ Минобороны США.
«Соединенные Штаты вместе со своими союзниками и партнерами должны ускорить принятие ИИ и возглавить его применение в области национальной безопасности, что позволит сохранить стратегические позиции и защитить основанный на правилах международный порядок, - прокомментировал Марк Эспер заявление Пентагона по ИИ. - В будущем эти технологии способны многое изменить на поле боя, но только не твердое намерение США соблюдать ответственность и следовать законности», - продолжил он.
Ватикан боится, что ИИ нарушит права человека
Если этические принципы Пентагона распространяются исключительно на использование ИИ в системах вооружений и на поле боя, то кодекс этики ИИ, разработанный Ватиканом, призывает защитить человечество в целом, и права каждого отдельного индивидуума, а также регулировать такие технологии автоматической идентификации, как, например, распознавание лиц.
Свой кодекс этики развития ИИ Ватикан предложил резидентам Кремниевой долины. Как сообщается, его уже поддержали компании IBM и Microsoft.
Этический кодекс под авторством Ватикана предусматривает, что ИИ должен работать надежно, прозрачно и непредвзято, уважать частную жизнь людей и гарантировать соблюдение прав человека, в особенности незащищенных слоев населения. Разработчики систем ИИ должны разъяснять не только работу алгоритмов, но и поставленные перед ними цели и задачи.
Озабоченность по поводу бесконтрольного распространения технологий ИИ Папа Римский Франциск выразил в своей речи, которая от его имени была прочитана в ходе конференции, где принимали участие главный юрисконсульт Microsoft Брэд Смит (Brad Smith) и исполнительный вице-президент IBM Джон Келли (John Kelly). Сам Папа Римский не смог прочитать свою речь лично, поскольку был болен.
Призывая к этическому развитию алгоритмов, глава Римско-католической церкви предупредил об опасности использования ИИ для извлечения данных в коммерческих или политических целях, что зачастую проводится без ведома частных лиц.
«Неравенство растет чрезвычайно быстрыми темпами, знания и богатство накапливаются в руках всего лишь нескольких лиц, что чревато серьезными рисками для демократических обществ. Сложившаяся асимметрия, благодаря которой избранные знают о нас все, в то время как мы о них ничего не знаем, что притупляет критическое мышление», - акцентировал он в своем послании. «Соблюдение этических принципов регулирования ИИ должно содействовать прозрачности, особенно в отношении передовых технологий, которые имеют более высокий риск воздействия на права человека – например, систем распознавание лиц».
В документе содержится конкретная ссылка на возможное злоупотребление технологией распознавания лиц. Так, полиция использовала системы распознавания для расследования преступлений, а компании из списка Fortune 500 использовали ИИ для проверки кандидатов на работу – в каждом из этих примеров использование неточно или предвзято работающего ПО может привести к значительному ущербу.
В ходе мероприятия IBM и Microsoft, примкнувшие к кодексу Ватикана и подписавшие совместный документ, заявили, что они отказываются от участия в проектах с использованием ИИ, если приходят к выводу, что заказчик собирается использовать его неэтичным образом.
Как считают эксперты, пока не ясно, могут ли подписаться под этим документом и другие технологические компании, как и то, каким образом подписавшие документ стороны будут применять эти принципы.
Опубликовано 05.03.2020