Робот-рекрутер Amazon не любил женщин

Логотип компании
10.10.2018Автор
Робот-рекрутер Amazon не любил женщин
Специалисты компании Amazon приняли решение отказаться от использования системы искусственного интеллекта, помогавшей в автоматическом режиме просматривать большой объем резюме кандидатов с целью выявления оптимально подходящего сотрудника. Приложение дискриминировало женщин.

Как сообщает агентство Reuters из Сан-Франциско, специалисты компании Amazon приняли решение отказаться от использования системы искусственного интеллекта, помогавшей в автоматическом режиме просматривать большой объем резюме кандидатов с целью выявления оптимально подходящего сотрудника.

Причиной закрытия проекта, работа над которым началась еще в 2015-м, стала выявленная предвзятость технологий ИИ: алгоритмы дискриминировали женщин. Не секрет, что автоматизация всегда была козырем Amazon, позволившим компании достичь столь значимых высот в области электронной коммерции. Руководство компании старалась автоматизировать самые различные процессы – будь то отпуск товаров со склада или принятие решений о ценообразовании.

В процессе применения технологии искусственного интеллекта приложение оценивало кандидатов по пятибалльной шкале, также как покупатели оценивают товары, представленные на Amazon. Уже довольно быстро году команда разработчиков пришла к выводу, что при выборе кандидатов на должности разработчиков ПО и других технических позиций приложение учитывает гендерный признак.

Вероятнее всего, это было связано с тем, что с тем, что ИИ был изначально обучен сортировать потенциальных сотрудников, используя закономерности, встречающиеся в резюме, а большинство позиций в Amazon было занято мужчинами. Не удивительно, что пройдя процесс обучения на примерах большинства «мужских» резюме, машина начала отбраковку CV уже за наличие слова «женский», не считая женщину потенциально «эталонным сотрудником».

По статистике, крупнейшие технологические компании США вынуждены признать факт доминирования мужчин среди своих сотрудников. Однако, многие крупные компании, как например, Hilton и Goldman Sash, не опускают руки, стремясь автоматизировать процесс найма сотрудников. По данным опроса, проведенного в 2017 году фирмой CareerBuilder, более 55% HR-менеджеров в США заявили, что использование искусственного интеллекта при выборе кандидатов станет неотъемлемой частью их работы в течение следующих пяти лет.

Читайте также
1 сентября 2024 года должно было стать знаковой датой для предприятий, относящихся к субъектам КИИ: с этого времени они должны были перестать приобретать и использовать так называемые «недоверенные» программно-аппаратные комплексы. Данное событие могло бы стать еще одним драйвером для развития отечественной ИТ-отрасли, однако пока множество сдерживающих факторов – от терминологических до организационных – мешают совершать этот переход.

Похожие статьи