Робот-рекрутер Amazon не любил женщин
Как сообщает агентство Reuters из Сан-Франциско, специалисты компании Amazon приняли решение отказаться от использования системы искусственного интеллекта, помогавшей в автоматическом режиме просматривать большой объем резюме кандидатов с целью выявления оптимально подходящего сотрудника.
Причиной закрытия проекта, работа над которым началась еще в 2015-м, стала выявленная предвзятость технологий ИИ: алгоритмы дискриминировали женщин. Не секрет, что автоматизация всегда была козырем Amazon, позволившим компании достичь столь значимых высот в области электронной коммерции. Руководство компании старалась автоматизировать самые различные процессы – будь то отпуск товаров со склада или принятие решений о ценообразовании.
В процессе применения технологии искусственного интеллекта приложение оценивало кандидатов по пятибалльной шкале, также как покупатели оценивают товары, представленные на Amazon. Уже довольно быстро году команда разработчиков пришла к выводу, что при выборе кандидатов на должности разработчиков ПО и других технических позиций приложение учитывает гендерный признак.
Вероятнее всего, это было связано с тем, что с тем, что ИИ был изначально обучен сортировать потенциальных сотрудников, используя закономерности, встречающиеся в резюме, а большинство позиций в Amazon было занято мужчинами. Не удивительно, что пройдя процесс обучения на примерах большинства «мужских» резюме, машина начала отбраковку CV уже за наличие слова «женский», не считая женщину потенциально «эталонным сотрудником».
По статистике, крупнейшие технологические компании США вынуждены признать факт доминирования мужчин среди своих сотрудников. Однако, многие крупные компании, как например, Hilton и Goldman Sash, не опускают руки, стремясь автоматизировать процесс найма сотрудников. По данным опроса, проведенного в 2017 году фирмой CareerBuilder, более 55% HR-менеджеров в США заявили, что использование искусственного интеллекта при выборе кандидатов станет неотъемлемой частью их работы в течение следующих пяти лет.