Искусственный интеллект: помочь и не навредить

Еще лет десять-пятнадцать назад понятие «искусственный интеллект» ассоциировалось у большинства людей с чем-то из области фантастики. Однако во все времена и эпохи людям хотелось создать себе «умного» помощника, который мог бы взять на себя выполнение рутинных операций и при этом бы не уставал, не болел, не требовал зарплаты за свою работу. Сегодня можно сказать, что многовековая мечта человечества начинает сбываться. Системы на базе Иискусственного интеллекта, машинного обучения и нейронных сетей используются во многих областях человеческой деятельности. По улицам, пусть пока в испытательном режиме, но уже разъезжают беспилотные автомобили. 

Скоринговые системы в банке принимают решение о выдаче или отказе в кредите на основании анализа данных о заемщике, выполненного искусственным интеллектом. 

Виртуальные «ассистенты» и «помощники» сопровождают нас в мобильных устройствах и различных информационных системах. Медицинские диагностические системы на базе ИИ более качественно, чем врач, определяют заболевание, в том числе и на ранних стадиях. Интернет-пользователи получают таргетированные рекламные предложения, привязанные к их интересам, полу, возрасту и местоположению. Тем самым эффективность вложений в рекламу повышается в несколько раз. Это лишь очень малая часть отраслей, где машина успешно помогает человеку делать свою работу. Везде, где можно собрать большие объемы данных и быстро их обработать с помощью современных вычислительных средств, искусственный интеллект и решения на его базе могут оказать неоценимую помощь.

Россия, которая на протяжении многих лет немного отставала от Запада в области информационных технологий, сегодня движется в авангарде внедрения систем на базе искусственного интеллекта и машинного обучения. Как показало недавнее исследование корпорации Microsoft «Бизнес-лидеры в эпоху ИИ» (news.microsoft.com/ru-ru/features/business-leaders-in-the-age-of-ai/), наша страна опередила США и Европу в плане внедрения искусственного интеллекта. Так, 30% российских компаний активно внедряют ИИ. Это самый высокий показатель среди всех стран-участниц опроса: в среднем по миру он составляет 22,3%. Мы попросили экспертов ИТ-рынка, разрабатывающих и внедряющих решения на базе ИИ, поделиться мнением относительно текущего состояния этой технологии, ее реальных и приписываемых возможностей.

Количественный и качественный рывок

Для начала попробуем разобраться, почему разработки искусственного интеллекта, которые велись на протяжении многих десятилетий, относительно недавно вышли за пределы научно-исследовательских центров и начали активно применяться на рынке для решения реальных задач. Как полагает Александр Кузнецов, руководитель центра программной разработки компании Bell Integrator, стимулом послужили как прорывы в области алгоритмов и структур данных, так и существенные количественные изменения факторов, требуемых для успешного применения ИИ. «В первую очередь благодаря действию Закона Мура вычислительные мощности, необходимые для обучения ИИ, стали намного более доступными. Их теперь можно не только приобретать по приемлемой цене, но и даже брать в аренду, что позволяет решать задачи обучения намного быстрее, чем раньше. 

То же самое следует сказать и о накоплении данных, необходимых для создания качественного ИИ. За последние годы было накоплено бесчисленное количество данных, которые уже являются товаром сами по себе в силу огромной ценности для компаний. При этом многие компании уже многократно получили подтверждение того, что решения, принятые на основе анализа данных искусственным интеллектом, становятся более прибыльными», – отмечает он. Несколько причин называет и Дмитрий Шушкин, генеральный директор компании ABBYY Россия . «Во-первых, появилось большое количество наборов размеченных данных: изображения и видео с обозначенными на них объектами, структурированные и неструктурированные документы, разобранные по категориям, – рассказывает он. – Во-вторых, за последние несколько лет в десятки раз выросли вычислительные мощности, позволившие обрабатывать огромные объемы информации в короткие сроки. В-третьих, сегодня доступны новые инструменты машинного обучения, что значительно ускорило разработку технологий, а в некоторых случаях и позволило снизить их стоимость. Наконец, появились первые публичные примеры успешных проектов в банках, энергетических компаниях, ретейлерах, телеком-операторах».

Авангард и второй эшелон

В сфере искусственного интеллекта есть отрасли-лидеры, где машинное обучение уже применяется максимально широко, а есть аутсайдеры, которые также могли бы с его помощью автоматизировать и упростить многие процессы. «ИИ широко распространен во многих отраслях, и в авангарде традиционно идут банки и финансовые организации – они первыми внедряют новые инструменты, первыми получают от них отдачу. Но дело здесь не в том, что ИИ как-то особо заточен именно под банки. Просто банки работают с рисками, и для них особенно важно обезопасить себя по максимуму, к тому же у них, как правило, есть на это бюджет, – говорит Александр Ефимов директор Дирекции аналитических и индустриальных решений компании SAS Россия/СНГ. – Довольно активно решения на основе ИИ используются в телекоме, ретейле, подтягивается медицина, промышленность, сельское хозяйство, образование – практически в любой отрасли найдется применение ИИ. Даже в госсекторе, который традиционно одним из последних внедряет подобные решения – в силу своей специфики и необходимости согласования на нескольких уровнях – сегодня тоже используются аналитические инструменты с элементами ИИ». 

Светлана Гацакова, директор департамента корпоративных информационных систем компании ALP Group, связывает широкое использование искусственного интеллекта не столько с отраслями, сколько с высокоуровневыми процессами, куда эти задачи входят как составной элемент – изучение потребителей, сегментация клиентской базы, таргетирование воздействий (в частности, рекламы), управление персоналом, все формы передачи рутинной работы программным роботам, использование «науки о данных» для перехода к менеджменту на основе данных (data-driven management, или DDM), выявление схожести в поведении сложных систем и устранение ложных аналогий. Сегодня, по ее словам, такие задачи возникают практически в любой отрасли бизнеса и госуправления.

Где-то теряем, где-то находим

Системы искусственного интеллекта требуют обучения, которое осуществляется либо с помощью человека, либо в автоматизированном режиме по обучающим выборкам данных, опять-таки, составленным человеком. Но человеку свойственно ошибаться, а ошибки неизбежно отразятся в работе систем на базе ИИ. Не так давно президент Сбербанка России Герман Греф, заявил, что Сбербанк из-за ошибок ИИ потерял миллиарды рублей. Стоит ли сегодня применять ИИ в бизнесе или лучше подождать несколько лет, пока алгоритмы достигнут совершенства? «За счет прикладного внедрения систем ИИ Сбербанк заработал гораздо больше, чем потерял. И при правильном применении ИИ и использовании преимуществ вероятность потерять значительно ниже, чем заработать, – ответил нам представитель пресс-службы Сбербанка. 

"Давайте сравним и сопоставим деятельность ИИ в Сбербанке и работу живого специалиста по тому же самому направлению. Возможно, благодаря ИИ были потеряны миллиарды, но если бы работали люди, потери бы исчислялись десятками миллиардов. ИИ учится, и если вы его правильно обучили, он не будет делать ошибок. Человеку свойственно ошибаться. Тем более один сотрудник увольняется, другой приходит на его место и повторяет те же самые ошибки. Возможно, текущие алгоритмы ИИ несовершенны, но пройдет какое-то время, сменится несколько поколений таких систем, и результат будет совершенно другим. Вспомним первое огнестрельное оружие или первые паровые машины. Они тоже были неуклюжими и несовершенными, однако за достаточно короткий период вытеснили устаревшие технологии и далее развивались эволюционно», – добавляет Юрий Минкин, руководитель департамента разработки беспилотных транспортных средств компании Cognitive.

Искусственный человек – пока фантастика

Любую технологию на пике ее развития сопровождает немало мифов и заблуждений. Нередко заказчики ждут от искусственного интеллекта слишком многого. Как нам рассказал Игорь Кириченко, исполнительный директор компании Naumen, 95% заказчиков считают, что внедрение интеллектуальной системы не требует специальной работы с данными, потому что ранее никто не смотрел на эту задачу с подобного ракурса. По его словам, разработчикам часто приходится сначала сделать платформу для управления данными и только потом создавать робота, который будет обучаться на этих данных и использовать их. «Распространенное заблуждение состоит в том, что искусственный интеллект заменяет человека. Это не так, – дополняет Валерий Андреев, заместитель директора по науке и развитию компании «ИВК». – Мы до сих пор не знаем, как устроен человек. Нельзя создать «искусственного человека» по крайней мере в ближайшей перспективе. Конечно, человек не способен обработать гигантское количество данных, которые по плечу ИИ. Но у него есть интуиция и реальный интеллект, позволяющие на гораздо меньшем количестве данных реализовать правильные решения. ИИ же, в отличие от человека, оперирует данными, а не знаниями. Он своего рода «формалист», поэтому может не учитывать какие-то нюансы и совершать непростительные ошибки, приводящие к большим проблемам и рискам». По мнению Валерия, уже сегодня ИИ совершает непростительные ошибки, и никто не может гарантировать отсутствие таких ошибок в дальнейшем. В связи с этим использование ИИ надо строго ограничивать, и применять его лишь для рутинных и малозначимых операций, где человека можно заменить.

Кто виноват?

Раз уж мы заговорили об ошибках, невольно возникает вопрос: а кто несет ответственность за их последствия, разработчик или компания, внедрившая у себя систему на базе ИИ? «Ответственность за результат работы любой программы, в том числе искусственного интеллекта, несет либо тот, кто принимал ее в эксплуатацию, либо тот, кто непосредственно использует решение», – считает Дмитрий Шушкин (ABBYY). По мнению Александра Ефимова (SAS), тут дело не в ответственности – наказывать некого и не за что, это нормальный рабочий процесс, и такие ошибки исправляются совместными усилиями разработчика и заказчика. «Это одна из самых сложных проблем, – комментирует Светлана Гацакова (ALP). – Даже если применяется технология ИИ, способная объяснить, как получены выводы, вызвавшие те или иные действия, их проверка требует времени и квалификации. Нужна целая армия сотрудников, чтобы оценить все цепочки рассуждений. А выводы популярных сегодня нейронных сетей нельзя объяснить в принципе. И при этом их решения или прямо действуют на людей (например, в виде отказа в выдаче кредита, в приеме на работу и т. д.), или на них основывает свои выводы менеджеры. Однако по мере расширения применения ИИ в бизнесе доля объяснимых решений будет сокращаться. Размывается основополагающий принцип ответственности. Даже не за отдельные решения, а за широкие пласты менеджмента». 

Представитель пресс-службы Сбербанка уверен, что для исключения ошибок и прочих негативных факторов необходимо развивать компетенции сотрудников в части создания безопасного ИИ и правил работы с ним. Нельзя вслепую полагаться на ИИ и противопоставлять его человеку, только синергия ИИ и человека принесет максимальную пользу. Конечно, это будет возможно при правильном регулировании в части вопросов образования, профессионального развития, правовых и этических аспектов. «Вопрос ответственности еще предстоит решить совместно научному сообществу, государству, бизнесу, чтобы выработать правила игры, которые будут обеспечивать права человека и не затормозят развитие ИИ», – заключает он.

Инструмент, а не конкурент

Итак, искусственный интеллект с успехом заменяет человека во многих рутинных операциях. Люди боятся потерять работу, и это уже не технологическая, а социальная проблема, требующая решения. «Когда внедрялись первые паровые машины, луддиты их активно ломали. Они боялись, что люди станут не нужны. Но прошли столетия, и проблемы безработицы нет. Скорее наоборот, ощущается нехватка квалифицированных кадров. Люди переучатся на другие профессии, появятся новые специальности и новые возможности. Кого-то действительно сократят, но клиенты получат более доступный сервис и более дешевый и качественный товар. Для общества в целом это будет выгодно», – говорит Юрий Минкин (Cognitive). В свою очередь Александр Ефимов (SAS) призывает не драматизировать ситуацию. «ИИ – это просто самообучающаяся программа, способная решать достаточно конкретную и достаточно узкую задачу, – подчеркивает эксперт. – Он не столько вытесняет сотрудников-людей, сколько оптимизирует их работу. Правильнее говорить о перераспределении задач, чем о вытеснении человека машиной. К тому же широкое распространение ИИ привело к тому, что сегодня стали очень востребованы аналитики, специалисты по машинному обучению – на рынке труда на них большой спрос, компании приходят в вузы, чтобы искать потенциальных сотрудников, качественных кадров очень не хватает».