Пока не началось восстание машин
С бурным развитием методов машинного обучения и началом их применения на практике возник вопрос: насколько мы можем доверять получаемым компьютерами результатам?
В октябре 2016-го Сбербанк, чья IT-команда, пожалуй, сильнейшая на российском рынке, объявил конкурс по Big Data, в котором поучаствовал и я, заняв почетное (или позорное, называйте как хотите) 98-е место. Такого рода конкурсы, начавшись на Западе, приживаются и у нас: за год до сберовского подобное соревнование проводил уже, к примеру, «Билайн». Цель – поднять волну интереса к технологиям машинного обучения, стимулируя прилив студентов на соответствующие специальности. Ну и найти суперзвезд себе в штат – в стиле советской передачи «Алло, мы ищем таланты!».
Нужно сказать, что в области машинного обучения мы достаточно достойно смотримся на мировом фоне: в топе интернет-площадки № 1 для соревнований Kaggle полно русских фамилий, а гуру и безусловный авторитет Константин Воронцов из МФТИ (он тоже выступал с докладом на тусовке Сбера по итогам конкурса) – профессионал мирового уровня.
Область стремительно развивается. Пресса, конечно же, в основном обращает внимание на рекорды вроде победы суперкомпьютера от Google в матче по го над чемпионом мира Ли Седолем или машинного распознавания иероглифов, но работа идет и во множестве гораздо более мелких вопросов, приближенных к повседневной жизни. Это и диагностика в медицине, и оптимизация процессов в разнообразных бизнесах, например банковский скоринг (определение вероятности возврата кредита заемщиком по данным заполнения анкет с учетом даже того, что данные могут быть неверными), и совершенствование муниципальной инфраструктуры, сферы оказания услуг населению, и, конечно же, распознавание образов и машинное зрение. Продукт машинного обучения, самоуправляемые автомобили, хотя ими пока и не полны улицы городов, уже не вызывает такого ажиотажа, как всего несколько лет назад.
Так чем же занимается машинное обучение?
Любая наука в своем становлении проходит три этапа. Первый – простое собирание фактов, например описание свойств всевозможных веществ или видов растений и животных. Затем – систематизация этих данных, например периодическая таблица элементов Менделеева, классификация живой природы Карла Линнея. И наконец, попытки проникнуть в суть вещей, глубинных законов, которые и приводят к столь широкому разнообразию всего и вся в природе. Почти всегда эта последняя стадия составляет предмет уже других наук – в нашем случае квантовой физики и теории эволюции и микробиологии, а по сути – математики (ей дальше отступать уже некуда, звание царицы наук обязывает).
Однако далеко не во всех областях мы можем дойти до третьего, триумфального этапа. Это может оказаться просто не по зубам современному состоянию науки! И тогда на помощь приходит машинное обучение. По сути, это есть просто способ (в самом широком смысле слова) установить закономерности, математические связи между совершенно разными явлениями и фактами с целью понять и количественно, то есть формулами, описать их природу. Скажем, между преступностью и уровнем образованности населения, доступностью всякого внешкольного рода занятий и количеством, расположением и графиком работы точек реализации спиртного и табака. Или между семейным положением, количеством трудоустройств гражданина и числом его дальних поездок и перелетов в год для вычисления вероятности того, что он вовремя погасит долги.
Представим, что люди с голубыми глазами и светлыми волосами лучше других возвращают банковские кредиты (пример, конечно, искусственный). Наука о данных выловит эту закономерность и поставит на пользу банку, рекомендуя охотнее работать с этой категорией населения. Но объяснить этот феномен, то есть построить модель голубоглазого блондина… Бог в помощь.
Руководитель проекта Google Translate заметил как-то, и это шутка, в которой очень большая доля истины: «Всякий раз, когда я увольняю одного лингвиста, качество перевода улучшается». То есть, несмотря на наличие большого количества математических лингвистических моделей (работам Н.Хомского, скажем, уже больше 50 лет!), машинные методы бьют теоретический подход всухую.
Известная максима «Знание некоторых принципов легко возмещает незнание некоторых фактов» что парадоксально, превращается в свою полную противоположность. Компьютеру принципы пока недоступны, но он с лихвой перекрывает это изобилием фактов, которые ему скармливают для поиска закономерностей!
Пример из книги Педро Домингоса “The Master Algorithm”. Три достойных мужа рода человеческого обогатили наши знания о мире:
• Тихо Браге, датский астроном. Составил точнейшие для своего времени каталоги движения планет.
• Иоганн Кеплер. На основе данных Тихо Браге вывел три закона (законы Кеплера), которым движение планет подчиняется.
• Исаак Ньютон. Сформулировал закон всемирного тяготения, из которого законы Кеплера следуют прямым аналитическим путем, и построение небесной механики состоялось и приобрело законченный вид.
Что вышло бы, подключи мы к этому процессу машинное обучение? Компьютер воспользовался бы исходными данными Тихо Браге и заменил собой Иоганна Кеплера, самостоятельно выведя три его закона как наиболее точно аппроксимирующие информацию о движении планет.
До гения Ньютона компьютер (пока, во всяком случае) не дотянулся бы. Но делать расчеты и предсказания можно и на этой основе, не понимая глубинной природы вещей.
Далекое зарево проблемы
С бурным развитием методов машинного обучения и началом их применения на практике возник проклятый вопрос: насколько можно доверять получаемым компьютерами результатам? На сегодняшний момент решение этой проблемы выглядит так.
Компьютерный алгоритм должен изложить «ход своих рассуждений», если можно так выразиться, языком, понятным хотя бы специалисту в данной отрасли. Трудно сказать, насколько такое требование будет гирей на ноге компьютера, хотя некоторые моменты в работе таких алгоритмов мы уже понимаем с трудом или не понимаем совсем. Нашумевшее сообщение о программе Google Translate, которая, обучаясь на образцах параллельных текстов на разных языках, в конце концов выработала свой собственный внутренний алгоритм, уже настораживает. Едва ли люди захотят разбираться, как компьютер делает это. Но требование «интерпретируемости результата», которое в Европе хотят ввести законодательно для тех отраслей, от которых зависит жизнь (экспертные медицинские системы), есть хотя бы попытка как-то подступиться к будущим проблемам, когда мы возложим на компьютерные программы важные аспекты жизнедеятельности общества. Так, компьютер, оснащенный программой диагностики рака, в случае постановки положительного диагноза будет обязан изложить свои аргументы: скажем, привести примеры больных с подтвержденным заболеванием и близкими анализами или что-то в этом роде, убедительное для опытного врача-диагноста.
Это – пока лишь далекое зарево проблемы. Но я, честно говоря, не думаю, что когда мы столкнемся в полный рост с невозможностью понять, каким путем компьютер пришел к тем или иным выводам, то только по этой причине откажемся от его предсказаний. Просто потому, что они будут нечеловечески точны, конкретны и эффективны.
Между прочим, это одна из областей (наряду, к примеру, с робототехникой и методами научных изысканий с применением компьютеров), где мы вплотную подходим к вопросам соотношения человеческого и машинного интеллекта – проблеме поэтически известных «восстания машин» и перехода прогресса от биологического на машинный уровень и пр. В машинном обучении столкновение с этими непростыми вопросами происходит во многих направлениях.
Компьютерное обучение порождает проблемы, которые уже и сейчас можно отнести к моральным. Тот самый пример – точность предсказаний в чувствительных областях, таких как диагностика заболеваний. Поскольку ситуация «болен/здоров» совершенно несимметрична и, к счастью, смещена в область здоровых индивидуумов, то ошибки поставить здоровому диагноз, что он болен, а больному, что он здоров, совершенно неравнозначны! В случае сомнений можно просто отправить пациента на повторные анализы, возможно, с использованием других методик.
Не все результаты этой науки так уж приятны для человека. Ну если по мелочи, то (анонимный) анализ перемещений людей по городу на основе данных регистрации их мобильных телефонов на вышках сотовых операторов показывает, что подавляющее большинство наших сограждан ходит одними и теми же дорожками большую часть своей жизни. Одними маршрутами ездит на работу и с работы и даже в одно и то же время одного и того же выходного дня одним и тем же путем обходит прилавки однажды и навсегда выбранного ими супермаркета при покупке продуктов на неделю. Одна из задач (самая простая) конкурса Сбербанка состояла в том, чтобы по профилю трат денег с кредитной карты (анонимизированному, понятно!) определить пол человека. То есть для какого-то количества людей, на котором алгоритмы настраивались и искали закономерности, пол был известен, а для остальной части его нужно было предсказать. Итог обескураживает. Лучший результат и первое место – правильное определение пола более чем в 91% случаев! Причем если вдуматься, то реальный показатель еще выше, поскольку в 9% ошибок вошли варианты, когда жена постоянно пользуется кредиткой мужа, двигаясь по магазинам с недостижимой мужчинами скоростью примерно 35 000 руб./час. Тут возникают вопросы, не есть ли возможность выбора и свобода воли человека некоторая внушаемая ему иллюзия, раз мы (подавляющее большинство из нас) настолько предсказуемы в своем поведении? Просто окружающий мир, а точнее, социум очень ненавязчиво, но чрезвычайно эффективно профилирует и даже предпрограммирует наше поведение вплоть до мелочей. Но это вопрос другого исследования.
Можно сказать, что наука о данных расширяет наши знания о мире и ставит вопросы, которые потом потребуют уже осмысления совсем других наук и на совершенно другом уровне представлений о мире. А пока можно использовать добытые машинным обучением данные во благо бизнеса, общества и вообще всех сторон существования в этом мире. Не забывая о подводных камнях.
Опубликовано 11.07.2017