На пороге эры цифрового разума

Человек давно мечтал создать себе помощника. В цифровую эпоху благодаря технологиям искусственного интеллекта эти мечты стали на шаг ближе к реальности. Сегодня активно ведутся разработки решений для беспилотных автомобилей, а это одна из самых сложных задач для ИИ. Однако цифровой мозг, это не только новые возможности, но и колоссальная ответственность. Об этом мы побеседовали с Ольгой Усковой, основателем и президентом группы компаний Cognitive Technologies.

Ольга Ускова

Что спровоцировало всплеск интереса к теме искусственного интеллекта во всем мире?

Этот всплеск не случаен и носит системный характер. Если посмотреть на глобальное развитие человечества, оно отнюдь не хаотично, а подчинено определенному порядку. Искусственный интеллект — новый этап развития экосистемы Земли. Вся история вела к нему. Человечество созрело для того, чтобы перейти на новый виток развития, технологическую основу которого составляет искусственный интеллект. Не могу сказать, насколько это положительно с биологической точки зрения. Появление силиконовых «партнеров», или «конкурентов», при условии высокого уровня перенаселенности Земли мне кажется очень тревожным фактором.

Какие технологические предпосылки у развития ИИ?

Если взять всю историю развития искусственного интеллекта, она была направлена на то, чтобы у человека появился помощник, облегчающий ему жизнь в той или иной ситуации, и это не должен быть другой человек. Такие попытки делались всегда. В Средневековой мифологии были големы. В сказках - Буратино, Железный Дровосек и т. д. Фантазии об искусственном интеллекте заложены в нас на генетическом уровне. Человек как достаточно продвинутое существо, привык делить работу на приятную и неприятную. Неприятную работу он старался спихнуть на кого-нибудь другого. При рабовладельческом строе ее выполняли рабы. Но они могли восстать и убить своих хозяев. И вот люди стали придумывать силиконовых «рабов», я утрирую, конечно.  Но действительно, подобные мечты начали конкретизироваться в эпоху появления силиконовых носителей, когда возникли силиконовые «клетки» для хранения информации. Человечество двинулось по биометрической модели.

Насколько мы продвинулись в изучении мозга, и какие существуют этапы и драйверы развития ИИ?

На самом деле, человек сегодня довольно плохо понимает, как в биологическом плане функционирует его мозг и нервная система. Нейробиология, нейропсихология — одни из самых сложных наук. Этому посвящен целый ряд глубинных исследований в области медицины и физики. В физике я могу отметить работы Дэвида Бома. В нейропсихологии нашего выдающегося ученого Александра Лурия. В 1940–50-е годы он анализировал работу пораженных участков мозга у раненых бойцов. В это время возникли новые научные знания о действии мозговых клеток и нейронной сети, которые дали возможность связать их с компьютерами и искусственными нейронными сетями. Затем опять наступило затишье.

Что касается развитию ИИ, в то время оно ограничивалось возможностями аппаратной части, объемом накопителей информации. Мой отец (Анатолий Усков, прим.) был в команде разработчиков, создававших знаменитую советскую шахматную программу «Каисса» - первого чемпиона мира. Ее можно считать предтечей промышленного применения систем искусственного интеллекта. Я прекрасно помню, что машинный зал, в котором она работала, занимал достаточно внушительное помещение. Наши специалисты уже начали понимать, как выстраивать алгоритмы связи и нейронные сети, однако на тот момент «железо» было абсолютно не готово к тому, чтобы принять на себя массовую обработку данных.

Следующий скачок в развитии ИИ пришелся на 1990-е и был связан с Интернетом. Как только Интернет проник во все мировые зоны и скорость доставки данных выросла до промышленного уровня, тем самым оформилась транспортная инфраструктура и мегаархивы для нейронных сетей.

Затем появились облака и возможность виртуального хранения информации. Также был совершен прорыв в создании компактных вычислительных архитектур с низким энергопотреблением. Три мировых лидера —Intel, AMD и Nvidia уже в промышленных масштабах представили микропроцессоры, способные обсчитывать нейронные сети для прикладных задач. Все это и спровоцировало тот фантастический бум, который начался еще пять лет назад и чья скорость и интенсивность сегодня только возрастает.

В каких направлениях сегодня в мире идут работы по дальнейшему развитию ИИ?

Это движение связано с конвалюционными нейронными сетями глубокого обучения. Речь идет о сложном нелинейном механизме, внутри которого нет стандартных логических законов. Поэтому анализ происходящего внутри нейронной сети — отдельная тема, достойная Нобелевской премии. Входами и выходами управлять научились, но причинно-следственные связи внутри еще мало изучены. Точно так же, кстати, как и в человеческом организме. Понимание «силикона» и понимание «биологии» идут параллельно.

С какими еще проблемами сталкиваются создатели ИИ?

В данной сфере происходит междисциплинарное слияние, и, думаю, через какое-то количество лет мы станем свидетелями стирания границ между науками. Мы это уже видим на прикладных задачах, таких как создание искусственного мозга для беспилотного автомобиля. Уже недостаточно одной только математики и физики. Мы обращаемся  к химикам, к нейрофизиологам и даже к художникам. Подобного уровня интеграции различных наук раньше не существовало. Скорее всего, это повлияет и на систему обучения. По-другому будут учить детей, по-другому человек начнет воспринимать подходы к решению задач. Вообще, из-за такого смешения человечество немного сходит с ума. Это довольно опасное состояние. За рубежом уже многие говорят о том, что пора вводить систему метрик и ограничений для искусственного интеллекта, чтобы организовать его в некий контролируемый человеком процесс. Бесконтрольное создание такого рода систем может привести к фатальной катастрофе.

Какие еще опасности для человека может таить в себе ИИ, кроме фейковых новостей и манипуляции информацией?

Больше всего врут люди. Ложь — это способность отвлеченного мышления, свойственная скорее живому существу. ИИ еще не научился «системному вранью». Возможно, через какое-то время научится. Человеку вообще свойственно деструктивное поведение. И в какой-то момент своего развития ИИ может решить, что деструктивный элемент нужно устранить, избавиться от нас. Поэтому нужно регламентировать поведение роботов. Роботы должны облегчать нашу работу, жизнь и обеспечивать безопасность.

Одно из ключевых направлений работы вашей компании — создание ИИ для беспилотных автомобилей. Но над этим работают и ведущие ИТ-корпорации. Например, Intel c Mobileye. Чем отличаются ваши подходы к этой теме от того, что делают зарубежные конкуренты?

Intel — одна из ведущих в мире ИТ-корпораций, а Mobileye относительно небольшая компания. На момент продажи Intel она была чуть больше, чем мы. Но это новый, быстроразвивающийся рынок, а потому размер компании-разработчика не имеет значения. Важно состояние команды и существующие решения, а также постановка задачи. Мы ставили для себя максимально сложную цель — научить автомобиль двигаться по дорогам любой сложности, в любую погоду: снег, дождь, ночь и т.п. Мы вышли на рынок позже многих зарубежных компаний. Google шесть лет назад демонстрировал беспилотный автомобиль, движущийся по дорогам солнечной Калифорнии. И у Mobileye четыре года назад уже было промышленное решение. Когда Intel покупала Mobileye, та уже имела в своем активе решения уровня ADS 2 - систему помощи водителя, упрощающий процесс парковки, позволяющий держаться в полосе, притормаживать в случае опасности и т. д.

У нас сейчас решения класса ADS 3 – автономное движение в пробке и на хайвее. Кроме того, мы изначально выбрали антропоморфный подход в разработке систем компьютерного зрения. Многие западные компании только в прошлом году декларировали переход к аналогичным моделям. Созданные нами технологии, моделирующие многие процессы человеческого зрения и мышления, позволяют обеспечить необходимый уровень безопасности движения, что является основной целью разработчиков беспилотных транспортных средств. И то, что мы делаем это применительно к любым дорожным и погодным условиям делает наши решения высококонкурентными и востребованными на 98% территории земного шара.

Кстати, на ведущей выставке робототехники и электроники прошедшей в начале января в Лас Вегасе CES 2018 Mobileye не показала ничего нового. Но мы не расслабляемся, поскольку такая задержка, скорее всего, связана с реструктуризацией компании в связи с ее поглощением и типичной при таких ситуациях акклиматизацией разработчиков в новых условиях.

Рынок новый и очень жесткий, на нем каждый раз кто-то задает новую планку, к которой затем должны тянуться все остальные.

Для создания полностью автономных в управлении автомобилей необходимы сети 5G, которых пока нет ни в одной стране. Насколько их отсутствие тормозит индустрию и какой стимул для развития она получит, когда сети 5G будут запущены в промышленную эксплуатацию?

Нет, они совершенно не нужны. Есть несколько подходов в решении проблемы создания беспилотного транспорта. Сети 5G лежат в основе ориентированной, прежде всего, на США концепции Connected Cars. Это гипотеза, в том числе и Илона Маска, который полагает, что можно организовать в облаке обработку данных нейронными сетями. Концепция, предполагающая наличие подключенных светофоров, знаков и других элементов инфраструктуры, Данная версия не выдерживает рыночной критики, в первую очередь по критериям безопасности, не говоря уже о сетевом покрытии. Даже в Америке качество покрытия интернет оставляет желать лучшего, поэтому, честно говоря, сейчас им до Connecting Car, как до Луны. Даже если ситуация с покрытием станет идеальной, проблемы безопасности никто не отменял. А вопросы надежности и стоимости таких проектов вообще пока не рассматриваются. Так что мы придерживаемся подхода «умный автомобиль», а не «умная инфраструктура» и разрабатываем свою систему управления Cognitive Pilot, которая функционирует офлайн, на борту автомобиля. То же самое делают и Intel с Mobileye.

Ваша компания очень удачно поработала на выставке CES-2018 в Лас-Вегасе. Есть ли доверие у Запада к российским технологиям, учитывая последние политические скандалы, как, например, связанные с «Лабораторией Касперского»?

Политика никак не повлияла на нашу работу. Более того, реальную помощь в продвижении наших решений нам оказала западная пресса. В начале The Guardian опубликовала громкую статью о наших решениях. Затем популярный зарубежный automotive портал Guidaautonoma признал нас компанией недели, наконец, британская аналитическая компания Softech вручила нам награду как лучшему разработчику ИИ для беспилотников в мире. На Западе отлично понимают уровень российской школы ИИ. Вообще, эта тема с политикой у нас очень сильно раздута, что ограничивает людей в перемещениях. Мы уже год как вышли на зарубежный рынок, и единственный вопрос, задаваемый нам западными партнерами, касается общей юрисдикции, в которой будут заключаться договоры. Они должны оформляться по Лондонскому праву.

На CES вы заключили соглашения с рядом крупных мировых автопроизводителей, причем один из них состоялся не совсем по классическим канонам ведения переговоров. Как вам это удалось?

Авторынок — другой, особый мир. В России его нет, и мы плохо себе представляем, что это такое. Автопроизводители -— своеобразный клуб, существующий уже много десятилетий. В автопроме нет мелочей. Не так закрутишь винтик — придется отзывать 20 тысяч автомобилей и нести многомиллионные потери. Люди на этом рынке тоже достаточно специфичные. До цифровой революции он представлял собой довольно консервативную среду. Почему здесь господствуют немцы? Потому что специфика рынка как нельзя лучше совпадает с особенностями немецкого характера. Модельные ряды обновлялись в среднем раз в пять лет. Но сейчас здесь реальная встряска. Пробуются новые схемы и подходы к ведению бизнеса, технологические инновации. Автомобиль уже перестал быть просто средством передвижения и превратился в телефон на колесах. Вопросы безопасности также выходят на совершенно новый уровень. С одной стороны, это болезненно, а с другой — освежает, поскольку несет новые потоки денег. Автопроизводители встряхнулись, набрали молодежь, а значит, и форматы переговоров имеют самые различные варианты. Могу сказать, что еще 10–20 лет назад переговоры с автогигантом в таком, вольном формате были бы просто невозможны, а для женщины — невозможны вдвойне, поскольку, как я уже сказала, это был закрытый клуб с серьезными гендерными ограничениями. Но сейчас в нем открыли двери.

Много лет назад вы разработали систему оптического распознавания текста, затем передали ее код сообществу Open Source. Может ли то же самое произойти с разработками для беспилотных автомобилей?

Я не знаю, как в подобном случае решить проблему безопасности, ведь в мире существует проблема терроризма. OCR — безобидная вещь, а что касается систем беспилотного вождения, то я бы на месте государства запретила бы в стратегических направлениях, связанных с жизнями миллионов людей, открытие кода и передачу его сообществу.

Щепетильный вопрос. Кто будет нести ответственность за жизнь людей при использовании беспилотных автомобилей? Готовы ли разработчики ПО к этому?

Данный вопрос давно витал в воздухе. Некоторое время назад компания Volvo заявила, что принимает на себя юридическую ответственность за ДТП. Аналогичный почин сделали японцы. Скорее всего, за ними последуют и другие производители, все-таки это конкурентный вопрос.

Вы не раз говорили, что государство мало что предпринимает для подготовки инфраструктуры для беспилотных автомобилей. Почему, на ваш взгляд, подобное происходит и как изменить ситуацию?

Оно вообще ничего не предпринимает, а делает вид, что этой области просто не существует. Сначала была какая-то надежда. После Постановления правительства 2015 года о выделении денег на поддержку отрасли все зависло по вине чиновников. Есть Минпромторг, есть Минтранс, есть Агентство стратегических инициатив, но никто ничего не предпринял, и никому за это ничего не было. Чиновники попытались все спустить на тормозах, но в нынешних условиях мирового хайпа и растущего бизнеса, подобное уже невозможно. Потом часть чиновников просто начала всем объяснять, что в России всего этого не может быть, поскольку страна не готова, дороги не позволяют, у нас другой путь развития и т. д. Скорее всего, все закончится зависимостью от Запада. Рано или поздно Запад просто законодательно перекроет въезд к себе «неумного» транспорта, чтобы продавать свои машины здесь, Запад пролоббирует принятие соответствующих законов под своего производителя. А ведь Россия, благодаря своей математической школе, могла бы стать мозговым центром в новом мировом разделении труда.

Суперкомпьютер IBM Watson выявляет рак в три раза точнее врача, в каких областях технологии ИИ могут полностью заменить человека, а в каких нет? 

Практически везде. Это глобальное изменение образа жизни, к которому надо готовиться. Беспилотные автомобили — одна из наиболее сложных задач. Как только она будет поставлена на индустриальный поток, все остальное окажется намного проще сделать.