ГлавнаяУправлениеБезопасность

Может ли публичное облако стать угрозой для автономных транспортных средств?

27.05.2021Автор Флориан Бауманн
Может ли публичное облако стать угрозой для автономных транспортных средств?
Алгоритмы машинного обучения с открытым исходным кодом, например доступные в публичном облаке, могут создавать серьезные риски для безопасности автономных транспортных средств.

Я ежедневно общаюсь с ИТ-руководителями и руководителями бизнеса в автомобильной промышленности, и они постоянно думают о том, что будет дальше, какие новые сервисы им нужно предложить и как автономные транспортные средства коренным образом изменят способы производства автомобилей. Одним из самых значительных изменений станет огромное количество данных, которые генерируют автономные транспортные средства.

Как ожидается, к 2030 году каждое транспортное средство может генерировать до 10 Тбайт данных в день, а это 1 Збайт во всей отрасли. Для сравнения: примерно столько же данных составлял мировой интернет-трафик за весь 2016 год.

Это означает, что автопроизводители и OEM-компании будут не просто производственными организациями – они станут разработчиками программного обеспечения с производственными подразделениями. Сегодня автопроизводители находятся в процессе создания ИТ-инфраструктуры, необходимой им для «автономного будущего», в котором одной из важнейших бизнес-функций станет анализ данных с помощью машинного обучения.

Это развивающийся рынок, а потому каждая компания хочет получить преимущества первопроходца. Многие вместо того, чтобы проходить трудоемкий процесс разработки программного обеспечения собственными силами, создают новые платформы и приложения на базе сторонних алгоритмов.

Но здесь кроется очень большой риск. Использование алгоритмов с открытым исходным кодом или программного обеспечения сторонних разработчиков может существенно подорвать безопасность автономных транспортных средств. Это может сделать автомобили уязвимыми для злонамеренных кибератак со стороны хакеров или сбоев. В любом случае подобные опасности могут стоить производителям миллионных убытков или, в худшем случае, поставить под угрозу жизни пассажиров. Данная проблема пока не обсуждается в отрасли достаточно широко, но руководителям ИТ-отдела, инженерам необходимо задуматься над ней уже сегодня.

Аргумент против публичного облака

Сегодня алгоритмы широко доступны в публичных облаках. Они служат основой для многих новых сценариев использования ИИ и машинного обучения и позволяют компаниям любого профиля и размера извлекать выгоду из интеллектуального анализа данных. Но сильные стороны этих алгоритмов – простота и доступность – также могут обернуться их недостатками.

Алгоритмы публичного облака – своего рода черный ящик: у пользователей очень мало информации о том, как именно они реализованы. И даже если бы такая информация была, код алгоритма машинного обучения может содержать сотни тысяч строк, на изучение которых у специалистов по обработке данных в производственных компаниях просто нет времени, ресурсов или опыта. Таким образом, в настоящее время автопроизводители создают программное обеспечение, которое использует сторонние алгоритмы, не разбираясь глубоко в математических формулах, тонкостях и деталях.

Пассажиры в группе риска?

В этом году выяснилось, что хакерские атаки могут сбить с толку программное обеспечение для распознавания объектов, выполняемого нейронными сетями. ИИ можно обмануть, просто неправильно пометив объекты или добавив немного шума. И это вызывает серьезные опасения, особенно когда сбои напрямую влияют на важные для безопасности функции транспортных средств.

В городах нередко можно увидеть поврежденные или изрисованные граффити уличные знаки. Человеку-водителю не представляет труда отфильтровать «ненужные биты» и разобраться в инструкциях, но для алгоритма сегодня это не так просто. Программное обеспечение, построенное на общедоступных несовершенных алгоритмах, может с трудом интерпретировать важные дорожные сигналы, такие как светофоры или знаки остановки. Но что еще более тревожно, оно может подвергаться риску атак со стороны хакеров, которые с помощью физических сигналов способны подвергнуть опасности пассажиров и уязвимых участников дорожного движения. Это может привести к отказу транспортного средства.

Подобные риски могут показаться маловероятными или неактуальными, но любые транспортные средства, использующие алгоритмы из публичного облака, могут иметь слабые стороны. Это способно серьезно подорвать позиции вашей модели автомобиля на рынке. Транспортные средства должны быть защищены – как на этапе подготовки к производству (во время разработки), так и во время эксплуатации (от сбоев или злонамеренных атак). И производители или поставщики могут сделать это только в том случае, если понимают все детали своего собственного программного кода.

Новый правовой ландшафт

Регулирующие органы тоже будут внимательно следить за этими рисками и, вероятно, в ближайшие годы примут законодательные меры, чтобы свести к минимуму потенциальные риски автономных транспортных средств. Регламент ЕЭК ООН WP29 по автомобильной кибербезопасности (UNECE WP29 Automotive Cybersecurity Regulation) уже одобрен в ЕС и на других основных рынках. Поскольку технология автономного вождения является новой, мы, вероятно, увидим, что эти правила со временем будут совершенствоваться, чтобы смягчать новые риски, когда они станут очевидными.

Как и следовало ожидать, наиболее важным аспектом таких правил будет безопасность пассажиров. Для ADAS (усовершенствованных систем помощи водителю) и автономных транспортных средств, которые будут разрешены для движения по дорогам общего пользования, есть несколько важных для безопасности функций, отсутствующие в отраслевых стандартных правилах. Они определенно будут включать автономные системы экстренного торможения и контроля полосы движения, а также могут охватывать предупреждения об активном техническом обслуживании, чтобы, например, автомобили не ездили с изношенными шинами или поврежденными тормозами.

Но если источником программного обеспечения машинного обучения, лежащего в основе этих важных для безопасности функций, является публичное облако, то кто станет отвечать, если что-то пойдет не так? Технологические компании вряд ли будут нести ответственность за алгоритмы общего назначения, использованные ими в публичном облаке. Однако для автопроизводителя будет считаться неприемлемым применение такого программного кода (черного ящика) в своих автомобилях без должной осмотрительности, хотя некоторые производители сегодня это делают.

В поиске правильного баланса

До массового появления полностью автономных транспортных средств осталось, вероятно, лет 10, поскольку, чтобы сделать систему доступной и надежной, необходимы масштабные сети и инфраструктуры данных. Тем не менее отделы исследований и разработок автопроизводителей уже создают программное обеспечение для своих первых коммерческих беспилотных транспортных средств, даже если они и не появятся на дорогах в ближайшее время. Многие из них для запуска процесса полагаются на программный код из публичного облака, который они не обязательно понимают в деталях и не контролируют.

Итак, что могут сделать производители и поставщики? Чтобы воспользоваться огромными рыночными возможностями автономных транспортных средств, им необходимо быстро внедрять инновации. Исследование 2020 года, проведенное Dell Technologies и WARDS Intelligence, показало, что производители уже отдают предпочтение частному облаку или локальному хранилищу, особенно с учетом дополнительного контроля и безопасности, которые оно обеспечивает на протяжении всего жизненного цикла автомобиля. Но они, возможно, все еще накапливают необходимый ИТ-опыт и пока не могут писать собственные алгоритмы.

Нужен взвешенный подход. Публичное облако по-прежнему является полезным ресурсом для инноваций – для предприятий это хороший способ протестировать свои базы данных с помощью существующих алгоритмов и запустить пилотные проекты. Благодаря публичному облаку автопроизводитель может перенимать опыт лучших поставщиков, пользоваться преимуществами открытых инноваций и API. Но, что очень важно, после того как будут выбраны или созданы правильные алгоритмы, необходима разработка ПО внутри компании.

 

Похожие статьи