ИТ на стороне добра или помогают злу?
В книге Роберта Шекли «Цивилизация статуса» можно прочитать о человеке, которого упекли на планету-тюрьму за то, что он думал о преступлении. Система предотвращения правонарушений зашла так далеко, что людей приговаривали к ссылке на планете Омега только за то, что он сказал роботу-исповеднику, что кое-кого «убить мало». Ап! На пороге уже стоят роботы-полицейские. Антиутопия? Конечно.
Но это только если забыть о том, что видеофон впервые появился в фантастических произведениях, а сейчас Skype используется повсеместно. Не говоря уже о всемирной библиотеке, которая в нашем современном мире носит название Википедии, и об космическом аппарате Cassini, который успешно бороздит просторы Солнечной системы.
Тема общественной безопасности и ИТ активно обсуждалась в ходе панельной дискуссии «Миссия невыполнима?», прошедшей в рамках конференции Summertime Network Studios, организованной компанией «Марвел-Дистрибуция». Ведущей дискуссии выступила главный редактор портала ITSZ.Ru Алена Журавлева. Основными спикерами стали специалисты таких вендоров, как Axis Communications, Hitachi Data Systems, Technoaware, а также представители дистрибутора.
Отстают ли «хорошие» от «плохих»? Кто лучше владеет хайтеком — представители власти или преступности? Г-жа Журавлева отметила, что слишком часто в фантастических фильмах и книгах пишут о том, как злоумышленники творят свои темные делишки, используя технологические наработки, в то время как правоохранительные органы листают бумажную картотеку и крутят диски телефонов.
Но участники панельной дискуссии дружно не согласились, что представители правоохранительных органов отстают. Один из гостей мероприятия рассказал поучительную историю о том, как в Нью-Йорке боролись с преступностью, используя ИТ. До начала 90-х годов этот американских город был среди первых по уровню преступности. Сейчас ситуация улучшилась, он во втором десятке. Система там следующая: патрульные автомобили регистрируют признаки надвигающегося неблагополучия — например, обращают внимание на стайку чернокожих подростков. А что будут делать чернокожие подростки в США, да еще и группой? К сожалению, грабить ближайший магазин. Сектору с подростками и магазину присваивается на электронной полицейской карте красный цвет — там ожидаются неприятности, и скоро. И к «красному кварталу» подтягиваются патрульные машины. Они начинают кружить рядом с подростками и те не решаются на ограбление.
Еще один участник дискуссии рассказал о чрезвычайно интересном проекте, который в настоящее время тестируется в Петербургском метрополитене. Речь идет о видеоаналитике, которая позволяет автоматически определять на видео оставленные безнадзорные предметы. Пока это пилотный проект, там много сложностей. Тем не менее, в случае успеха такая видеоаналитика заработает на всех станциях метро Санкт-Петербурга.
Уважаемые гости мероприятия напомнили, что существуют и методики, позволяющие автоматически определять по видео и признаки подозрительного поведения, например панического.
Говорили и о человеческом факторе. Один из спикеров отметил, что организационные мероприятия не менее важны, чем технологические. У экрана с любой аналитической системой сидит человек, и если он будет неквалифицированным или недостаточно ответственным, то отмахнется, несмотря на все предупреждения IT-системы. Необходимы диспетчеры с высокой квалификацией. Таким образом, нельзя сказать, чтобы ИТ уменьшают количество рабочих мест — они их, возможно, даже увеличат.
Алена Журавлева попросила собравшихся привести пример других технологий, обеспечивающих общественную безопасность, помимо видеоаналитики. И да, такие технологии есть: так, в Нидерландах почти не осталось заключенных, на правонарушителей надевают электронные браслеты с датчиком GPS. Они сидят под домашним арестом, экономя государству средства на их содержание.
Технологии безопасности будущего, по мнению участников панельной дискуссии, также тесно связаны с прогрессом в области искусственного интеллекта. Не все собравшиеся верили в будущую мощь искусственного интеллекта: один из участников скептически отметил, что кремниевый мозг никогда не будет мыслить образно, он может только выполнять вложенные в него алгоритмы. Поэтому ИИ никогда, абсолютно никогда не будет принимать решения там, где речь идет о жизнях людей. Ему нет места в управлении воздушным транспортом, например. Или в операционной.
Это высказывание вызвало бурное обсуждение. Прежде всего, другие участники подчеркнули, что ИИ не обязательно принимать именно итоговое решение. Можно предлагать варианты. И что в области планирования движениями морских судов ИИ уже трудится вовсю.
Более того, один из спикеров напомнил о нейронных сетях, и что подобные системы делают неплохие успехи в глубоко творческих областях. Например, пишут музыку. Есть пример решения, которое изучило творчество ряда российских групп и написало 12 песен, т.е. полноценный альбом. Не хуже многих других, между прочим.
Но есть и серьезные примеры, от которых буквально стынет кровь. Один из участников рассказал о нейронной сети, которая шесть лет обучалась боевому пилотированию истребителей, впитывая и анализируя опыт лучших асов США. Эта нейронная сеть провела тысячи тестовых боев. И сейчас, по окончании обучения, сбивает этих асов в воздушных дуэлях в 100% случаях из ста боев.
Ведущая напомнила об эпизоде в сериале «Черное зеркало», в котором людям вживлялся чип, и все, что они видели и слышали, отправлялось в ЦОД. Но для хранения всей этой информации необходимы огромные мощности.
«В этом есть зачатки гигантского противоречия, - отметил один из спикеров, - мы придем к конфликту — приватность и социум. Социуму лучше, когда все обо всех известно, это ведет в безопасности. Личность стремится к максимальной закрытости своей частной жизни». Он подчеркнул, что не знает, чем закончится этот конфликт и на какую сторону весов склонится чаша.
Опубликовано 21.06.2017