Почта России внедрит ИИ, Telegram вводит факт-чекинг, госкомпаниям могут запретить «самописный» софт

Alibaba Group ужесточила условия для российского бизнеса. Китайская компания перестала принимать рубли и не позволяет оформить поставку в Россию, как утверждает газета КоммерсантЪ. С российских карт оплата больше не проходит. Ужесточение политики Alibaba связано, прежде всего, с угрозой вторичных санкций, из-за которых возникли и другие проблемы с российскими платежами в Китае. Что будет дальше?

Если говорить коротко о том, что будет дальше, то системы будут искать способ адаптироваться. Они, с одной стороны, большие и сложные, я имею в виду набор цифровых платформ и, соответственно, организации, которые ими управляют. С другой стороны, сейчас Alibaba и ряд сопоставимых платформенных организаций уже нельзя считать в полном смысле бизнесом. Это скорее инструмент макроэкономического взаимодействия государств, который попадает в орбиту вот этих самых вторичных санкций. Тут не могу не процитировать самого себя из 2019 года, когда я впервые написал, что столкновения будущего происходят не только по земле, но и по цифровым платформам. Началось это все очень сильно не вчера. Еще в ранних 2000-х производители глобального коммуникационного оборудования из Китая и США вели свои торговые войны, переходящие в политическую плотность. То есть, да, конечно, в определенном интервале это затронет и пользователей платформ, но затронет и предпринимателе.  Но, как я сказал, системы будут искать выход, будут искать обходные пути. И помня истории предыдущих санкционных волн, скорее всего, что-то найдут.

Закон, которого все ждали. Европейский парламент утвердил закон об искусственном интеллекте, вводя первые в мире правила регулирования этой технологии. Новый закон устанавливает строгие требования к использованию искусственного интеллекта, особенно в высокорисковых областях, таких как здравоохранение и правосудие. Кроме того, он вводит запрет на технологии массового наблюдения. Как принятие закона повлияет на развитие и использование искусственного интеллекта? И нужен ли такой в России?

Во-первых, этот законодательный акт очень сильно не первый. Ещё несколько лет назад, когда я работал в центре подготовки руководителей команд цифровой трансформации, мы написали доклад, написали ряд материалов по теме регулирования искусственного интеллекта, в том числе этики искусственного интеллекта, набралось на три тома. Мы смотрели европейское, американское, азиатское законодательство, мы смотрели различные аспекты использования искусственного интеллекта, в том числе связанного с распознаванием лиц, в том числе связанного с различными алгоритмами, которые граждан, что называется, подталкивают к тем или иным действиям и решениям. Не будем себя обманывать. Сейчас цифровые системы знают о нас больше и знают нас лучше, чем мы сами. Таким образом этой истории уже несколько лет,  страны действительно заключают и межкорпоративные, и межстрановые различные соглашения, и принимают нормативные акты по регулированию искусственного интеллекта. Подходы можно разграничить. Есть американский подход, есть европейские подходы с их ценностями, приватностью, есть китайские подходы. И китайцы тоже очень активно относятся к теме регулирования алгоритмов или хотя бы построения реестров алгоритмов. И в том числе искусственного интеллекта. Ну а если говорить о медицине, то уже не первый год, в том числе в России, алгоритмы искусственного интеллекта относятся к тем же самым медицинским изделиям. Их принятие и ввод в эксплуатацию подчиняется той же нормативке, что и медицинские изделия. Теперь говоря о том, надо ли это? Надо обязательно. Потому что, как я сказал, очень много таких соблазнительных рычагов. Очень много данных о каждом из нас, которые могут быть использованы разными, в том числе и неправомерными, способами. И об этом мы тоже говорим в комплексе докладов, который насчитывает несколько сотен страниц. Так что заниматься этим регулированием нужно обязательно. Нужно находить баланс между цифровыми компаниями, между гражданским обществом, между государствами и, если честно, я думаю, что дорога по формированию нормативного регулирования искусственного интеллекта, она очень далека от завершения, она скорее ближе к началу. Ну и в том числе применимо к Российской Федерации. Так что нужно искать балансы, нужно работать регуляторам во взаимодействии с цифровыми организациями, с гражданским обществом, во взаимодействии стран друг с другом, и вот эти балансы, вот это регулирование находить. Еще раз, интересующихся адресую к докладу, по этике искусственного интеллекта, подготовленному Центром руководителей команд цифровой трансформации, все эти материалы свободно доступны в интернете.

Почта России внедрит искусственный интеллект для ускорения доставки. За последние годы компания значительно улучшила качество своих услуг. Из неповоротливой и полной ошибок организации Почта России превратилась в весьма удобный сервис, доступный практически всем жителям страны. Теперь не собираясь останавливаться на достигнутом, служба планирует внедрить новейшие технологии интеллектуального моделирования в свою работу. Насколько реалистичны ожидания улучшений благодаря внедрению ИИ? Как вы думаете?

Вот это то, что я называю хорошая  повседневная рабочая новость. Да, действительно, в Почте России мы наблюдаем изменения. Появились сервисы, появились трекеры, появились цифровые способы взаимодействия. И организация прошла серьезный путь в части трансформации, в части управления на основе данных. И ключевое слово здесь именно данные. Ведь о чем говорит новость, что будут пробовать, будут пытаться применить искусственный интеллект? Прежде всего, она означает то, что налажен поток, налажен сбор, хранение и даны возможности обработки вот этих самых структурированных данных. То есть по отправлениям можно смотреть маршруты, можно смотреть временные засечки, где, когда и что произошло. Ну и соответственно, эти данные можно обрабатывать. Если говорить о Почте России целиком, то это не совсем отдельная организация, она несет очень важную государственную функцию по обеспечению, в том числе транспортной связанности на огромной, на большой территории, со сложной мультимодальной логистикой, с длинными маршрутами, но эта связанность должна быть обеспечена, и мы видим, что год от года организация совершенствуется и в части скорости доставки, и клиентоцентричности взаимодействия, и раз появились данные, обязательно нужно пробовать механизмы искусственного интеллекта. Очень хорошо, что обратились к организации, которая профильно специализируется на задачах оптимизации. Я не могу сказать, будет ли это искусственный интеллект как таковой, или будут это какие-то математические алгоритмы, но в любом случае, как я сказал вначале, очень хорошая рабочая новость. Надеюсь, действительно, инструменты найдут свое место.

Ну и обе организации и Почта России, и та, которая будет помогать с моделированием, с применением алгоритмов, они на новом масштабе, на новом объеме данных, на новом уровне сложности наработают компетенции, которые отразятся в том числе и на клиентских показателях службы.

Говоря о использовании искусственного интеллекта в сервисах доставки, самая горячая новость прошедшего времени — это то, что сервисы СДЕК перестали работать вследствие хакерской атаки. Как ты думаешь, может ли искусственный интеллект помочь защитить компании от таких ситуаций?

Я не являюсь профильным специалистом по информационной безопасности, ну и достаточно поверхностно соприкасаюсь с темой искусственного интеллекта по сравнению с теми специалистами, которые занимаются этим действительно глубоко. Но по случившемуся я бы прокомментировал несколько вещей. Первое. Еще в 2011 году мы беседовали как раз на страницах журнала IT Manager с финским визионером Пеккой Вильякайненом. И когда я задал ему вопрос, что будет дальше с ИТ-системами, сервисами, вообще с ИТ, он сказал так: «Павел, давай прикинем на небольшую дистанцию, хотя бы на 10 лет вперед, будет в организациях больше ИТ или меньше?»  Сейчас эти самые 10 лет прошли, и мы увидели, что пронизанность процессов внутри организации, между организациями, соответственно, внутри страны, между странами посредством информационных технологий, она гораздо больше. То есть больше ИТ, больше рисков, в том числе рисков информационной безопасности. Ну а дальше противостояние брони и снаряда. С одной стороны, ИТ-процессы, данные и системы действительно пронизывают наши взаимодействия, в том числе логистические. С другой стороны, нужно находить инструменты для противодействия. Ну и я бы предположил так. Если есть механизмы тренировки моделей искусственного интеллекта по игре в ГО, когда напускают друг на друга одну модель и вторую, то почему бы не появиться моделям, когда одна атакует, вторая защищается? Это как предположение, но это предположение, на мой взгляд, кажется логичным. И еще раз подчеркну, это достаточно дилетантский поверхностный взгляд с точки зрения безопасности, с точки зрения искусственного интеллекта. Но я бы предположил, что сценарий может быть такой.

Еще одна новость, связанная с искусственным интеллектом. За использование дипфейков с подменой голоса предложено вести уголовное наказание. Такие действия хотят приравнять клевете, краже, мошенничеству и вымогательству. Виновным могут грозить штрафы до полутора миллионов рублей и лишение свободы на срок до семи лет. Об этом законопроекте, который будет внесен в Госдуму на этой неделе сообщили Известия. Насколько эффективны такие меры?

Вы знаете, опять-таки, меры законодательства можно оценивать только после того, как они приняты, прошло определенное время, и мы получили так называемую оценку регулирующего воздействия. Но по этой новости я бы прокомментировал так. Интернет на данный момент — это самая высокотехнологичная, массовая и скоростная система распространения слухов и дезинформации. Давно прошли те времена, когда к фотографии можно было пририсовать рожки, или выпустить в газете какое-то дезинформирующее сообщение. Сейчас все происходит в разы быстрее, в разы реалистичнее. Ущерб может быть нанесен в десятки раз больше. Поэтому определенные меры регулирования в отношении этого явления нужны обязательно. Ну, потому что если ничего не делать, скоро увидим себя говорящими или делающими то, что не делали никогда и не хотели бы это видеть. Обязательно нужно этим заниматься. А здесь мы говорим именно о безопасности граждан и организации.

Telegram вводит факт-чекинг. В бета-версии Telegram для Android обнаружена функция факт-чек, предназначенная для проверки достоверности информации. Telegram будет сотрудничать с агентствами, которых назначат правительства стран, чтобы проверять информацию и добавлять пояснения к постам. Об этом сообщает Telegram канал Код Дурова. Как можно будет следить за тем, чтобы агентства, которых назначают правительства для проверки информации, оставались объективными и независимыми?

Сложный, хороший, интересный вопрос. Здесь нужно смотреть, когда регуляторика появляется, когда начинает работать, и как она начинает работать. Я бы сказал, что это еще один аспект, еще одна тематика, с которой точно нужно что-то делать. Чем это обусловлено? Давайте отмотаем назад лет на 200. В то время человек получал новостей за год, скорее всего, меньше, чем мы сейчас получаем за день. То есть во-первых, мы работаем, во-вторых, жить когда-то надо. Но чисто объективно мы все проверить, сопоставить не в состоянии. Просто в силу наличия потока. Ну и в определенной степени необходимы навыки, соответственно, отделять информацию от дезинформации. Это требует аналитических и логических способностей, и банально, времени. Мы говорим не об одной новости, мы говорим о системе, о потоке определенных новостей, определенной информации. Если пустить на самотек, это будет подталкивать людей к тому, что сначала думать как к каким-то вещам относиться, ну а потом, как какие-то вещи делать. Какой-то механизм вмешательства, он необходим. Как это будет работать через агентства и будут ли подготовлены традиционные новостные агентства к такому формату? Им тоже в определенной степени нужно будет трансформироваться.

Еще одна горячая новость. Минцифры предлагает вести запрет на финансирование госкомпаний разработок базового программного обеспечения. Это будет, если аналоги уже присутствуют на рынке, или если эти решения не будут коммерциализироваться. Иначе говоря, госкомпаниям будет запрещено разрабатывать самописный софт исключительно для собственных нужд. Они должны будут покупать решения у ИТ-компаний. Как это может повлиять на рынок?

Мне как специалисту по как раз корпоративному программному обеспечению, эта новость, она была пожалуй самой сложной, но и самой интересной для осмысления. С одной стороны, намерение регулятора, оно понятно. Движение, развитие информационных технологий - один из залогов успеха. Это консолидация усилий, консолидация ресурсов. Я скажу больше. Вот какую страну ни возьми, которая изменила свое положение на цифровом ландшафте по ходу своей истории. Это всегда была консолидация ресурсов. Возьмем Тайвань. Это определенное производство и массовой вычислительной техники, и производство процессоров, то есть индустриальный фокус. Возьмем Соединенные Штаты. Это соответственно платформы, экосистемы, то есть продукты из Силиконовой долины, ну и ее производных. Возьмем Китай. Это тоже своя экосистема, есть тоже определенная фокусировка усилий, определенное регулирование. Если мы присмотримся к ключевым ИТ-компаниям, увидим, что у них есть определенные области специализации. И это управляется государством. Или возьмем Чехию, там металлургия, уголь. Когда эти отрасли исторически просто просели, они сделали очень большой фокус на том, чтобы развить сервисные компетенции по обслуживанию корпоративных заказчиков в Европе. А поскольку страна находится в Центральной Европе, она мультиязычная по определению, и в странах на рейтингах и в месте цифровой трансформации она изменила свое местоположение. Конечно, необходимо думать о чем-то похожем. Другой разговор, что вот здесь, у Минцифры будет очень ювелирная работа, потому что, с одной стороны, намерение понятно. С другой стороны, есть конкуренция. А конкуренция — это двигатель развития, то есть здесь нужно прилагать регулирующие усилия, соответственно, чтобы не помешать вот этой самой конкуренции. Следующий аспект. Я бы предложил определиться с понятиями, что такое вот это самое базовое программное обеспечение. Это операционная система? Возможно. Десктопные, мобильные, базы данных? Возможно. Это корпоративные информационные системы класса ERP или других? А вот здесь имеет смысл подумать. И подумать по двум причинам. Во-первых, ни разу не факт, что если какая-то организация разработала, условно говоря, ERP решение, оно будет отчуждаемо от этой организации. Возможно, оно под нее написано. Более того, возможно, в нее заложены конкурентные преимущества как раз этой организации. И тенденция последних, например, 10-12 лет в том, что организации делают или выбор, или делают соответственно комбинацию стандартных пакетов программного обеспечения и ПО, которое они разрабатывают сами под себя. То есть в алгоритмы они закладывают свою организационную структуру, свои процессы, свои ключевые компетенции, то, что дифференцирует их бизнес. Мы сейчас прошли по очень верхней точке, просто рассмотрев ключевые заинтересованные стороны. Регулятор, цифровые компании, промышленные компании. Здесь, вероятнее всего, тема получит развитие.  По отношению к разным классам систем, к разным категориям будет применим различный подход.  И здесь уважаемым участникам взаимодействия и регулятору, и компаниям, и пользователям ИТ-систем желаю в диалоге найти правильные балансы, правильные фокусы и и правильный ориентир на то, чтобы с одной стороны не распылять ресурсы, и действительно развивать ключевые направления. С другой стороны, соответственно, учесть фактор конкуренции и учесть тот фактор, что когда организации разрабатывают ИТ для себя, они закладывают в это ИТ лучшее, что знают об управлении бизнесом.

Я часто общаюсь с ИТ-директорами, в том числе из  госкомпаний и госпредприятий. И слышу следующее, что после ухода западных вендоров они долго искали им замену, находили разные российские решения, которые считаются аналогами западных продуктов, но по тем или иным причинам они не устраивают их по функционалу. И тогда они нанимали специалистов и разрабатывали под себя, для себя, какой-то конкретный продукт, не планируя его продавать. Не получится ли так, что с введением такого запрета им придется прибегать, так скажем, к серым схемам?

Предсказать сложно, но, наблюдая, как выстраивается взаимодействие ИТ-сообщества и регулятора, а это взаимодействие, несомненно, есть, я вот честно очень надеюсь, что будут найдены правильные балансы.  Потому что уход в тень в долгосрочной перспективе не выход, хотя, конечно, инструментальные способы можно найти. Но еще раз говорю, я за диалог и за нахождение вот этих самых правильных, корректных балансов. И еще раз подчеркну, что этот вопрос с точки зрения продумывания и с точки зрения понимания задачи регулятора и понимания сложности самой этой задачи, он, пожалуй, самый сложный из тех, которые мы обсуждали сегодня. Но с третьей стороны, если все-таки посмотреть на опыт стран и мной упомянутых и ряда других, где стояли задачи цифрового развития и взаимодействия государства и цифровых организаций, есть диалог, есть практики, я надеюсь, это сработает в данном случае.

С другой стороны, разработка продукта, особенно который предназначен для корпоративного сектора, это же всегда совместная работа. Это совместная работа как интеграторов, так и заказчиков. Возможно, это законодательство приведет к тому, что будет просто больше хороших продуктов.

Вы знаете, я соглашусь с этим тезисом и дополню его. На протяжении последних пяти-шести лет, действительно наблюдаю растущую тенденцию взаимодействия исполнителей, разработчиков и заказчиков по совместному совершенствованию. Создаются ассоциации пользователей, и действительно это будет очень хорошим ходом  для ускорения, потому что мы действительно понимаем, что по целому и очень большому списку продуктов, есть отставание по функциональности, которое действительно нужно нагонять. И здесь я достаточно редко использую слово «партнерство», но я наблюдаю сценарий вот этого партнерства, и хочется, чтобы его было больше, но здесь опять-таки все зависит от индустрии, от организации. Если мы возьмем государственные компании федерального масштаба, федерального охвата, естественно, это прямой диалог с крупными поставщиками. Если мы возьмем небольшой бизнес, тут, знаете, наблюдаем очень интересную тенденцию. Вот например собираемся куда-нибудь пойти поесть. Мы ищем это место на картографической платформе. Мы еще не соприкоснулись с заведением, но мы пользуемся цифровой платформой. Мы бронируем столик, мы нажимаем кнопку, размещаем бронирование на дату и время, и как ни странно, это другая платформа. Мы приходим туда, потом оставляем отклик, это может быть еще одна платформа, оставить чаевые - еще одна платформа. То есть ИТ для таких небольших организаций, цифра, она вполне может быть рассеяна по этим самым платформам, и компаниям остается только подключиться, пользоваться. Ну, в этом одна из составляющих экономики платформ. Так что здесь развиваться всё будет разно, будут и партнерства, будут и взаимодействия. Надеюсь, будет развитие по качественным, по функционально развитым продуктам. Возможно, в определенных категориях, не имея исторического хвоста, возможно, даже на повороте, эту функциональность удастся обойти, сделать более соответствующей времени.

Подпишитесь на каналы VK и Youtube и cледите на нашими новостями!

ИТ Резонанс. Главное за неделю – это совместный проект IT World и клуба экспертов «ИТ Диалог» .

Смотреть все выпуски