ИИ и этика. Где баланс между сбором данных и приватностью

Этика и данные. Начало

События, с которых начались активные дискуссии об этичности сбора данных, происходили в США в середине 1990-х гг., еще до эры электронной торговли. Ряд крупных офлайн-супермаркетов и catalog-мерчантов, в том числе Kroger и Walmart, запустил обширное исследование по покупателям. Аналитики торговых сетей отметили закономерность: если женщина начинала регулярно покупать товары для беременных, товары для новорожденных и малышей и сопутствующие товары, это служило сигналом о том, что покупки не случайны, и клиентка ожидает пополнения.

Используя полученные в ходе исследования данные, ретейлеры стали создавать для таких клиенток персонализированные предложения - специальные скидки и расширенные акции на эти категории товаров. Позже, анализируя не только отдельные товары в покупательской корзине, покупательским корзинам, но и частоту покупок, их сочетаемость и даже время совершения, ретейлеры научились даже прогнозировать беременность и заранее формировать спрос на сопутствующие товары и услуги.

Со временем, используя мощные инструменты для персонализации - технологии big data, ML и продвинутую аналитику – ретейлеры получили возможность предсказывать потребности покупателей с высокой точностью.

Этика и данные. Продолжение

Продуктовый ретейл – отрасль с очень высоким уровнем лояльности клиентов. Легко поменять банк, но не супермаркет. Клиенты очень болезненно относятся к тому, что нужно привыкать к расположению товаров по новым схемам, ассортименту, сравнивать цены, ориентироваться на новую программу скидок.

Но в периоды стресса и сильных эмоциональных нагрузок – хороших или плохих – психологическое состояние человека меняется, снижается способность рационально мыслить и оценивать. Этим и воспользовался еще один ретейловый гигант из США - Target. Маркетологи сети рассчитали, что шанс переманить случайно зашедших клиентов, обычно совершающих покупки в супермаркетах-конкурентах, достаточно высок. Транзакционные данные, сведения о посещении сайтов, о звонках в службу поддержки, об использовании карт постоянного клиента и купонов, данные опросов, демографическая информация, а также данные о доходах, месте проживания и кредитные истории, которые Target собирал самостоятельно или покупал у других компаний – из всего этого формировался «гостевой ID-номер» покупателя. Создавать маркетинговые стратегии, анализируя поведение покупателей, и переманивать их у конкурентов стало гораздо удобнее.

Nothing personal, just business?

Если акцентироваться на вопросах целеполагания, может показаться, что ничего особенного не происходило. Просто ретейлеры выясняли, что девушка скоро будет рожать, и предлагали ей нужные товары - коляски, памперсы и пеленки.

Виктор Достов, профессор кафедры ИИ РУДН, председатель совета Ассоциации АЭД, из выступления на III международном Петербургском Цифровом Форуме 2026:

Такая гонка за клиентами породила серьезный медийный шум. Выяснилось, что девушкам, чью беременность «вычислил» ретейлер, отправляли довольно откровенные каталоги и предложения с товарами для детей, тем самым показывая, что о личной жизни и самому ретейлеру, и членам семьи покупательницы известно гораздо больше, чем хотелось бы. Это подрывало доверие к торговой сети, клиентки чувствовали нарушение конфиденциальности.

В социуме, может быть, впервые, разгорелась дискуссия вокруг вопроса – как далеко ритейл может зайти в принятии бизнес-решений? Допустимо ли собирать и анализировать персональные данные без явного согласия покупателей? Где проходят границы между созданием ценности для покупателей и манипуляцией? И как очертить границы этичности?

Мы знаем о вас больше, чем вы думаете

Умные часы и медицинские трекеры – давно уже не дань моде, а часть привычной жизни. Нам представляется, что это самоконтроль, профилактика заболеваний и постоянная забота о собственном организме и физической активности. Но кто задумывается, что они постоянно передают наши медицинские данные в штаб-квартиру куда-нибудь в США или Китай? И кто боится, что эти данные могут быть проданы, например, страховым компаниям или тем же интернет-магазинам? Обычному пользователю гаджета такая мысль и в голову не придет.

Любая экосистема или цифровая платформа обладает сегодня каким-то гигантским набором данных о своих клиентах. Огромная аудитория и множество клиентских путей, между которыми можно искать корреляции и закономерности. Личные данные, данные о собственности, финансовые транзакции, данные из соцсетей, данные о передвижениях, медицинские данные от страховых компаний и медучреждений, данные сотовых операторов, выбор музыки и отелей, поведенческие профили и т.д. - все это можно объединять, сравнивать и получать предиктивные модели личностей клиентов.

На рынках США и ЕС гигантские финтех-платформы, в том числе Stripe и Square, работают и в роли поставщиков данных по платежам со своих терминалов.

И хотелось бы понимать, используют ли платформы и экосистемы эти данные в этических рамках, или создают инструменты давления на клиента. Учитывая колоссальные масштабы роста использования ИИ, невольно задаешься вопросом: возможно ли «скормить» все эти данные искусственному интеллекту и получить модель поведения клиента? Сделает ли это его предсказуемым, и в какой мере?

Виктор Достов, РУДН, Ассоциация АЭД, из выступления на III международном Петербургском Цифровом Форуме 2026:

В финтехе попытки оптимизировать поведение клиента с помощью собранных о нем данных пока не сработали. Но есть много интересного. Подход к клиентам стал принципиально иным. ИИ позволяет строить более сложные скоринговые конструкции. С предсказания риска дефолта фокус сместился на реальные шансы взыскать долг. Суть в том, чтобы оценить не только способность должника платить, но и вероятность возврата денег. Сколько денег уйдет на реструктуризацию, если долг он не вернет. И сколько банк сможет заработать, если в итоге придется продать долг коллектору.

Самый главный тренд - если раньше ситуация была асимметричной, и с точки зрения анализа данных банки, с гигантскими мощностями и возможностью дорогостоящей аналитики, были гораздо сильнее клиентов, то сегодня ситуация меняется кардинально в пользу клиентов.

Яркий пример – «улучшатели» кредитного скоринга (Credit-builders). Когда клиенту отказывают в кредите из-за плохой или недостаточной кредитной историей, он может обратиться в Credit-builders, где с помощью ИИ-алгоритмов создают модель для исправления этой ситуации и дают воспользоваться особыми финансовыми инструментами. Например, «кредитом для построения кредитной истории» (Credit-builder loan), который помогает восстановить (или сформировать) кредитную историю.

Читайте также

ИИ-помощник, который знает вашу конфигурацию. Обзор one-s-mcp

IT-World расскажет, как заставить ИИ-помощников приносить пользу в 1С, а не выдумывать нерабочий код. Российский one-s-mcp передает нейросети точную схему вашей конфигурации. Результат: разработчики сдают задачи с первого раза, а аналитики сами получают любые цифры из базы.

Такие компании очень активно работают на рынке США, есть в Европе, и неизбежно появятся и на рынке РФ.

Клиентские ИИ-агенты: конец эпохи клиентских данных?

ИИ-агенты на стороне клиента открывают потенциально гигантские возможности. В том числе, они смогут нивелировать асимметрию между клиентом и банком или финансовой компанией.

Например, банки (и не только) много зарабатывают на операциях, срок которых клиент, вольно или невольно, пропустил. Например, забыл внести обязательный платеж по кредиту, неправильно рассчитал льготы по премиальному пакету, лимит по кешбэку и т.д.

Все эти заботы возьмет на себя ИИ-агент, который будет самостоятельно принимать решение о покупке, об оплате, о перемещении средств между депозитами, вкладами и счетами клиента, о выгодных кредитах.

Клиент станет меньше тратить. Как следствие – банк станет меньше на нем зарабатывать. И банки должны быть готовы к этой новой реальности.

Когда клиент «спрячется» за ИИ-агентом, финтехи уже не смогут проанализировать его поведение, как раньше, и использовать собранные о нем данные для того, чтобы стимулировать его к покупкам, кредитам, банковским услугам. Инструментами ИИ придется, по сути дела, анализировать логику другого ИИ.

Виктор Достов, РУДН, Ассоциация АЭД, из выступления на III международном Петербургском Цифровом Форуме 2026:

Искусственный интеллект породил крайне неэффективные методы управления клиентом. Сейчас рынок вступает в новую фазу: клиент при помощи ИИ начинает управлять магазином, банком и финансовой компанией. С одной стороны, это открывает интересные возможности. С другой - бизнесу предстоит кардинально измениться и пересмотреть концепции. И это, может быть, самое важное из того, что нам принесет ИИ.