Интеллект у них не той системы

В ЦБ предложили регулировать банковские ИИ-модели

Массовое использование глобальных платформ искусственного интеллекта российскими банками угрожает финансовой стабильности, считают в Банке России. В юридическом департаменте указывают на риски повсеместного использования одних и тех же ИИ-моделей, достоверность исходных данных которых невозможно проверить. ЦБ считает, что в банковской системе необходимо внедрить регулирование архитектуры данных, на основании которых ИИ принимает решение.

Выйти из полноэкранного режима Развернуть на весь экран

Фото: Евгений Павленко, Коммерсантъ

Фото: Евгений Павленко, Коммерсантъ

В конце прошлой недели на форуме Data Day 2026 заместитель директора юридического департамента ЦБ Екатерина Дёмкина заявила, что использование множеством российских банков одних и тех же глобальных платформ ИИ создает значимый риск для финансовой стабильности всей системы.

«Искусственный интеллект может быть обучен на некачественных данных, и каждый второй говорит о важности повышения качества тех источников данных, на основании которых модели принимают те или иные решения»,— пояснила она. Проблема заключается в невозможности верифицировать данные, на которых обучаются глобальные платформы ИИ.

«Новым предметом регулирования, как кажется, может стать та самая архитектура принятия решений, архитектура тех данных, на основании которых выстраиваются эти решения»,— заявила Екатерина Дёмкина.

Эксперты отмечают, что основная опасность глобальных платформ ИИ в их непрозрачности.

«Мы не видим внутреннего устройства глобальной модели, ее логика для нас остается неизвестной, мы можем лишь догадываться о возможных рисках»,— говорит председатель комиссии по финансовой безопасности совета ТПП России Тимур Аитов. По его мнению, когда десятки банков используют одну и ту же платформу, возникает эффект синхронизации ошибок.

«Сбой у поставщика или незаметное изменение параметров на стороне поставщика — и участники рынка сокращают лимиты, а это уже весомый регуляторный риск»,— говорит Аитов. По его оценке, потери кредитного портфеля при таком сценарии в отдельных сегментах могут достигать 3–5% за квартал.

Глава Ассоциации участников рынка электронных денег Виктор Достов соглашается с тем, что если много игроков синхронизируются таким образом, то возникает эффект резонанса, система начинает колебаться все с большей амплитудой и становится неустойчивой. «Простой пример — операции на рынке ценных бумаг: одна и та же модель будет инвестировать в одни и те же ценные бумаги, поднимая спрос и создавая иллюзию прибыльности, что приведет к повышению спроса, и далее по циклу»,— пояснил он. При этом возможность влиять на модели ИИ очень ограничена.

Кроме риска накапливания ошибок и «галлюцинаций» при массовом использовании одинаковых моделей ИИ большим количеством российских банков, есть еще и риск инфраструктурной зависимости.

Как пояснил гендиректор компании Morizo (входит в E-Promo Group, разработчик цифровых сервисов и услуг со специализацией в финансах, электронной коммерции и крупных внедрениях) Денис Царев, у глобальных вендоров вычислительные мощности, облака и модели вертикально интегрированы. «Любое отключение или изменение условий лицензии превращается в операционный сбой, его рынок наблюдал в 2023 году, когда ряд вендоров уходил из России»,— говорит он.

Кроме того, как отмечает Тимур Аитов, внешняя модель ИИ расширяет поверхность кибератаки. «Злоумышленник может через целенаправленное искажение входных данных заставлять модель систематически ошибаться, и, если платформа общая, уязвимость работает против всех банков, а закрыть ее оперативно своими силами нельзя — только ждать «заплатки» от вендора,— пояснил он.— Время ожидания исчисляется часами, поэтому ущерб для банка может стать фатальным».

Эксперты отмечают, что отечественные решения обеспечивают полный вертикальный контроль и соответствуют требованиям безопасности на всех этапах — от обучения моделей до размещения серверов на территории России.

«Они обучаются на массиве российской отчетности, нормативной документации, типовых кредитных и депозитных договорах, локальных форматах бухгалтерского и регуляторного учета, учитывают специфику поведения российских клиентов»,— говорит Денис Царев. Все это, по его мнению, позволяет разворачивать модель внутри контура банка и обеспечивает предсказуемую юридическую ответственность вендора.

Как нейросети используют в судебных процессах

«На практике регулирование, вероятно, коснется «паспорта ИИ-модели»: состава обучающей выборки, требований к обработке данных в российском контуре, контроля дрейфа модели и «галлюцинаций», назначения ответственного за принятие решений в процессах, лимитов на использование внешних моделей кредитными организациями, а также требований к прозрачности, аудируемости и возможности смены поставщика, если необходимо сменить техническое решение»,— говорит Денис Царев. В свою очередь Виктор Достов полагает, что акцент стоит делать на тщательном анализе результатов путем использования жестких ограничений, предустановленных правил, сравнения моделей.

Максим Буйлов

Источник