29/10/2026
Российские кредитные организации начали создавать собственные инструменты для проверки ответов виртуальных ассистентов на наличие ошибок и неэтичного контента, так как на рынке не оказалось готовых решений для этих задач. Например, ВТБ совместно с Центром искусственного интеллекта МГУ разработал два детектора, предназначенных для анализа токсичности и так называемых "галлюцинаций" в ответах цифровых помощников.
Первый детектор анализирует запросы клиентов на предмет запрещенных тем, признаков нарушения закона и контента категории 18+. Если такие фрагменты обнаружены, система блокирует обработку запроса.
Второй инструмент проверяет уже сформированные ответы цифровых ассистентов, выявляя в них несоответствия и противоречия, а также указывая, в какой части текста они находятся. После этого специалисты банка могут отправить ответ на повторную проверку или заблокировать его. Разработчики подчеркивают, что "галлюцинации" — одна из наиболее распространенных проблем генеративного искусственного интеллекта, когда модель выдает уверенный, но вымышленный ответ.
Регулирование использования искусственного интеллекта в финансовом секторе усилилось и на уровне регулятора. 16 июня 2026 года Банк России опубликовал методические рекомендации по безопасному построению и использованию искусственного интеллекта в финансовой сфере. Документ содержит более 20 мер, реализация которых потребует доработки инфраструктуры. Одновременно отрасль переходит к более широкому применению ИИ-агентов: банковская сфера вступает в новую фазу внедрения искусственного интеллекта, где на смену разрозненным пилотным проектам приходят платформенные решения и мультиагентные системы.
О разработке детекторов ВТБ сообщил на Kazan Digital Week советник первого заместителя президента-председателя правления банка Сергей Путятинский. Он отметил, что готовых решений, удовлетворяющих требованиям банка, на рынке не нашлось, поэтому детекторы были созданы совместно с экспертами МГУ. Эти решения планируется внедрить в сервисы розничного бизнеса, где для общения с клиентами используются цифровые помощники.
