ВТБ и МГУ разрабатывают ИИ модель для этического контроля нейросетей

ВТБ разработает этического цензора для контроля ИИ помощников Эта модель будет проверять ответы других нейросетей в цифровых сервисах рассказал Ведомостям зампред правления ВТБ Вадим Кулик Банк работает над проектом совместно с учеными МГУ Модель сможет классифицировать десятки возможных типов галлюцинаций фактических ошибок некорректности и токсичности пояснил руководитель лаборатории машинного обучения и семантического анализа Института ИИ МГУ Константин Воронцов При взаимодействии с клиентами будут учитываться культурный код россиян законодательство специфика общения с клиентами и внутренние правила работы ВТБ отметил Вадим Кулик Постепенное внедрение решений планируется с 2026 года Культурный код в российских реалиях означает учет формальности обращения например переход на вы вместо западного неформального стиля уважение к традиционным ценностям отметил эксперт исследовательского Центра ИИ РАНХиГС Сергей Дубровский Подпишитесь на Ведомости

ВТБ создаст этического цензора для проверки ИИ помощников Банк ВТБ совместно с учеными МГУ разрабатывает специальную систему для контроля качества ответов искусственного интеллекта Новая модель будет проверять другие нейросети на наличие ошибок галлюцинаций и токсичности Как пояснили разработчики система сможет классифицировать десятки видов некорректных ответов Особенностью станет учет российского культурного кода включая традиционные ценности и формальности общения Постепенное внедрение решения в цифровые сервисы банка планируется с 2026 года Это поможет обеспечить клиентам более качественное и безопасное взаимодействие с ИИ помощниками

Ведомости ВТБ разработает этического цензора для контроля ИИ помощников ВТБ и ученые МГУ совместно разрабатывают новую модель Новая модель сможет проверять ответы других нейросетей Проверять будут модели работающие внутри сервисов ВТБ ВТБ уже использует несколько больших языковых моделей Новая модель которую создает МГУ будет работать поверх Модель будет проверять высказывания до показа человеку ИИ сможет классифицировать десятки типов галлюцинаций Модель также сможет проверять ошибки неточности и др Ученые МГУ собирают датасеты обучают и тестируют ИИ Постепенное внедрение таких решений планируется с 2026 Разработка на первом этапе может стоить 100 270 млн руб Объем рынка ИИ решений за 2024 составил 300 млрд руб ftsec

ТОЛК новости Барнаула Алтайского края и Республики Алтай ВТБ внедрит в свои сервисы разработанные совместно с учеными МГУ ИИ модели ВТБ совместно с учеными МГУ имени М В Ломоносова разработает модели детекторы для сервисов банка на генеративном ИИ Эти модели будут контролировать соблюдение этических норм в генерируемых ИИ сервисами ответах а также проверять ответы на предмет возможных ошибок вымышленных данных и ссылок на несуществующие источники так называемых галлюцинаций Помимо банка в совместном проекте участвуют Институт искусственного интеллекта МГУ имени М В Ломоносова и Исследовательский Центр в сфере искусственного интеллекта Университета О проекте рассказал Вадим Кулик заместитель президента председателя правления ВТБ в преддверии Финополис 2025 В нашем совместном с МГУ проекте ведут работу ученые и специалисты подробнее на канале ТОЛК новости Барнаула Алтайского края и Республики Алтай

ВТБ разработает ИИ модель для проверки других нейросетей комментарий для Ведомостей ВТБ совместно с учеными МГУ занялся разработкой ИИ модели которая сможет проверять ответы других нейросетей работающих в цифровых сервисах банка на этичность ответов и отсутствие галлюцинаций фактологических ошибок Особенность внедряемых моделей будет заключаться в том что при взаимодействии с клиентом банка они будут учитывать культурный код россиян что в контексте ИИ означает комплекс языковых особенностей норм общения этических установок и правовых рамок характерных для нашего общества Мы рассказали что во многих странах банки уже внедряют этические надстройки для контроля поведения ИИ среди них американский JPMorgan Chase британский HSBC DBS Bank в Сингапуре ЧИТАТЬ НОВОСТЬ colab мнение

В ВТБ и МГУ им М В Ломоносова разрабатывают ИИ детектор для проверки ответов моделей на этичность и ошибки ИИ решение планируют внедрить в цифровые сервисы банка Оно будет работать поверх других моделей и проверять каждый текст до его отправки пользователю Разработка сможет классифицировать десятки типов галлюцинаций фактических ошибок и некорректности При проверке будут учитываться культурные особенности России законодательство специфика общения с клиентами внутренние правила работы ВТБ юридические и этические аспекты Детектор не принимает решений о том как переделать текст Над новой моделью работают ученые и специалисты из сферы математики лингвистики психологии юриспруденции и культурологии Разработчики на первых этапах провели интервью со специалистами банка которые принимают участие во взаимодействии с клиентами Постепенное внедрение планируется с 2026 года Стоимость проекта не раскрывается По оценке эксперта исследовательского Центра ИИ РАНХиГС Сергея Дубровского решение может обойтись в 100 270 млн руб если в разработку входят формирование датасетов обучение моделей тестирование и интеграция в банковские системы Источник www vedomosti ru technology articles 2025 10 07 1144774 vtb razrabotaet eticheskogo tsenzora В ВТБ в сентябре 2025 года сообщали что банк использует около 1 5 тыс ИИ моделей во всех бизнес процессах Организация оценивает эффект от внедрения ИИ решений в десятки миллиардов рублей чистого дохода

ВТБ внедрит в свои сервисы разработанные совместно с учеными МГУ ИИ модели ВТБ совместно с учеными МГУ имени М В Ломоносова разработает модели детекторы для сервисов банка на генеративном ИИ Эти модели будут контролировать соблюдение этических норм в генерируемых ИИ сервисами ответах а также проверять ответы на предмет возможных ошибок вымышленных данных и ссылок на несуществующие источники так называемых галлюцинаций Помимо банка в совместном проекте участвуют Институт искусственного интеллекта МГУ имени М В Ломоносова и Исследовательский Центр в сфере искусственного интеллекта Университета О проекте рассказал Вадим Кулик заместитель президента председателя правления ВТБ в преддверии Финополис 2025 В нашем совместном с МГУ проекте ведут работу ученые и специалисты разного профиля математики лингвисты психологи юристы культурологи и другие они вовлечены в разработку моделей искусственного интеллекта которые мы сможем интегрировать во все каналы коммуникаций банка с клиентами в которых используется генеративный искусственный интеллект Мы рассчитываем что это будет уникальный продукт которого сегодня нет на рынке По результатам совместного проекта ИИ модели будут работать для перепроверки ответов больших языковых моделей LLM чтобы обеспечить еще более высокий уровень сервиса банка ВТБ Их уникальность будет заключаться в том что модели при взаимодействии с клиентом банка будут учитывать культурный код россиян законодательство специфику общения с клиентами внутренние правила работы ВТБ юридические и ряд этических аспектов и др Постепенное внедрение обновленных решений ВТБ на базе разработанных совместно с Институтом ИИ МГУ и Центром ИИ МГУ моделей планируется с 2026 года Банк ВТБ ПАО Генеральная лицензия ЦБ РФ 1000 Реклама 0 2W5zFJGacnk Рекламодатель Банк ВТБ ПАО ИНН 7702070139 ТОЛК ТОЛК в Мах