26 августа, 14:57

Российские ученые из Сбера разработали метод повышения точности ИИ для борьбы с галлюцинациями

Банковское обозрение
Банковское обозрение
Исследователи Сбера нашли новый метод борьбы с галлюцинациями ИИ Новые метамодели повышают точность определения ложных ответов LLM почти на 30 БО новости Подписаться на Б О
Российские учёные предложили новый способ борьбы с галлюцинациями ИИ Одна из главных проблем больших языковых моделей они могут генерировать правдоподобные но ложные ответы Исследователи из Сбера разработали метамодели которые повышают точность обнаружения ложных ответов обучаемыми локальными моделями почти на 30 при использовании малого количества данных для обучения На тестах подход сработал лучше чем многие закрытые коммерческие решения уже при обучении на 250 примерах удалось добиться результатов сопоставимых с применением крупнейших LLM в качестве оценщиков Выгода очевидна компании могут сильно сэкономить ресурсы на разметку данных ученые получают новый инструмент для анализа больших языковых моделей а пользователи более точные ответы от AI моделей
Machinelearning
Machinelearning
Российские учёные предложили новый способ борьбы с галлюцинациями ИИ Одна из главных проблем больших языковых моделей они могут генерировать правдоподобные но ложные ответы Исследователи из Сбера разработали метамодели которые повышают точность обнаружения ложных ответов обучаемыми локальными моделями почти на 30 при использовании малого количества данных для обучения На тестах подход сработал лучше чем многие закрытые коммерческие решения уже при обучении на 250 примерах удалось добиться результатов сопоставимых с применением крупнейших LLM в качестве оценщиков Выгода очевидна компании могут сильно сэкономить ресурсы на разметку данных ученые получают новый инструмент для анализа больших языковых моделей а пользователи более точные ответы от AI моделей
Разработан метод борьбы с галлюцинациями нейросетей Российские ученые из Сбера предложили способ который отслеживает появление ложных ответов в системах ИИ даже при минимальном количестве данных для обучения Новый метод повышает точность выявления галлюцинаций примерно на 30 по сравнению с аналогами использующими малое количество данных Главная проблема современных LLM умение убедительно врать Для борьбы с этим обычно нужны большие объёмы размеченных данных но в новой разработке достаточно всего 250 примеров Алгоритм анализирует внутренние состояния нейросети в момент генерации ответа и использует метамодели вместе с классическими ML методами или быстрым трансформером TabPFNv2 Мы показали что даже при небольшом объеме данных можно добиться высокой точности ИИ систем Предложенный нами способ использует метамодели и умное понижение размерности это прорыв в выявлении галлюцинаций искусственного интеллекта Мы не просто улучшаем технологии но и снижаем риски дезинформации что критично для доверия к современным моделям отметил директор Центра практического искусственного интеллекта Сбербанка Глеб Гусев Тесты показали новая система по эффективности сопоставима с решениями на базе коммерческих моделей закрытого кода Для компаний это экономия ресурсов на разметку и более точные ответы от ИИ
Data Secrets
Data Secrets
Разработан метод борьбы с галлюцинациями нейросетей Российские ученые из Сбера предложили способ который отслеживает появление ложных ответов в системах ИИ даже при минимальном количестве данных для обучения Новый метод повышает точность выявления галлюцинаций примерно на 30 по сравнению с аналогами использующими малое количество данных Главная проблема современных LLM умение убедительно врать Для борьбы с этим обычно нужны большие объёмы размеченных данных но в новой разработке достаточно всего 250 примеров Алгоритм анализирует внутренние состояния нейросети в момент генерации ответа и использует метамодели вместе с классическими ML методами или быстрым трансформером TabPFNv2 Мы показали что даже при небольшом объеме данных можно добиться высокой точности ИИ систем Предложенный нами способ использует метамодели и умное понижение размерности это прорыв в выявлении галлюцинаций искусственного интеллекта Мы не просто улучшаем технологии но и снижаем риски дезинформации что критично для доверия к современным моделям отметил директор Центра практического искусственного интеллекта Сбербанка Глеб Гусев Тесты показали новая система по эффективности сопоставима с решениями на базе коммерческих моделей закрытого кода Для компаний это экономия ресурсов на разметку и более точные ответы от ИИ
Исследователи Центра практического искусственного интеллекта Сбера разработали метод который значительно снижает риски галлюцинаций больших языковых моделей LLM Новый метод повышает точность обнаружения некорректных ответов больших языковых моделей почти на 30 при использовании малого количества данных Такой подход позволит компаниям заметно экономить ресурсы на разметку данных и улучшать качество RAG систем  Yandex B2B Tech студенты Школы анализа данных ШАД и специалисты Санкт Петербургского государственного педиатрического медицинского университета создали нейросеть которая поможет повысить точность диагностики ДЦП и терапии для новорожденных Разработка представляет собой сервис развернутый на платформе Yandex Cloud Решение можно применять как вспомогательный инструмент при подозрении на детский церебральный паралич ДЦП и другие болезни центральной нервной системы для выбора лучшей тактики реабилитации пациента  Инжиниринговый химико технологический центр при Томском государственном университете запустил производство высокочистого бромистого водорода вещества критически важного для микроэлектронной промышленности Производство ориентировано на ежегодный объем 650 кг однако мощность технологической линии может быть масштабирована в зависимости Поставки отечественного сверхчистого HBr на рынок могут полностью закрыть внутренние потребности и снизить зависимость от иностранных поставщиков
Цифровая экономика
Цифровая экономика
Исследователи Центра практического искусственного интеллекта Сбера разработали метод который значительно снижает риски галлюцинаций больших языковых моделей LLM Новый метод повышает точность обнаружения некорректных ответов больших языковых моделей почти на 30 при использовании малого количества данных Такой подход позволит компаниям заметно экономить ресурсы на разметку данных и улучшать качество RAG систем Yandex B2B Tech студенты Школы анализа данных ШАД и специалисты Санкт Петербургского государственного педиатрического медицинского университета создали нейросеть которая поможет повысить точность диагностики ДЦП и терапии для новорожденных Разработка представляет собой сервис развернутый на платформе Yandex Cloud Решение можно применять как вспомогательный инструмент при подозрении на детский церебральный паралич ДЦП и другие болезни центральной нервной системы для выбора лучшей тактики реабилитации пациента Инжиниринговый химико технологический центр при Томском государственном университете запустил производство высокочистого бромистого водорода вещества критически важного для микроэлектронной промышленности Производство ориентировано на ежегодный объем 650 кг однако мощность технологической линии может быть масштабирована в зависимости Поставки отечественного сверхчистого HBr на рынок могут полностью закрыть внутренние потребности и снизить зависимость от иностранных поставщиков
Российские учёные предложили способ находить галлюцинации у нейросетей Новый подход повышает качество выявления ложных ответов примерно на 30 по сравнению с аналогами при работе с небольшим количеством обучающих примеров Предложенный способ использует метамодели и умное понижение размерности это прорыв в выявлении галлюцинаций искусственного интеллекта Для проверки нужно всего 250 примеров результат сопоставим с лучшими закрытыми системами Решение экономит ресурсы на разметку данных и помогает снижать риск дезинформации Данная разработка ещё один шаг к доверию к современным моделям
Kali Linux
Kali Linux
Российские учёные предложили способ находить галлюцинации у нейросетей Новый подход повышает качество выявления ложных ответов примерно на 30 по сравнению с аналогами при работе с небольшим количеством обучающих примеров Предложенный способ использует метамодели и умное понижение размерности это прорыв в выявлении галлюцинаций искусственного интеллекта Для проверки нужно всего 250 примеров результат сопоставим с лучшими закрытыми системами Решение экономит ресурсы на разметку данных и помогает снижать риск дезинформации Данная разработка ещё один шаг к доверию к современным моделям