Мира Мурати запускает Thinking Machines Lab для повышения стабильности генеративного ИИ

Thinking Machines Lab представила инициативу нацеленную на устранение главной боли генеративного ИИ непоследовательности ответов Команда разрабатывает подходы и инструменты для повышения воспроизводимости устойчивости к контексту и стабильности структурированных выходов чтобы модели давали одинаковые результаты при одинаковых условиях Такой фокус обещает более надёжные ассистенты проверяемые пайплайны и предсказуемые интеграции в продуктах критично для бизнеса науки и разработки Если им удастся стандартизировать консистентность это может стать новым базовым уровнем качества ИИ Источник SeveraAIClub

Thinking Machines Lab пытается победить случайность в ответах нейросетей Стартап Миры Мурати собравший 2 миллиарда долларов инвестиций и команду из бывших исследователей OpenAI впервые рассказал чем он занимается Thinking Machines Lab хочет сделать так чтобы ответы больших языковых моделей были стабильными а не случайными Сегодняшние LLM часто дают разные ответы на один и тот же вопрос и это давно воспринимается как неизбежность В Thinking Machines считают что дело в том как GPU ядра от Nvidia взаимодействуют друг с другом в процессе инференса всего что происходит после нажатия Enter в ChatGPT Контролируя этот процесс можно сделать поведение моделей более предсказуемым Первый продукт обещают показать в ближайшие месяцы Мурати намекает что он будет ориентирован на исследователей и стартапы которые создают свои модели thinkingmachines ai blog defeating nondeterminism in llm inference

Стартап в США бросил вызов нестабильности в работе ИИ Проблему нестабильности в работе нейросетей больших языковых моделей LLM которые также называют искусственным интеллектом ИИ намерен решить американский стартап Thinking Machines Lab сообщил исследователь компании Хорас Хэ в статье опубликованной на сайте предприятия Материал вышел пол заголовком Преодоление нестабильности в ответах больших языковых моделей Автор указывает на то что нейросети при одинаковых вопросах дают разные ответы Эту недетерминированность многие воспринимают как неизбежное свойство LLM Подробнее

Мира Мурати наконец показала над чем работает её Thinking Machines Lab с двумя миллиардами seed финансирования На этой неделе компания запустила собственный блог и выложила первую статью в нем Статья посвящена попытке сделать ответы LLM детерминированными воспроизводимыми при одинаковых запросах Исследователь Хорас Хе пишет о проблеме недетерминированности в LLM когда даже при установке температуры в 0 API языковых моделей выдают разные результаты при одинаковых запросах Многие считают что причина недетерминированности это комбинация параллельных вычислений и неассоциативности операций с плавающей точкой на GPU Хорас показывает что это не полная картина Главная причина недетерминированности отсутствие batch инвариантности в ядрах GPU Когда размер батча количество одновременно обрабатываемых запросов меняется результаты для отдельных элементов могут отличаться из за разного порядка суммирования чисел с плавающей точкой В статье предлагается создать batch инвариантные версии ключевых операций По результатам тестирования на модели Qwen3 235B удалось добиться полной идентичности ответов правда ценой снижения производительности в 1 6 раза Это конечно еще не полное оправдания полученного финансирования но хорошая иллюстрация его полезности как мне кажется techcrunch com 2025 09 10 thinking machines lab wants to make ai models more consistent

Thinking Machines Lab решает проблему случайности ответов ИИ Лаборатория Thinking Machines Lab основанная экс CTO OpenAI Мирой Мурати представила проект по созданию более стабильных языковых моделей В блоге опубликована статья Победа над недетерминизмом в работе больших языковых моделей где команда разбирает причины случайности в генерации ответов Сейчас при одинаковом запросе ChatGPT может выдавать разные варианты в индустрии это давно считается нормой Однако Thinking Machines Lab рассматривает недетерминизм как проблему которую можно устранить чтобы повысить надежность и предсказуемость работы ИИ Таким образом лаборатория делает ставку на разработку моделей где одинаковый ввод всегда будет давать воспроизводимый результат