OpenAI анонсирует разработку модели Orion, превосходящей GPT-4

OpenAI Готовит Модель Орион: В 100 Раз Мощнее GPT-4 Уже В Декабре! Согласно информации The Verge, OpenAI планирует выпустить новую модель искусственного интеллекта под названием Orion в декабре этого года. Доступ к моделям получают только крупные компании, а не широкая публика ChatGPT. Ранее руководство OpenAI намекало, что Orion будет в 100 раз мощнее GPT-4 и будет использоваться как ее преемник. Со временем Orion будет объединен с моделью рассуждений o1, чтобы приблизить OpenAI к созданию AGI. Однако в ответ на публикацию The Verge Сэм Альтман назвал новость «фейковыми новостями», которые привнесли интригу к предстоящему релизу. Забирай промпты ЗДЕСЬ и создавай свои Шедевры #neirofoto_ru #AI #OpenAI #Орион

Айтишники заволновались: OpenAI разрабатывает модель Orion, которая окажется в 100 раз мощнее GPT-4. Источники The Verge говорят, что на старте эта мощь будет доступна только партнерам компании для создания их продуктов. Скоро узнаем, какой «монстр» появится на рынке — детали ожидаются в декабре. NeuroTrends

The Information поделились новым материалом про Orion. Они пишут, что скачок метрик модели Orion относительно GPT-4 гораздо меньше, чем при переходе от GPT-3 к GPT-4 С одной стороны, это объяснимо: у распределения ошибок длинный хвост, и поэтому последний квартиль бороть достаточно непросто. Следовательно, слова про скачок метрик могут просто звучать разочаровывающе, а на деле не означать, что модель плоха. С другой стороны, в статье упоминается, что Orion не может пробить метрики GPT-4 в кодинге. Вот это уже совсем странно и грустно. Известно, что для обучения ориона используется синтетика из GPT-4 и o1, и журналисты предполагают, что из-за этого новая модель может воспроизводить ошибки старых сомнительный вывод . Как бы там ни было, скоро мы все увидим сами: по словам авторов, OpenAI завершает тестирование Orion и готовиться к релизу в начале 2025. Кстати, Orion может стать уже второй моделью, название которой будет начинаться не с GPT.

Прогресс новых моделей OpenAI оказался менее заметным, чем при переходе с GPT-3 на GPT-4. Модель под кодовым названием Orion может ничем не отличаться от предшественников, пишет The Information. Из-за этого OpenAI меняют стратегию разработки. Среди потенциальных решений: обучение нейронок на сгенерированном контенте из-за нехватки свежих данных или дообучение уже после запуска.

Забирай эксклюзивное предложение для пользователей Tek.fm от Газпромбанка 🔥Нажми на меня

#CioС The Information поделились новым куском информации про грядущую модель под кодовым названием Orion aka GPT-5... или нет Тезисно: 1  В мае Sam Altman говорил сотрудникам компании, что следующая модель будет значимо лучше, чем GPT-4. На тот момент процесс предтренировки самый ресурсоёмкий был закончен на 20%, и Orion уже сравнялся по качеству с GPT-4 по «интеллекту» и навыкам, проверяемым разными бенчмарками. По более ранней информации The Information, Microsoft отдали свежий крупный кластер в распоряжение OpenAI в ~феврале, а тренировка началась попозже и к маю достигла вот 20% 2  По словам некоторых сотрудников OpenAI, использовавших или тестировавших Orion, хотя её производительность в конечном итоге превзошла оную предыдущих моделей, прирост качества оказался гораздо меньше по сравнению с переходом от GPT-3 к GPT-4 что логично: в большинстве задач и бенчмарков просто невозможно так скакнуть; например, если раньше был скачок... GPT MJR DALLE AI BOT Нейросети & IT

OpenAI разрабатывает новые стратегии для преодоления замедления улучшения ИИ Согласно новому отчету The Information, OpenAI столкнулась с уменьшением темпов улучшения своих моделей. Тестировавшие новую модель под кодовым названием Orion сотрудники отметили, что, хотя она превосходит существующие версии, разница между ней и предыдущими моделями не так велика, как в переходе от GPT-3 к GPT-4. В некоторых областях, например, в кодировании, Orion может не показывать стабильных улучшений. В ответ на это OpenAI создала команду для поиска решений, которые помогут продолжать улучшать модели, несмотря на снижение доступности новых данных для обучения. Среди новых стратегий - использование синтетических данных, созданных самими ИИ-моделями, а также акцент на постобучение.