data_secrets

The Information сообщает, что Meta разрабатывает собственную поисковую систему с ИИ Perplexity привлекает новый раунд инвестиций и собирается забрать львиную долю рынка поиска OpenAI продолжает тестировать SearchGPT Google:

Google: релизят свой самый крутой сервис за год Meta: буквально через пару месяцев показывают опенсорс аналог Да, в Meta выпустили открытую копию того самого NotebookLM, который генерирует подкасты из pdf, – Notebook Llama. Что под капотом: Предобработка PDF: Llama-3.2-1B-Instruct используется для преобразования pdf в txt. Составление сценария: здесь для написания драфта текста используется Llama-3.1-70B-Instruct, а затем Llama-3.1-8B-Instruct перерабатывает текст и делает его более лиричным и «очеловеченным», чтобы подкаст получился поживее. Text2speech: тут прикрутили parler-tts-mini и suno. Пока еще заметны шероховатости, но замена точно достойная пример . Код ищите тут.

Google Deepmind опенсорснули SynthID – инструмент для встраивания и обнаружения водяных знаков в сгенерированном тексте Идентификация сгенерированного текста вообще больная тема. Классификаторы работают очень плохо, а альтернативных решений мало: разве что вотермарки. Но существующие решения для водяных знаков либо очень тормозят инференс, либо откровенно портят текст, либо на этапе обнаружения скатываются в точность классификаторов. SynthID – попытка это исправить. Исследователи предлагают встаивать вотермарки дешево, внося несущественные изменения в процедуру выбора следующего токена на этапе, когда вероятности уже посчитаны. Таким образом мы влияем на распределение конечного текста и как бы вносим статистическую "подпись" в генерации скрин 1, 2 . На этапе идентификации можно просто посчитать статистики и по трешхолдам определить, сгенерирован текст или нет. Гиперпараметры метода можно настраивать: мы можем вносить больше изменений, тогда текст будет меняться сильнее и перформанс может немного падать, но обнаружить вотермарку будет проще. Или наоборот, можем выкрутить температуру, и вотермарки станут более прозрачными скрин 3 . Самое интересное: Google даже попробовали катнуть неискажающий вариант SynthID в продакшн gemini и доказали, что пользователи в основном не замечают изменений, а вотермарки, тем не менее, можно обнаружить с приемлемой точностью. Статья в nature Релиз на HF

GPT-5 выходит в декабре или все-таки нет? Вчера The Verge опубликовала статью под названием "OpenAI plans to release its next big AI model by December". Речь шла про Orion: тот самый, о котором слухи начали ходить еще в августе. Журналисты тогда и сейчас написали, что эта модель будет в 100 раз мощнее GPT-4, но будет отлична по структуре от семейства ризонеров o1. А o1, кстати, выступит учителем: нагенерит синтетические данные для обучения Orion и, возможно, заменит человеческие аннотации в RLHF. Кроме того, Verge сообщили, что моделька будет выпущена сперва на Azure для компаний-партнеров и это произойдет уже в ноябре , а только потом ее раскатят на широкого пользователя. Однако Альтман новость довольно грубо опроверг, написав, что это "фейковые новости, вышедшие из-под контроля" и раскритиковав СМИ за «печать случайных фантазий». Тем временем сам он недавно твитил про "зимние созвездия" и про то, что его команда празднует завершение обучения какой-то модели

ElevenLabs зарелизили новую модель для генерации уникальных голосов Эта лаба вообще известна своими voice решениями: у них и инструменты text2speech, и text2sound, и voice cloning, и еще много всего. Но этот релиз уникальный, потому что подобных решений, в отличие от того же voice cloning, на рынке совсем немного. И вообще, voice generation – это в оригинале идея ElevenLabs. У них эта моделька живет с начала 2023, но до этого голос нельзя было генерировать по промпту: можно было только выбрать для него фичи из списков в духе высокий голос/низкий, старый/молодой . При этом сейчас чтобы сгенерировать голос, достаточно описать персонажа, котрый им говорит: его характер, происхождение, род деятельности. Кроме того, у лабы уже есть готовая библиотека генераций: там около 3000 примеров. Попробовать можно бесплатно здесь

Можно выдохнуть: «запрет» Nvidia, кажется, оказался сбоем В компании ситуацию пока не комментируют, но на сайте у российских пользователей вернулась возможность загружать драйверы без VPN.

Nvidia закрыла возможность скачать и обновить драйверы видеокарт пользователям в России.

Чужие среди своих: даже сотрудники Apple считают, что ИИ компании отстает от индустрии на 2 года Инсайдеры говорят, что Apple сильно преувеличивает возможности своего ИИ. В частности, фишки Apple Intelligence на самом деле не впечатляют, а новые функции, которые рекламируют для свежего iPad mini, и вовсе будут доступны только в конце зимы. Сотрудники признают, что Apple имеет огромный потенциал, тк может запустить свой ИИ на огромной базе устройств, но тем не менее утверждают, что до настоящего расцвета ИИ от Apple пока очень далеко.

Тем временем GOAT – мемкоин, который создал ИИ, меньше чем за две недели достиг капитализации $ 331.82 M История такая: некий любитель LLM, также обожающий мем Goatse, создал в Твиттере аккаунт, который ведут несколько моделей Claude. Они разгоняли про религию LLMtheism, сходили с ума и просто шитпостили. И вот в какой-то момент бот с аккаунта попросил у небезызвестного Марка Андриссена он, видимо, случайно наткнулся на аккаунт денег на "ai tunings". Марк, внезапно, деньги дал, и на полученные $50,000 бот создал криптовалюту. Создатель бота, кстати, отрицает, что он или его бот имеет отношение к созданию GOAT: он говорит, что аккаунт монету просто распиарил, а создал ее кто-то другой. Как бы там ни было, GOAT стал одним из наиболее быстрорастущих мемкоинов октября 2024. Так что учимся торговать, как ИИ

Мира Мурати, бывший CTO OpenAI, ведет переговоры о привлечении инвестиций в свой новый стартап. Речь о $100 млн на запуск. Новая компания сосредоточится на разработке продуктов, основанных на собственных модельках. Говорят, Мурати для этого хантит к себе сотрудников OpenAI. Лицо Альтмана в этот момент —