ai_newz

Там Китайцы обновили свою модель для видео генерации Kling пост про нее . Теперь она умеет оживлять фото, "Image-to-Video", как и Luma, а также может продлить видео вплоть до 3 минут – будет генериться по кусочкам, где каждый кусочек контролируется отдельным промптом. Пёсель очень круто бежит, да так что уши трясутся .

Anthropic зарелизили новую модель Claude 3.5 Sonnet - и она бьет GPT-4o! По цене компьюта и скорости модель на уровне средней модельки Claude 3 Sonnet, но по качеству превосходит самую большую их модель Claude 3 Opus, а также бьет GPT-4o почти на всех бенчах – слегка уступает только на математике и на MMMU в ответах на вопросы по картинке. В то же время Claude 3.5 Sonnet дешевле чем Claude Opus 3 в пять раз! И дешевле GPT-4o на инпуте $3 против $5 за млн токенов . Контекст: 200K Токенов. Отдельно отмечают прогресс по Vision - 4o и тут проигрывает. Кардинальные улучшения наиболее заметны для задач, требующих визуального мышления, например, для интерпретации диаграмм и графиков. Claude 3.5 Sonnet также может более точно транскрибировать текст из шакальных изображений. Авторы говорят, что это первый релиз из семейства 3.5, другие обещают попозже в этом году. Модель уже доступна бесплатно на Claude.ai и в iOS приложении. А также через API: $3/млн входных токенов, $15/млн сгенерированных токенов. Ну, и ждём рейтинга на арене, конечно.

А вот и Илья Сутскевер нашелся! Он с корешами основал новую контору - Safe Superintelligence Inc. TLDR: будут строить безопасный суперинтелект без отвлечения на коммерцию. То есть это OpenAI в том виде, в каком и была изначально задумана. Миссия Safe Superintelligence Inc.: - Создание безопасного суперинтеллекта SSI , который считается самой важной технической проблемой нашего времени. - Миссия компании, название и весь продуктовый план полностью сосредоточены на достижении SSI. Их цели : - Разработать возможности SSI как можно быстрее, при этом всегда обеспечивая, чтобы меры безопасности опережали развитие. - Сохранять единственный фокус на SSI без отвлечения на управленческие перегрузки или циклы продукта. - Гарантировать, что безопасность, защита и прогресс защищены от краткосрочных коммерческих давлений. - Собрать высококлассную команду инженеров и исследователей, полностью посвященных разработке SSI. - Предложить возможности для людей заниматься значимой работой, которая решает значительную техническую задачу эпохи. Вот только про open-source Илья пока не упоминал. Возможно, они также не будут ничего релизить, т.к. небезопасно. Но все равно очень интересно! Я верю в Илью больше чем в Альтмана, конечно, ведь Илья — это топовый учёный.

Вышла Gen3-Alpha - очередная text-2-video модель Ситуация на поле видеогенерации прост раскаляется. Почти каждый день выходят новые модели. Вот и Runway показали свою — генерит по 10 сек видео, что больше чем у конкурентов. Авторы заявляют, что Gen-3 Alpha является первой из серии моделей, которые обучены Runway на новой инфраструктуре для large-scale мультимодального обучения. Модель значительно улучшили по сравнению с Gen-2 [уж, надеюсь! гляньте что он вытворял раньше] в плане точности, конситентности и движения. Якобы это шаг к созданию общих моделей мира расхайпованые World Models . Обещают улучшеный контроля над генерацией с помощью дополнительный тулов Motion Brush, Advanced Camera Controls, Director Mode . Ну посмотрим, че. Модель пока нельзя никому потрогать, да и тех-репорта даже нет. Только примеры на сайте показали, которые выглядят хорошо! Ждём хоть чего-нибудь такого в опенсорсе наконец. Блогпост с примерами

Сбер проведет открытую технологическую конференцию GigaConf 2024. 27 июня в «Дизайн заводе» соберутся ведущие инженеры и разработчики из Сбера, Билайна, Positive Technologies, Т-Банка, МТС и других компаний. Вместе они погрузят вас в темы: — машинное обучение и искусственный интеллект; — инструменты разработчика; — DevOps; — инженерия данных; — безопасность приложений; — системный анализ — инновации и стратегии. Зарегистрироваться и узнать подробности можно на сайте конференции. Участие бесплатное! #промо

OpenAI может перестать быть некоммерческой организацией По данным источников The Information, Сэм Альтман заявил акционерам что компания рассматривает возможность изменения структуры управления. Один из вариантов - превратиться в benefit corporation, неподконтрольную совету директоров нонпрофита OpenAI. С такой структурой будет возможно даже IPO. За такой переход давно выступает ряд топ-менеджеров Microsoft, ввалившей в OpenAI 13 миллиардов. Это им позволит избавится от "потолка прибыли" и пункта об избавлении OpenAI от обязательств перед Microsoft в случае создания AGI. Речь идёт о немалых деньгах - выручка OpenAI проецируется в 3.4 миллиарда долларов в год, при этом за последние полгода она удвоилась. Маск, от такого хода, будет явно опять бомбить, ведь XAI будет сложнее конкурировать. Но спрашивать его никто не собирается. Короче, по-любому скоро нужно будет переименовывать компанию.

Конечно, мы не знаем на 100%, каковы будут последствия прихода генерала в OpenAI. Но мы знаем, что Пол Накасоне был один из тех, кто мощно топил за продление и ужесточение акта о массовой слежки в США FISA , что даже написал про это целый лонгрид в Washigton Post. Акт, кстати, и продлили в апреле еще на два года. Буквально за несколько часов до истечения его действия. Подробности про FISA акт и почему он очень противоречивый, можете прочитать тут The Guardian .

Вот так новость! В совет директоров OpenAI вчера назначили Генерала армии США в отставке, Пола Накасоне. А генерал оказался не простой, он до недавнего времени был и директором Агентства Национальной Безопасности американский аналог КГБ/ФСБ , а также главой Киберкомандования США, основными задачами которого являются централизованное проведение операций кибервойны, управление и защита военных компьютерных сетей США. Говорят, что он будет отвечать за кибербезопасность в OpenAI. Хмм.. "Волк будет отвечать за безопастность овец" - такие комментарии я встретил в сети. По этому поводу также высказался Эдвард Сноуден, который работал в АНБ: Они сняли все маски: никогда не доверяйте OpenAI или ее продуктам ChatGPT и т.д. . Есть только одна причина для назначения директора АНБ в совет директоров. Это преднамеренное, рассчитанное предательство прав каждого человека на Земле. Вас предупредили. Все мы знаем, что как и любая другая технология, наши любимые нейросети тоже могут быть использованы как оружие информационное и не только . До 10 января OpenAI запрещала использование своих сервисов для разработки оружия и военных целей. Новая политика сохраняет запрет на использование во вред, но исключает всеобъемлющий запрет на военное применение, что открывает возможность использования их технологий Вооенными Ведомствами США источник . Накасоне не ответил на просьбу о комментарии этого, но вот что он говорил ранее Washington Post : "Мы хотим убедиться, что американские компании, которые лидируют в инновациях этой технологии – я думаю, это разрушительная технология этого века – будут продолжать иметь широкое преимущество перед любой другой враждебной нацией", - сказал Накасоне, отвечая на вопрос об искусственном интеллекте во время недавнего интервью . Возможно, Илья Суцкевер и Ян Ляйке, которые занимались алайнментом и были действительно обеспокоены угрозами, которые может принести AGI, как раз ушли из компании в преддверии прихода бывшего главы АНБ в совет директоров.

YaFSDP - опенсорс либа от Яндекса для ускорения тренировки больших моделей Современные LLM тренируются на огромных кластерах доходящих до десятков тысяч GPU. А так как один в поле не воин - им нужно постоянно общаться между собой, при этом когда в одну видеокарту веса моделей не влезают, их нужно шардить - распределять между многими видеокартами. Основной метод шардинга сейчас - FSDP, он встроен в PyTorch и им пользуются абсолютно все. Но и он не идеален - имеет свойство выделять больше памяти, чем нужно, и простаивать на бэквард пассе. Ребята из Яндекса решили эти проблемы и у них вышел YaFSDP - оптимизированная имплементация FSDP, лучшая из открыто доступных - на тренировке LLaMa 3 70B ускорение достигает 26%, при этом потребление памяти - меньше! А в Яндексе полная интеграция YaFSDP вообще позволила ускорить тренировку на 45%. Это напрямую транслируется в удешевление претрейна больших моделей. Как такое возможно? Стратегические преалокации памяти позволяют сильно сбавить оверхед и использовать именно столько памяти, сколько нужно. Упорядочивание использования ресурсов так, чтобы на них не было сразу нескольких претендентов уменьшает простой видеокарты - не нужно ждать пока ресурсы освободятся. Оптимизированная нормализация уменьшает количество копирований на бэквард пассе. Библиотека уже доступна на Github, с лицензией Apache 2.0 - то есть может пользоваться кто угодно, как угодно и абсолютно бесплатно.

AI это теперь Apple Intelligence Ну что Тим Кук и его команда провели свой wwdc. Новостей много – интересно пощупать на деле. Очень надеюсь, что Siri наконец перестанет быть бесполезной звонилкой, которой народ обычно пользуется за рулём. Выбрал для вас самое интересное: Выкатили так называемую систему личного интеллекта Apple Intelligence AI , которая будет глубоко интегрирована в iOS 18, iPadOS 18 и macOS Sequoia. Да, название звонкое придумали. Новые чипы Apple Silicon A17 Pro и M-серии будут оптимизированы для работы с языковыми моделями и моделями генерации изображений. Вот что они смогут делать ЛОКАЛЬНО: Ассистент для письма, работающий по всей ОС Появятся новые AI-функции в приложениях Mail, Notes, Safari, Photos и других, включая генерацию текста и изображений: Самари и разметку приоритетов уведомлений Генерировать эмодзи и картинки Поправлять скетчи внутри заметок и генерить картинки по ним Поиск текстом по видео в вашей галлерее! И можно попросить слепить из них ролик по промпту. Новая Siri - основана на LLM, понимает контекст, с ней можно чатиться текстом. Вот здесь писал про слухи об этом. Siri может пользоваться приложениями У неё теперь есть доступ к эмейлам и другим приватным данным, которые обрабатываются локально На случай если локальной LLM не хватает есть Private Cloud Compute - возможность запускать облачную LLM на серваках Apple работающих на собственных чипах, обещают что данные нигде не сохраняются Теперь у Siri будет интеграция с ChatGPT, обещают другие модели позже Для разработчиков будут доступны API для интеграции AI-функций в их приложения без дополнительных усилий Кроме этого, добавили всякую модную кастомизацию и так по мелочи. Вроде бы все неплохо, есть интересные моменты, но акции чет просели, видимо инвесторы ожидали большего ‍ Ждем дальше когда Siri станет полноценным агентом.