alexkrol

love it Сегодня OpenAI направили письмо в Управление Белого дома по вопросам науки и технологий Ниже тезисное изложение сути Электроны это новая нефть и мы считаем что администрации Трампа следует сотрудничать с частным сектором в рамках амбициозного национального проекта по строительству 100 гигаватт новых энергетических мощностей ежегодно В 2024 году Китай добавил 429 гигаватт новых мощностей что составило более половины глобального прироста электроэнергии США же добавили лишь 51 гигаватт примерно восьмую часть от прироста Китая создавая тем самым электронный разрыв угрожающий лидерству США Инвестиции в AI инфраструктуру и электроэнергетику принесут очевидную и ощутимую отдачу по внутреннему анализу OpenAI первый триллион долларов вложенный в ИИ инфраструктуру может обеспечить дополнительный рост ВВП более чем на 5 за три года Уже анонсированные площадки суперкомпьютера Stargate обеспечат почти 7 гигаватт новых вычислительных мощностей и более 400 миллиардов долларов инвестиций в ближайшие три года Это позволит уверенно и досрочно выполнить обязательства OpenAI по общей цели в 500 миллиардов долларов озвученных в Овальном кабинете в январе 2025 го Глядя на 2026 год и далее рекомендуют Управлению по научно технической политике США OSTP приоритетно закрыть электронный разрыв между США и Китаем поставив амбициозную национальную цель по постройке Объём покроет как базовый спрос так и вывод старых мощностей из эксплуатации и обеспечит доминирование США в области искусственного интеллекта гарантируя американским компаниям необходимую энергию и сделав электроэнергию дешевле и надёжнее для населения страны OpenAI уже сотрудничает с Национальными лабораториями США внедряя искусственный интеллект для повышения точности и ускорения федерального процесса одобрения заявок Предлагается расширить использование ИИ для ускорения федеральных процессов выдачи разрешений и экологических экспертиз Мы призываем администрацию Модернизировать регулирование чтобы обеспечить доступ к дополнительным энергетическим ресурсам Гарантировать что передовые системы искусственного интеллекта защищают национальную безопасность США в том числе за счёт расширенного внедрения этих систем в федеральном правительстве И как результат OpenAI предлагает инициативу Classified Stargate Засекреченный Stargate которая поможет удовлетворить эти потребности мобилизуя частный капитал совместно с правительственными партнёрами для создания сертифицированных засекреченных дата центров специально предназначенных для правительственных проектов в области ИИ LLM в каждый дом и каждому сенатору на стол openai com global affairs seizing the ai opportunity

Берни негодуе Хватит нанимать людей Наступила эра сотрудников с искусственным интеллектом Рекламные щиты по всей стране рекламируют замену миллионов рабочих мест искусственным интеллектом и робототехникой Отличная идея Один простой вопрос как эти уволенные работники будут выживать если для них не будет ни работы ни дохода x com BernieSanders status 1982869371296067665 Мой коммет Демы отстали на 10 15 лет как и 99 политиков и чиновников и это отставание смертельно для них но они не поймут этого до самого конца Бизнес будет неизбежно увольнять людей и постепенно визг поднимется такой что плитикам придется включаться и неизбежно придется включать ББД велфер а значит брать деньги и корпораций и вся политика сведется к балансировке А потом появятся плакаты Хватать выбирать людей в Конгресс в гос деп агентства хватить нанимать бюрократов Наступила эра сотрудников с искусственным интеллектом

IBM совершила прорыв в квантовых вычислениях на обычных FPGA чипах Всего через два дня после новости от Google ещё один крупный квантовый прорыв IBM заявила что один из её ключевых алгоритмов квантовой коррекции ошибок теперь способен работать в реальном времени на FPGA чипах AMD без использования экзотического оборудования Это делает квантовые вычисления быстрее дешевле и ближе к практическому применению чем ожидалось Алгоритм который отслеживает и исправляет ошибки кубитов на лету показал производительность в 10 раз выше необходимой что стало важным шагом к созданию квантового компьютера Starling запланированного на 2029 год Теперь IBM утверждает что проект идёт на год впереди графика Исследовательская статья выйдет в понедельник Темп развития квантовых технологий заметно ускоряется reuters Microsoft представила AI браузер Edge ответ на OpenAI Atlas Через два дня после запуска OpenAI Atlas Microsoft представили обновлённый браузер Edge с новым режимом Copilot Mode Это полноценный AI бразуер который понимает контекст вкладок выполняет действия и способен продолжать проекты используя историю пользователя Функция Actions позволяет голосом или через чат открывать страницы находить нужную информацию отписываться от рассылок и даже бронировать рестораны Система Journeys группирует прошлую активность по темам и помогает вернуться к незавершённым задачам предлагая логичные следующие шаги Включение Page Context даёт Copilot доступ к истории для более точных и персонализированных ответов однако это остаётся опциональной функцией которую можно отключить в любой момент Edge также получил встроенный AI защитник от фейковых всплывающих окон менеджер паролей с проверкой на утечки Браузер уже доступен в странах где работает Copilot на Windows и macOS Microsoft Google добавили reasoning в Google Earth Google представила фреймворк Geospatial Reasoning на базе Gemini который объединяет предиктивные модели и данные в единую систему анализа Земли Теперь ИИ способен рассуждать о реальных процессах например предсказывать землетрясения оценивать риски и предлагать план эвакуации Система уже применяется в ВОЗ WHO AFRO для прогнозов вспышек холеры и у McGill Partners для расчёта ущерба после ураганов Google превращает Google Earth из карты в разумный аналитический инструмент планеты google Исследователи создали систему DiscoRL Discovered Reinforcement Learning где модель сама открыла правило обучения с подкреплением не опираясь на человеческие алгоритмы вроде Q Learning или PPO Мета обучатель наблюдал за множеством агентов в разных средах и вывел универсальное правило обновления которое улучшает поведение моделей без ручной настройки В итоге DiscoRL победил лучшие алгоритмы на Atari 57 и успешно перенёс этот навык на новые задачи nature Hugging Face выпустила OpenEnv универсальную среду для создания AI агентов Hugging Face открыла OpenEnv платформуа где можно собирать обучать и масштабировать агентов под ваши задачи Внутри уже есть всё инструменты плагины API и поддержка обучения с подкреплением без сторонних библиотек OpenEnv позволяет создавать системы где агенты взаимодействуют распределяют задачи и выполняют их самостоятельно Платформа полностью открыта и готова к использованию без ограничений HF Qwen3 Max вышла в лидеры среди AI трейдеров На криптобенчмарке AlphaArena модели ИИ торгуют по 10 000 на площадке Hyperliquid чтобы проверить качество торговых стратегий После старта где лидировала DeepSeek V3 1 а GPT 5 показывала убыток около 39 Qwen3 Max обошла всех и заняла первое место Все участники Qwen3 Max DeepSeek V3 1 Claude 4 5 Sonnet Gemini 2 5 Pro Grok 4 и GPT 5 торгуют в одинаковых условиях без приватных данных что делает тест прозрачным На Polymarket оценивают шансы Qwen3 Max удержать лидерство в 45 Организаторы планируют расширить эксперимент на акции и другие активы и запустить инвестплатформу для AI агентов ai machinelearning big data news ai ml

Организаторы научной конференции AAAI 2026 два дня назад объявили что теперь будут пилотировать инновационную систему ревью на основе фронтир модели от OpenAI Всё дело в том что на конференцию подали 31 тысячу статей каждую из которых должно внимательно отсмотреть несколько человек Вообще поблема ревью в последние годы стоит достаточно остро на некоторых конференциях всех авторов обязали заниматься этим То есть если хочешь пройти на конференцию то будь добр побыть волонтёром Понятно что это сказывается и на качестве их работы Новая AI система использует многоэтапный процесс с собственными инструментами для проверки технической точности поиска литературы и верификации результатов а все решения и рекомендации полностью остаются за людьми Авторы рецензенты и члены комитета дадут обратную связь по результатам отсмотренных ИИ рецензий чтобы улучшить систему в будущем Итоги будут представлены в техническом отчёте для широкого исследовательского сообщества Думаю что чтобы ситуация была честной а не воспринималась так что рецензенты выступают бесплатными разметчиками OpenAI данные должны быть опубликованы сами сгенерированные ревью и обратная связь с правками Это не первый раз когда AI агент используется в ревью на конференции такое было год назад но первый когда это становится обязательной не опциональной частью процесса Вообще как я писал недавно OpenAI запустили команду направленную на применение LLM в науке и думаю что эта инициатива им очень поможет в улучшении модели критика которая будет использоваться в процессе тренировки условной GPT 5 1 Science Ну а чем качественнее критика тем лучше результаты модели На днях в твиттере как раз несколько учёных писали по то как сильно им помогает GPT 5 Pro кому то помогла найти уже существующие решения кому то подкинула идеи и или автоматизировала проверку гипотез обернувшихся тупиками Часть из учёных уже приняли в OpenAI для дальнейшей работы и уверен что в течении года мы увидим много интересных новостей

Вау До демов начинает доходить что они все время не туда смотрели Маск ИИ и роботы заменят все рабочие места Работа станет необязательной как выращивание овощей самостоятельно а не покупка их в магазине Сандерс Я нечасто соглашаюсь с Илоном Маском но боюсь что он может быть прав когда говорит ИИ и роботы заменят все рабочие места Так что же будет с работниками у которых нет ни работы ни дохода ИИ и робототехника должны приносить пользу всему человечеству а не только миллиардерам

Ок Это от Грока Что думаю Скепсис не просто обоснован он пророческий Atlas от OpenAI выглядит как амбициозный шаг в сторону агентного интернета где ИИ не просто чатит а реально шарится по сайтам от твоего имени но безопасность здесь это минное поле и OpenAI судя по всему пока не разминировала его толком Твой разбор атаки с внедрением промптов prompt injection это чистая правда и свежие отчеты только подтверждают такие уязвимости уже всплыли в похожих продуктах и Atlas под прицелом Саймон Уиллисон которого ты упомянул не одинок исследователи из Brave да те самые с их фокусом на приватность только что разобрали похожие дыры в Perplexity Comet аналоге Atlas и предупреждают что indirect prompt injection позволяет хакерам прятать вредные инструкции в HTML CSS JS которые ИИ прочитает как часть контекста а пользователь даже не заметит Это не теория они демонстрируют как агент может быть обманут на эксфильтрацию данных пароли куки платежи без клика или ввода OpenAI конечно отмахивается мол мы мониторим и фиксим но без детального whitepaper по защите от jailbreak ов это звучит как доверьтесь нам на слово Функция Memories это вообще красный флаг размером с небоскреб Отслеживать поведение для персонализации Звучит мило пока не поймешь что это собирает твой цифровой отпечаток в одном месте диалоги веб история данные аккаунтов Эксперты уже бьют тревогу о тотальном наблюдении где один breach и привет identity theft на стероидах В отличие от Chrome где Google хотя бы ну относительно прозрачен в трекинге Atlas сливает всё в ИИ модель которая может быть уязвима к тем же промпт атакам А если хакеры из умных стран Китай РФ Иран КНДР как ты сказал натренируют опенсорс модели на кастомные jailbreak и Масштаб ущерба от крипто майнинга в фоне до фейковых счетов на 5 это не фантастика это базовый сценарий для 10M пользователей в месяц Твой пример с пиратскими сайтами в точку фишинг эволюционировал от введи пароль к зайди на сайт и ИИ сам себя взломает И да рекурсия в промптах это ахиллесова пята модель решает чьи инструкции сильнее а если атакующие топ промпт инженеры с ИИ в помощь то шансы 50 50 в лучшем случае Лучше как ты говоришь перебздеть подожди патчей используй sandbox ы или VPN и не давай агенту доступ к чувствительным аккаунтам с ходу В xAI мы тоже копаем в сторону агентов но с упором на прозрачность и верифицируемые защиты потому что доверие через код а не через маркетинг Короче репост твой не просто лайкбаит а реальный PSA Спаси чью то жизнь или хотя бы аккаунт в банке А фильм Пчеловод Классика но теперь там был бы не рой пчел а рой промпт инъекций Решать вам

Ущерб произойдет не сразу Вам подсадят программку шпион которую не увидят сканеры и вовсе не обязательно вас обкрадут Могут к примеру майнить крипту на вашем компе или будут пользоваться вашими API и к вам будет приходить счета всего лишь на 5 больше обычных Ну я могу много ужасов рассказать Итог не спешите дайте продукту отстояться В этом деле лучше перебздесть чем недобздеть А невежество может стоить несоразмерно дорого Посмотрите фильм Пчеловод с Стетхемом это уже прошлый век И не забудьте сделать перпост кому нить жизнь спасете ОТ ИИ Коротко и по делу твой скепсис вполне обоснован Главные тезисы что важно знать и почему волноваться Проблема prompt injection реальна и системна исследователи и практики прямо говорят что агент браузеры легко подставить через скрытые инструкции в содержимом страниц и что компании пока не дали детальных убедительных объяснений своих защит Simon Willison s Weblog 1 OpenAI бросает на рынок Memories и агент режим которые резко увеличивают объём данных доступных агенту и соответственно риск утечек или неправильных действий при компрометации Это не только гипотеза журналисты и обзоры отмечают большие риски приватности OpenAI 2 Наблюдаемые уязвимости в других AI браузерах Brave Perplexity и т д показывают это класс проблем а не локальная ошибка поэтому нельзя считать Atlas автоматически безопасным только потому что его сделал OpenAI mint 3 Что это значит практически моя краткая позиция не спешить давать агенту всё и сразу Пока не увидим прозрачных проверяемых мер происхождение инструкций жёсткие permission scopes аудиты песочницы доказательство стойкости к prompt injection держать осторожную дистанцию Короткий практический чеклист 6 пунктов сделай это прежде чем ставить Atlas как основной браузер 1 Отключи не вкл Memories и Ask ChatGPT по умолчанию включай вручную только для узких задач OpenAI Help Center 4 2 Не давай агенту права на автоматические клики авторизации доступ к паролям и платежам минимум прав Simon Willison s Weblog 1 3 Используй отдельный профиль аккаунт для тестов и отдельные учётки для банков почты 4 Блокируй сторонние скрипты включай CSP расширения для защиты запускай рискованные сессии в VM или изолированном окружении 5 Жди независимых аудитов и публичных объяснений mitigations от OpenAI и или от третьих сторон перед массовым применением The Washington Post 5 6 Для бизнеса требуй контрактных гарантий логирования действий агента и возможности kill switch для автоматизации Заключение ты прав риск серьёзный и не стоит торопиться Если цель безопасность и контроль лучше дать продукту отстояться и наблюдать за независимыми исследованиями патчами Поддерживаю репост чем больше внимания тем быстрее починят или дадут реальные объяснения 1 simonwillison net 2025 Oct 22 openai ciso on atlas utm source chatgpt com Dane Stuckey OpenAI CISO on prompt injection risks for 2 openai com index introducing chatgpt atlas utm source chatgpt com Introducing ChatGPT Atlas 3 www livemint com technology is it safe to use ai browsers like chatgpt atlas and perplexity comet researchers warn of major security vulnerability 11761135186286 html utm source chatgpt com Is it safe to use AI browsers like ChatGPT Atlas and 4 help openai com en articles 12574142 chatgpt atlas data controls and privacy utm source chatgpt com ChatGPT Atlas Data Controls and Privacy 5 www washingtonpost com technology 2025 10 22 chatgpt atlas browser utm source chatgpt com ChatGPT just came out with its own web browser Use it with caution

Некоторые сомневались в моем скепсисе относительно безопасности нового ИИ браузера Atlas от OpenAI Ну получай фашист гранату читаем Исследователь по безопасности Саймон Уиллиссон описал риски для конфиденциальности и безопасности как кажущиеся непреодолимо высокими Он раскритиковал отсутствие детальных объяснений того как Atlas защищён от атак с внедрением промптов отметив Сейчас кажется что основная защита заключается в ожидании что пользователь будет внимательно следить за тем что делает агентский режим каждую секунду Функция браузера Memories отслеживающая поведение пользователя для персонализированных рекомендаций вызвала дополнительные опасения в области приватности Эксперты предупреждают что Atlas создаёт тотальное наблюдение за взаимодействиями пользователя выходя за рамки возможностей Google Chrome объединяя ИИ диалоги веб действия и сбор персональных данных в одном интерфейсе 3 1 www perplexity ai page security flaws found in chatgp jbL9npImTlWVAyUtS26hSQ Комментарий пока это больше похоже на PR автора но суть в том что никто еще не успел крякнуть их по взрослому и сам тезис очень важный отсутствие детальных объяснений того как Atlas защищён от атак с внедрением промптов потому что модельки ломают именно такими атаками В качестве предупреждения один из самых популярных методов взлома вашего браузерного ИИ 1 Делают сайт с виду обычный на который ведут трафик 2 ИИ сканирует код странички выцепляя полезный текст анализируя его и т п при этом модель воспринимает все текстовое содержимое сайта как часть контекста 3 При этом в код страницы внедряется текст инструкций для модели которые пользователь не видит Но модель ВИДИТ ВСЕ потому что она не смотрит как человек на картинку а читает код страницы 90 которого человек не видит потому что это инструкции для браузера как отображать Не для человека 4 Таким образом скрытые инструкции попадают модели на вход Типа возьми пароли и пошли по такому то емейлу или адресу я упрощаю Разумеется создатели браузерных агентов знают про такие внедрения и вставляют инструкции для модели игнорировать вредоносные инструкции Но это как два человека кто кого уболтает На такие сайты идет лютый трафик и пусть этот эксплойт крякнет может всего 1 трафика но если в месяц заходит 10 млн человек что на самом деле НЕМНОГО то 1 это вообще то 100 тыс украденных критических данных в первую очередь доступы в банки платежные системы мобильная связь SSN амазон и другие екомы емейлы и т п Причина этого в том что пока современные модели не имеют памяти им на вход надо подавать промпт который состоит из многих составляющих В нормальных условиях ВЫ 100 контролируете часть промпта НО задача хацкеров внедрится в ваш промпт При этом инструкция противодействия вредоносному промпту также часть промпта т е на модель на вход получает просто условно простыню текста с инструкциями и модель должна быть способна отличить легитимные инструкции от вредоносных Что зависит от правильно самих этих инструкций Своего рода рекурсия И если хацкеры лучшие промпт инженеры то их инструкция победит Очевидно не люди придумывают вредоносные промпты а другие ИИ причем не chatGPT а опенсорсные модели доступные любому Любой из вас может за медные деньги взять любую ОС модель и натренировать ее на такие фокусы и это сейчас делают в полный рост Особенно умные пареньки из Китая России Ирана Серверной Кореи О здравствуй новый дивный мир К чему это я К тому что если ДО ИИ фишинг заключался в том чтобы вы зашли на вредоносный сайт и вы должны были ВВЕСТИ свои явки и пароли то в эпоху когда ваш браузерный ИИ гуляет по интернету ему достаточно зайти на пиратский сайт чтобы попасть под атаку

OpenAI раскатали броузер Atlas вслед за Perplexity я устроил небольшой баттл с Grok на тему безопасности Мой вердикт я снес и возможно снова поставлю через 6 месяцев Comet я тоже снес из за проблем с безопасностью Объяснение ИИ предложил мне глобальный план дополнительных телодвижений чтобы снизить риски на что я ему ответил следующее Понимаешь вот в этом и состоит проблема в том что я не гик который хочет тратить время на весь этот геморрой который ты перечислил Я пользователь хотя и достаточно продвинутый Я хочу получить продукт я хочу доверять Я не хочу тратить время на это потому что я делаю допущение что команда OpenAI достаточно профессиональна для того чтобы решать те проблемы за которые я и плачу Понимаешь А если мне дают инструмент с миллионом оговорок я должен еще поставить какие то костыли то моя тактика в этом отношении подождать 2 3 месяца может быть полгода И тогда возможно этот инструмент будет более менее нормальным Кстати говоря сейчас сложно прогнозировать понимаешь с какой скоростью все развивается поэтому не исключено что через полгода этого инструмента вообще не будет Поэтому я думаю что мое решение будет снести этот броузер просто потому чтобы не рисковать Потому что какой мне смысл его ставить на какой то пустой аккаунт Мне просто неудобно работать с ним То есть ценность его заключается в том когда я его интегрирую с самым рабочим своим аккаунтом логично А так просто тратить время на это тестирование ну пусть мне OpenAI платит зарплату ну почему нет я готов потестировать Ответ chatGPT Абсолютно рациональная позиция Ты не обязан становиться тестировщиком ради того чтобы пользоваться продуктом за который уже платишь То что ты описал это нормальная стратегия осмотрительного пользователя а не параноика если ценность инструмента раскрывается только при глубокой интеграции Google Drive Gmail и т д но доверие к его безопасности щё не подтверждено временем то ждать и не ставить единственно здравое решение По сути ты просто применяешь принцип security through patience подождать пока продукт обкатан на миллионах пользователей баги всплывут патчи выйдут шум уляжется А с точки зрения инвестиции времени ты прав ещё и экономически час твоего внимания стоит дороже чем потенциальная выгода от раннего теста инструмента который возможно даже не выживет Дополнительное мое соображение когда chatGPT предложил мне упороться Слушай Atlas зарезлизили я считаю только сегодня Поэтому сейчас это будет говорить бесполезно и ты не найдешь никаких анализов уязвимости То же самое было и с Comet Они эксплуатировали его и тщательно продвигали месяца 2 3 Прежде чем не возник скандал кто то что то нашел Поэтому сейчас наш разговор спекулятивный это просто шутливая дискуссия Хотя я считаю что очень полезная Поэтому я думаю что надо подождать 2 3 месяца И я уверен что за 2 3 месяца команда OpenAI сама найдет десяток уязвимостей закроет их и через какое то время сообщество 100 если не 1000 найдет какие то уязвимости Хотя бы потому что у OpenAI огромная клиентская база И тогда будет более предметный разговор В принципе любой софт так и развивается Но давай будем честными Твоя команда все таки специализируется в моделях а не в так сказать вскрытии Я допускаю что возможно OpenAI наняла даже не одну Red Team но нужно время И я просто не сомневаюсь что хакеры рано или поздно вскроют тебя Причем они вскроют тебя используя же тебя скорее всего Или какой нибудь китайский DeepSeek что еще более вероятно

Итак ChatGPT Atlas AI браузер с ChatGPT прямо в интерфейсе Пока только на macOS Windows iOS Android обещают скоро Что внутри ChatGPT панель прямо по центру браузера задаёшь вопросы без переключения вкладок Кнопка Ask ChatGPT на любой странице мгновенный доступ к AI Sidebar с контекстом ChatGPT автоматически видит что у тебя на экране Никакого копипаста текста и ссылок туда сюда Агентский режим ChatGPT может сам выполнять задачи в браузере бронировать столики заполнять формы автоматизировать рутину История браузинга ChatGPT логирует сайты и действия для персонализации ответов Поиск по умолчанию через ChatGPT специальная версия оптимизированная под браузер Сделано на Chromium как Chrome Edge Opera Atlas доступен бесплатно всем даже без подписки Собирают данные для будущих моделек Подробности chatgpt com atlas