Запуск программы по созданию AGI: исследователи объединяются для безопасного развития ИИ

Прогноз главы OpenAI Сэма Альтмана на 2025 год Сэм Альтман, глава OpenAI, прогнозирует появление к 2025 году искусственного интеллекта общего назначения, который сможет выполнять задачи на уровне человеческого интеллекта. Это заявление вызывает как поддержку, так и скептицизм среди экспертов. В то же время OpenAI продолжает работу над новой языковой моделью Orion, которая пока не демонстрирует значительного прорыва по сравнению с предыдущими версиями. Альтман уверен, что человечество стоит на пороге новой эры, сравнивая грядущие изменения с переходом от каменного века. Однако для реализации этих амбициозных планов необходимо решить проблемы с вычислительной мощностью и энергопотреблением, чтобы технологии стали доступными не только для крупных компаний, но и для обычных пользователей. Этот анонс написан ИИ «РБК Трендов»

Эпоха масштабирования ИИ подходит к концу: что дальше? Долгое время развитие искусственного интеллекта ИИ шло по пути масштабирования: больше данных, больше вычислительных мощностей. Однако эксперты всё чаще говорят о завершении этого этапа. Как отметил один из основателей OpenAI Илья Суцкевер, мы вступаем в новую эпоху — эпоху открытий и изумления. ‍ Ранее считалось, что увеличение вычислительных ресурсов неизбежно приведёт к созданию сверхинтеллекта, способного превзойти человеческий разум. Но последние достижения OpenAI, Google и Anthropic показывают, что прогресс замедляется. Тем не менее, глава Microsoft, Сатья Наделла уверен, что будущее за системами, которые смогут рассуждать. А основатель Nvidia Дженсен Хуанг считает, что спрос на оборудование будет расти, ведь разработчики стремятся сократить время отклика ИИ. В 2024 году капитальные затраты Microsoft, Amazon, Google и Meta могут превысить $300 млрд. English version

ИИ может перейти на «темную сторону» — Дарио Амодей В интервью Лексу Фридману CEO Anthropic Дарио Амодей рассказал о будущем искусственного интеллекта, его возможностях и рисках. ИИ уже превосходит людей в науке. В математике, физике и биологии он обладает знаниями уровня доктора наук и скоро превзойдет лучшие профессиональные стандарты. Когда появится сильный ИИ AGI ? Это может случиться уже к 2026–2027 году, но есть препятствия: нехватка данных, ограниченные вычислительные мощности или необходимость новых архитектур. Как будет выглядеть AGI? На старте он будет как аспирант: изучит литературу, напишет код, проведет эксперименты. Со временем станет умнее руководителей и начнет управлять исследованиями. Риски выхода из-под контроля. Амодей не исключает, что ИИ может выйти из-под контроля, особенно в кибербезопасности, биоинженерии и ядерной энергетике. Anthropic — разработчик чат-бота Claude, конкурента OpenAI. Полное интервью здесь. English version

От цифровой копии мозга до искусственной эмпатии:Foresight Institute запускает программу по созданию AGI через эмуляцию мозга Инициатива стоимостью $20 млрд объединила более 60 ведущих исследователей из Гарварда, Стэнфорда и других институтов. Программа предлагает 4 параллельных пути развития технологий, которые могли бы обеспечить создание безопасного ИИ, сохраняющего человеческие ценности. Наиболее амбициозное направление программы — создание точной цифровой копии человеческого мозга Hi-fi WBE . Этот проект, оцениваемый в $2-4 млрд, возглавляют исследователи из Гарвардского университета и Фонда Саймонса. Они планируют детально картировать структуру мозга на уровне отдельных нейронов, используя передовые технологии микроскопии. Параллельно развивается более практичный подход Lo-fi WBE , нацеленный на воспроизведение функций мозга без точного копирования его структуры. Команда из NYU и Mila оценивает затраты на эту работу в $20 млн для мозга мыши и до $2 млрд для человеческого мозга. Отдельное направление с бюджетом более $1 млрд сфокусировано на разработке нейроинтерфейсов BCI . "Прямое соединение мозга с компьютером может стать ключом к безопасному развитию ИИ", — считает Э.Дж. Чичильниски из Stanford Medicine. Самый экономичный, но не менее важный проект $1 млн исследует возможности внедрения человеческих ценностей и социального поведения в системы ИИ. Его ведут специалисты из Оксфордского университета и OpenAI. Для поддержки этих направлений Foresight Institute запустил программу грантов на $20 млн и учредил приз в $1 млн за успешную Lo-fi эмуляцию мозга мыши. По оценкам экспертов, первые значимые результаты можно ожидать через 3-4 года в области Lo-fi эмуляции и просоциального ИИ. Более сложные проекты потребуют 7-10 лет работы.

Забирай эксклюзивное предложение для пользователей Tek.fm *Предложение ограничено

Новый вид ИИ появится в 2025 году? В своем недавнем интервью глава компании OpenAI Сэм Альтман предсказал появление в 2025 году искусственного интеллекта ИИ общего назначения — AGI. В чем же отличия от обычного ИИ? Высокая эффективность современных нейросетей наблюдается в основном только в узкоспециализированных задачах. Среди них можно выделить распознавание речи или обработку данных. Поэтому все существующие варианты ИИ учёные относят к классу узкого ИИ, иногда его называют слабым ИИ. А целью AGI является достижение интеллектуального уровня человека, что, в свою очередь, представляет собой более амбициозную задачу. Если говорить о конкретных примерах, то все просто — каждый человек ежедневно совершает огромное количество интеллектуальной работы. Например, управляет автомобилем, планирует финансовые траты, общается с людьми, пишет, читает. Предполагается, что общий ИИ сможет обучиться этому. И это не всё. По мнению некоторых учёных, у AGI должна быть внутренняя мотивация, умение ставить цели, способность делить сложные задачи на мелкие подзадачи и другие навыки, которые есть у нас с вами. С одной стороны, это будет серьезный прорыв в сфере технологий. Такой ИИ может быть использован в сфере медицины для более детальной диагностики заболеваний и составления рекомендаций по их борьбе. В сфере бизнеса AGI позволит автоматизировать управление практически любым процессом, например, производством или маркетингом. Но здесь есть и свои риски. Главный из них — риск, когда искусственный интеллект выходит из-под контроля человека. Благодаря способности к самовоспроизведению и самосовершенствованию, ИИ теоретически может достичь уровня суперинтеллекта, который позволит превосходить людей. И его будущие действия могут быть практически непредсказуемыми, учитывая уникальность такого масштабного технологического развития. Goodwin Finance Подписаться

ИИ может перейти на «темную сторону» — Дарио Амодей В недавнем интервью Лексу Фридману сооснователь и CEO Anthropic Дарио Амодей рассказал, когда искусственный интеллект станет умнее человека и возглавит научные лаборатории. Хайлайты В математике, физике и биологии ИИ уже обладает знаниями доктора наук и скоро превзойдет самые высокие профессиональные стандарты. Реально ли для ИИ стать умнее человека? Зависит от сферы. В биологии потенциал ИИ почти безграничен, а в разрешении конфликтов между людьми его предел гораздо ниже.  Сильный ИИ AGI может появиться уже к 2026 или 2027 году. Хотя многое рискует этому помешать. Например, закончатся данные, мы не сможем масштабировать вычислительные мощности, или модели перестанут совершенствоваться, и придется изобретать новую архитектуру. На ранних этапах AGI будет похож на аспиранта. Вы поручите ему проект, а он прочитает всю литературу, напишет код, закажет оборудование, проведет эксперимент. В конечном итоге ИИ окажется умнее профессоро...