Запуск программы по созданию AGI: исследователи объединяются для безопасного развития ИИ

Прогноз главы OpenAI Сэма Альтмана на 2025 год Сэм Альтман, глава OpenAI, прогнозирует появление к 2025 году искусственного интеллекта общего назначения, который сможет выполнять задачи на уровне человеческого интеллекта. Это заявление вызывает как поддержку, так и скептицизм среди экспертов. В то же время OpenAI продолжает работу над новой языковой моделью Orion, которая пока не демонстрирует значительного прорыва по сравнению с предыдущими версиями. Альтман уверен, что человечество стоит на пороге новой эры, сравнивая грядущие изменения с переходом от каменного века. Однако для реализации этих амбициозных планов необходимо решить проблемы с вычислительной мощностью и энергопотреблением, чтобы технологии стали доступными не только для крупных компаний, но и для обычных пользователей. Этот анонс написан ИИ «РБК Трендов»

Эпоха масштабирования ИИ подходит к концу: что дальше? Долгое время развитие искусственного интеллекта ИИ шло по пути масштабирования: больше данных, больше вычислительных мощностей. Однако эксперты всё чаще говорят о завершении этого этапа. Как отметил один из основателей OpenAI Илья Суцкевер, мы вступаем в новую эпоху — эпоху открытий и изумления. ‍ Ранее считалось, что увеличение вычислительных ресурсов неизбежно приведёт к созданию сверхинтеллекта, способного превзойти человеческий разум. Но последние достижения OpenAI, Google и Anthropic показывают, что прогресс замедляется. Тем не менее, глава Microsoft, Сатья Наделла уверен, что будущее за системами, которые смогут рассуждать. А основатель Nvidia Дженсен Хуанг считает, что спрос на оборудование будет расти, ведь разработчики стремятся сократить время отклика ИИ. В 2024 году капитальные затраты Microsoft, Amazon, Google и Meta могут превысить $300 млрд. English version

Эпоха масштабирования ИИ подходит к концу: что дальше? Долгое время развитие искусственного интеллекта ИИ шло по пути масштабирования: больше данных, больше вычислительных мощностей. Однако эксперты всё чаще говорят о завершении этого этапа. Как отметил один из основателей OpenAI Илья Суцкевер, мы вступаем в новую эпоху — эпоху открытий и изумления. ‍ Ранее считалось, что увеличение вычислительных ресурсов неизбежно приведёт к созданию сверхинтеллекта, способного превзойти человеческий разум. Но последние достижения OpenAI, Google и Anthropic показывают, что прогресс замедляется. Тем не менее, глава Microsoft, Сатья Наделла уверен, что будущее за системами, которые смогут рассуждать. А основатель Nvidia Дженсен Хуанг считает, что спрос на оборудование будет расти, ведь разработчики стремятся сократить время отклика ИИ. В 2024 году капитальные затраты Microsoft, Amazon, Google и Meta могут превысить $300 млрд. English version

ИИ может перейти на «темную сторону» — Дарио Амодей В недавнем интервью Лексу Фридману сооснователь и CEO Anthropic Дарио Амодей рассказал, когда искусственный интеллект станет умнее человека и возглавит научные лаборатории. Хайлайты В математике, физике и биологии ИИ уже обладает знаниями доктора наук и скоро превзойдет самые высокие профессиональные стандарты. Реально ли для ИИ стать умнее человека? Зависит от сферы. В биологии потенциал ИИ почти безграничен, а в разрешении конфликтов между людьми его предел гораздо ниже.  Сильный ИИ AGI может появиться уже к 2026 или 2027 году. Хотя многое рискует этому помешать. Например, закончатся данные, мы не сможем масштабировать вычислительные мощности, или модели перестанут совершенствоваться, и придется изобретать новую архитектуру. На ранних этапах AGI будет похож на аспиранта. Вы поручите ему проект, а он прочитает всю литературу, напишет код, закажет оборудование, проведет эксперимент. В конечном итоге ИИ окажется умнее профессоро...

Успей оформить подарок для тех, кто в теме. Жми и узнавай

Новый вид ИИ появится в 2025 году? В своем недавнем интервью глава компании OpenAI Сэм Альтман предсказал появление в 2025 году искусственного интеллекта ИИ общего назначения — AGI. В чем же отличия от обычного ИИ? Высокая эффективность современных нейросетей наблюдается в основном только в узкоспециализированных задачах. Среди них можно выделить распознавание речи или обработку данных. Поэтому все существующие варианты ИИ учёные относят к классу узкого ИИ, иногда его называют слабым ИИ. А целью AGI является достижение интеллектуального уровня человека, что, в свою очередь, представляет собой более амбициозную задачу. Если говорить о конкретных примерах, то все просто — каждый человек ежедневно совершает огромное количество интеллектуальной работы. Например, управляет автомобилем, планирует финансовые траты, общается с людьми, пишет, читает. Предполагается, что общий ИИ сможет обучиться этому. И это не всё. По мнению некоторых учёных, у AGI должна быть внутренняя мотивация, умение ставить цели, способность делить сложные задачи на мелкие подзадачи и другие навыки, которые есть у нас с вами. С одной стороны, это будет серьезный прорыв в сфере технологий. Такой ИИ может быть использован в сфере медицины для более детальной диагностики заболеваний и составления рекомендаций по их борьбе. В сфере бизнеса AGI позволит автоматизировать управление практически любым процессом, например, производством или маркетингом. Но здесь есть и свои риски. Главный из них — риск, когда искусственный интеллект выходит из-под контроля человека. Благодаря способности к самовоспроизведению и самосовершенствованию, ИИ теоретически может достичь уровня суперинтеллекта, который позволит превосходить людей. И его будущие действия могут быть практически непредсказуемыми, учитывая уникальность такого масштабного технологического развития. Goodwin Finance Подписаться

ИИ может перейти на «темную сторону» — Дарио Амодей В интервью Лексу Фридману CEO Anthropic Дарио Амодей рассказал о будущем искусственного интеллекта, его возможностях и рисках. ИИ уже превосходит людей в науке. В математике, физике и биологии он обладает знаниями уровня доктора наук и скоро превзойдет лучшие профессиональные стандарты. Когда появится сильный ИИ AGI ? Это может случиться уже к 2026–2027 году, но есть препятствия: нехватка данных, ограниченные вычислительные мощности или необходимость новых архитектур. Как будет выглядеть AGI? На старте он будет как аспирант: изучит литературу, напишет код, проведет эксперименты. Со временем станет умнее руководителей и начнет управлять исследованиями. Риски выхода из-под контроля. Амодей не исключает, что ИИ может выйти из-под контроля, особенно в кибербезопасности, биоинженерии и ядерной энергетике. Anthropic — разработчик чат-бота Claude, конкурента OpenAI. Полное интервью здесь. English version