Сэм Альтман о потреблении ресурсов ChatGPT: вода и энергия

Средний запрос к ChatGPT потребляет примерно 1/15 чайной ложки воды ~0,32 мл , рассказал CEO OpenAI Сэм Альтман в новом эссе. Это на несколько порядков меньше расчетов исследователей из Калифорнийского университета в Риверсайде, которые в 2023 году заявили, что всего лишь пять запросов к ChatGPT могут требовать до полулитра воды на охлаждение дата-центров. Эти оценки некоторые эксперты и медиа использовали, критикуя ИИ-компании за недостаточное внимание к экологии. С другой стороны, на момент 2023 года сервера и модели OpenAI могли быть менее оптимизированы и потреблять больше ресурсов . В плане электричества один запрос к ChatGPT «сжигает» 0,34 Вт×ч — чуть более секунды работы духовки или пару минут энергоэффективной лампочки. Примерно так потребление оценивали аналитики из Epoch AI.

Сэм Альтман посчитал, сколько воды нужно ChatGPT для обработки одного запроса Среднестатистический промпт требует около 1/15 чайной ложечки ~0.32 миллилитра жидкости. Если взглянуть в прошлое, на первые версии GPT, то это колоссальный прогресс. Так, к примеру, 2 года назад для 20-50 запросов требовалось ПОЛЛИТРА воды 10-25 мл. за промпт .

Глава OpenAI Сэм Альтман обмолвился, что на один запрос к ChatGPT расходуется 1/15 чайной ложки воды и 0,34 ватт‑часа электроэнергии. Эти слова серьезно взбудоражили экологов: в масштабах миллиардов запросов в день они превращаются в тонны воды и гигаватты электричества. Конечно, со временем ИИ станет гораздо экономнее. А пока что призывы экологов не пользоваться лишний раз нейронками, чтобы беречь природу, оказывается, вполне обоснованы.

Умный помощник, который всегда под рукой

Сэм Альтман рассказал, сколько ChatGPT потребляет энергии и воды во время общения с пользователями Генеральный директор OpenAI Сэм Альтман в своём блоге рассказал, сколько электроэнергии в среднем тратит ИИ-бот ChatGPT на обработку среднего пользовательского запроса. По его словам, средний запрос в ChatGPT потребляет 0,000085 галлона воды, или «примерно одну пятнадцатую чайной ложки». Речь идёт об объёме воды, используемой для охлаждения центров обработки данных. «Люди часто интересуются, сколько энергии потребляет запрос ChatGPT. Средний запрос потребляет около 0,34 Вт·ч — примерно столько, сколько духовка потребляет за одну секунду или высокоэффективная лампочка за пару минут», — говорится в сообщении Альтмана. Он также добавил, что «стоимость ИИ в конечном счёте должна приблизиться к стоимости электричества». Как именно Альтман пришёл к этим значениям, не уточняется.

Альтман рассказал, сколько воды "пьёт" ChatGPT Глава OpenAI Сэм Альтман опубликовал любопытную статистику о ресурсопотреблении искусственного интеллекта. Средний запрос к ChatGPT использует всего одну пятнадцатую чайной ложки воды. Звучит совсем немного, но при миллиардах запросов в день цифры становятся внушительными. По энергопотреблению данные тоже интересные: каждый запрос тратит около 0.34 ватт-часа энергии. Для сравнения — столько же потребляет духовка за секунду работы или энергоэффективная лампочка за пару минут. Альтман утверждает, что в будущем стоимость искусственного интеллекта должна приблизиться к стоимости электричества. Эти заявления появились на фоне растущей критики ИИ-компаний за экологический след. Исследователи прогнозируют, что к концу года искусственный интеллект может потреблять больше энергии, чем майнинг биткоина. Washington Post в прошлом году подсчитал, что генерация письма из 100 слов с помощью GPT-4 требует "чуть больше одной бутылки" воды. Водопотребление сильно зависит от расположения дата-центров. В засушливых регионах охлаждение серверов становится особенно ресурсозатратным процессом. OpenAI пока не раскрыла методологию подсчётов Альтмана, что вызывает вопросы о точности приведённых цифр. Кстати, вчера OpenAI незаметно выкатила обновление — модель o3-pro теперь доступна всем Pro-пользователям в ChatGPT и через API. Она заменила o1-pro и показывает улучшенную производительность в науке, образовании, программировании и анализе данных. o3-pro получила доступ ко всем инструментам ChatGPT: поиск в интернете, анализ файлов, работа с изображениями, выполнение Python-кода и персонализация через память. В экспертных оценках рецензенты стабильно предпочитают o3-pro обычной o3 за ясность, полноту ответов и точность следования инструкциям.