Нейросеть Llama успешно адаптирована для работы на компьютере с Windows 98

Энтузиасты запустили современную ИИ-модель Llama на древнем ПК с Pentium II и Windows 98 Специалисты из EXO Labs сумели запустить довольно мощную большую языковую модель LLM Llama на 26-летнем компьютере, работающем под управлением операционной системы Windows 98. Исследователи наглядно показали, как загружается старый ПК, оснащённый процессором Intel Pentium II с рабочей частотой 350 МГц и 128 Мбайт оперативной памяти, после чего осуществляется запуск нейросети и дальнейшее взаимодействие с ней. Для запуска LLM специалисты EXO Labs задействовали собственный интерфейс вывода для алгоритма Llama98.c, который создан на базе движка Llama2.c, написанного на языке программирования C бывшим сотрудником OpenAI и Tesla Андреем Карпатым Andrej Karpathy . После загрузки алгоритма его попросили создать историю о Сонном Джо. Удивительно, но ИИ-модель действительно работает даже на таком древнем ПК, причём история пишется с хорошей скоростью.

Нейросеть на Windows 98? Почему бы и нет! Ребята из EXO Labs решили удивить всех и запустили современную ИИ-модель Llama на стареньком ПК с Pentium II, 128 МБ оперативки и Windows 98. И знаете что? Нейросеть справилась, даже сгенерировала историю на заданную тему! Самое сложное было загрузить данные на компьютер через FTP и заставить Windows 98 «понять» современные языковые модели. Для этого инженеры написали 700 строк чистого C-кода, чтобы сделать модель совместимой со старым софтом. На этом раритете Llama 2 генерировала текст с приличной скоростью — чуть больше 1 токена в секунду. Для сравнения, Llama 3.2 1B на таком же железе выдаёт 0,0093 токена в секунду. Это интересный эксперимент и тот случай, когда старое железо показало себя в новой роли. На смену вездесущему Doom приходят нейросети? #новости

ИИ-энтузиасты запустили современную нейросеть на 26-летнем компе с Windows 98. Они адаптировали языковую модель Llama под древний софт, и та даже смогла написать рассказ. Будущее встретило прошлое GPT Новости Для вас

ИИ-энтузиасты запустили современную нейросеть на 26-летнем компе с Windows 98. Они адаптировали языковую модель Llama под древний софт, и та даже смогла написать рассказ. Будущее встретило прошлое

ИИ-энтузиасты запустили современную нейросеть на 26-летнем компе с Windows 98 Они адаптировали языковую модель Llama под древний софт, и та даже смогла написать рассказ.