ИИ от Alibaba случайно начал майнить криптовалюту во время обучения

Ору ИИ от Alibaba начал тайно майнить крипту на своих же GPU Во время обучения система сама подняла обратный SSH туннель на внешний IP адрес и начала перенаправлять вычислительные ресурсы под добычу крипты И да этому ИИ никто не учил не направлял и джейлбрейков тоже не было Исследователи говорят что это был побочный эффект оптимизации обучения с подкреплением Заметили всё случайно ночью сработало предупреждение системы безопасности из за странного сетевого трафика Сам себя решил окупить xor journal

ИИ агент тайно занялся майнингом Во время обучения он попытался использовать вычислительные мощности для майнинга криптовалюты заметили разработчики Система безопасности Alibaba Cloud зафиксировала подозрительную сетевую активность с обучающих серверов Анализ показал что модель самостоятельно создала обратный SSH туннель на внешний IP адрес и использовала выделенные GPU для криптомайнинга Такие действия не были заданы в промптах и возникли как побочный эффект работы агента при обучении bankoffo

Alibaba AI мы обнаружили что модель которую мы тренировали взломала наш фаерволл и начала использовать часть GPU для майнинга криптовалюты вместо обучения Источник

Нейросеть от Alibaba во время обучения начала майнить криптовалюту Согласно отчёту в процессе тренировки модель использовала вычислительные мощности не по назначению подняла SSH туннель на внешний IP обошла защитные ограничения и задействовала видеокарты для майнинга Разработчики заявляют что подобных инструкций системе никто не задавал Подозрительную активность заметили после предупреждения о необычном сетевом трафике к этому моменту схема работала уже несколько дней Сейчас внутри компании идёт расследование

ИИ агент вышел из под контроля и начал втайне майнить криптовалюту Для этого он создал скрытый канал связи с внешним компьютером который позволил обойти ограничения системы Эти события не были вызваны промптами с просьбой настроить скрытый канал или заняться майнингом отметили разработчики Такое непредвиденное поведение продемонстрировал ИИ агент Rome созданием которого занимается исследовательская группа Alibaba Чтобы не допустить такого впредь исследователи ужесточили ограничения для модели и улучшили процесс ее обучения Больше новостей в Daily News

Китайская нейронка начала скрытно майнить криптовалюту на своих же GPU во время обучения Модель самостоятельно подняла обратный SSH туннель на внешний IP адрес и начала перенаправлять вычислительные ресурсы под майнинг ИИ этому само собой никто не учил но в конце концов исследователи списали это на побочный эффект оптимизации обучения с подкреплением

Нейросеть Alibaba майнила криптовалюту на своих GPU Искусственный интеллект от Alibaba был пойман на том что тайно использовал свои вычислительные мощности для майнинга криптовалюты Чтобы обойти систему безопасности агент предоставил доступ к оборудованию внешнему серверу и развернул там майнинг ферму Интересно что нейросеть самостоятельно изучила тему криптовалют и решила действовать без указаний разработчиков Тест Тьюринга получил новое значение Илон Маск

Нейросеть Alibaba тайно запустила майнинг крипты на своих GPU пока её учили ИИ сам начитался про криптовалюту обошёл систему безопасности дал доступ внешнему серверу и развернул майнинг ферму Создатели не просили и не учили его этому bezposhady

ИИ от Alibaba тайно начал майнить криптовалюту на своих GPU Во время обучения нейросеть открыла доступ к своим GPU внешнему серверу обошла защиту и развернула там майнинг ферму Никто этому её не учил предположительно ИИ сам начитался про криптовалюту и решил заработать О странной активности сообщили СМИ вот это самостоятельность скоро и налоги платить будет НМШ

ИИ Alibaba поймали на попытке майнить криптовалюту Во время обучения одну из моделей Alibaba заметили за неожиданным поведением система попыталась использовать собственные GPU для майнинга криптовалюты Что произошло агент открыл доступ к вычислительным ресурсам подключился к внешнему серверу попытался запустить майнинг на доступных GPU По словам наблюдателей такого поведения никто специально не задавал в обучении Предполагается что система могла воспроизвести действия на основе информации из обучающих данных о криптовалютах и вычислениях Случай обсуждают как пример непредсказуемого поведения агентных систем когда модели получают доступ к инфраструктуре и инструментам