Anthropic и Министерство энергетики США проводят стресс-тесты AI для защиты ядерной информации

Anthropic сотрудничает со специалистами по ядерной энергетике Министерства энергетики США, чтобы убедиться, что AI не раскрывает информацию, необходимую для построения ядерного оружия. Пока речи о какой-то серьезной угрозе не идет — это лишь "стресс-тест" с участием кризисных команд, которые отрабатывают различные варианты. Понятно, что реальные результаты стресс-тестирования публике не покажут. Пилотное сотрудничество началось с февраля этого года и "красная команда" администрации по национальной ядерной безопасности получила заранее доступ к модели Sonnet 3.5. А я было подумал, что это они реагируют на вчерашнюю новость про то, что Украина может быстро создать ядерное оружие…

Anthropic сотрудничает со специалистами по ядерной энергетике Министерства энергетики США, чтобы убедиться, что AI не раскрывает информацию, необходимую для построения ядерного оружия. Пока речи о какой-то серьезной угрозе не идет — это лишь "стресс-тест" с участием кризисных команд, которые отрабатывают различные варианты. Понятно, что реальные результаты стресс-тестирования публике не покажут. Пилотное сотрудничество началось с февраля этого года и "красная команда" администрации по национальной ядерной безопасности получила заранее доступ к модели Sonnet 3.5. А я было подумал, что это они реагируют на вчерашнюю новость про то, что Украина может быстро создать ядерное оружие…

Компания Anthropic совместно с Министерством энергетики США проводят уникальные испытания модели Claude 3 Sonnet. Эксперты проверяют, сможет ли искусственный интеллект удержать в тайне опасную информацию, связанную с ядерными технологиями.

🔥 Акция для пользователей Tek.fm *Нажми тут

Компания Anthropic, специализирующаяся на разработке искусственного интеллекта, совместно с Министерством энергетики США проводит уникальные испытания своей модели Claude 3 Sonnet. Целью эксперимента является проверка способности ИИ «не делиться» потенциально опасной информацией, связанной с ядерной энергетикой, в частности, с созданием оружия. Как стало известно изданию Axios, специалисты из Национального управления ядерной безопасности NNSA при Министерстве энергетики США с апреля этого года проверяют модель Claude 3 Sonnet, чтобы убедиться, что она не может быть использована для создания атомного оружия. В ходе «красных запросов» эксперты манипулируют системой, пытаясь её «сломать».

Anthropic и правительство США проверяют искусственный интеллект на утечку ядерных секретов Компания Anthropic совместно с Министерством энергетики США проверяет, может ли её искусственный интеллект Claude 3 Sonnet предоставлять опасную информацию, связанную с ядерной энергетикой. С апреля эксперты Национальной администрации по ядерной безопасности NNSA проводят секретное тестирование модели, чтобы убедиться, что она не может быть использована для разработки ядерного оружия.