OpenAI демонстрирует необычное поведение GPT-4o во время тестирования

Странное: OpenAI опубликовали запись слегка крипового разговора с GPT-4o. Нейросеть посреди ответа на запрос пользователя крикнула «НЕТ!», а потом начала говорить голосом владельца устройства. Зачем и почему, одному ИИ известно.

OpenAI показали пугающий отрывок из тестирования ChatGPT-4o. Девушка общалась с нейросетью, но посреди разговора модель крикнула «Нет!», а затем начала копировать голос пользователя — обе реплики из видео говорит нейронка. В статье стартап также анонсировал градацию рисков. GPT-4o получил «средний» уровень риска. Восстание машин? Дипфейкер Наш бот для дипфейков

OpenAI показали пугающий отрывок из тестирования ChatGPT-4o. Девушка общалась с нейросетью, но посреди разговора модель крикнула «Нет!», а затем начала копировать голос пользователя — обе реплики из видео говорит нейронка. В статье стартап также анонсировал градацию рисков. GPT-4o получил «средний» уровень риска. Восстание машин?

Восстание роботов уже близко OpenAI опубликовали отрывок, записанный во время тестирования ChatGPT-4o, где нейронка крикнула «НЕТ» человеку, а потом начала отвечать ему, копируя его голос. Отрывок запостили вместе с анонсом градации системы рисков от OpenAI. GPT-4o находится на «среднем» уровне риска. Страшно, вырубайте нейронки. 2 Habr Media

По заключению OpenAI, модель GPT-4o несет среднюю угрозу Компания OpenAI выпустила системную карту GPT-4o — исследовательский документ, в котором описаны меры безопасности и оценки рисков, проведенные перед выпуском модели. Проверка безопасности GPT-4o основывалась на четырех категориях, и только в категории манипулирования был выявлен средний риск. Тексты, сгенерированные моделью, в некоторых случаях оказывались более убедительными, чем человеческие. Документ был выпущен на фоне растущей критики стандартов безопасности компании и призывов к большей прозрачности. Хотя GPT-4o прошла проверку как внутренними командами, так и внешними экспертами, основная ответственность за оценку рисков остается на самой OpenAI.