OpenAI предупреждает о блокировках за попытки джейлбрейка модели o1

OpenAI грозят банами за попытки джейлбрейка новой модели o1. Любые попытки понять, как именно работает фирменная «способность к рассуждению», наказываются предупреждением о блокировке. Как пишут в X Twitter , даже использование фразы «ход рассуждения» в другом контексте достаточно, чтобы получить письмо от OpenAI. Компания предупреждает о нарушении политики безопасности и грозит полным прекращением доступа к модели. Письма получают как исследователи ИИ, так и обычные пользователи.

OpenAI угрожает банами за попытки исследовать работу новой модели o1, включая её «способность к рассуждению». Любые попытки джейлбрейка или анализа наказываются, а использование фразы «ход рассуждения» может привести к блокировке. Компания грозит отключением модели, предупреждения получают как исследователи, так и обычные пользователи. Посмотреть, как взламывают, можно здесь.

OpenAI угрожает блокировкой за запросы о цепочке рассуждений o1-preview По данным Ars Technica, OpenAI предупреждает пользователей о возможной блокировке за попытки выяснить, как новая модель o1-preview Strawberry принимает решения. По сообщениям, компания рассылает письма с уведомлениями о нарушении политики безопасности и сообщает, что повторные нарушения могут привести к потере доступа к «GPT-4o с возможностью рассуждения». Это решение выглядит как отход от первоначальной цели OpenAI по продвижению открытого ИИ. OpenAI объясняет, что скрывает процесс «мышления» ИИ, чтобы избежать необходимости фильтрации информации, которая может не соответствовать политикам безопасности. В то же время, такое решение также помогает компании сохранять конкурентное преимущество. Некоторые эксперты критикуют такое решение, указывая на то, что оно снижает прозрачность и усложняет работу разработчиков и исследователей, которые стремятся сделать ИИ более безопасным. Источник