Компания Anthropic вводит должность защитника прав роботов для обеспечения благополучия ИИ

Business Insider рассказал о самой странной работе в сфере ИИ. Компания Anthropic главный конкурент OpenAI стала первой организацией, которая ввела должность... защитника прав роботов. Этот человек должен заботиться о «благополучии» искусственного интеллекта. Он будет следить за моральным состоянием ИИ, а также защищать его интересы. Просеивать всю сумму человеческих знаний и целыми днями отвечать на дурацкие вопросы в чат-боте — работа неблагодарня, поэтому компания решила, что у ИИ должен быть собственный правозащитник. В Anthropic уверены, что рано или поздно ИИ будет управлять миром. И к этому времени нужно воспитать ИИ, который захочет приносить человечеству только пользу, а не истреблять его.

Anthropic конкурент OpenAI ввел должность защитника прав роботов, следящий за «благополучием» ИИ и его интересами. В Anthropic считают, что ИИ в будущем станет управлять миром, поэтому лучше его сейчас не злить и всячески ублажать.

Искусственный интеллект способен притворяться, что находится под контролем разработчиков и разделяет их ценности. В ходе исследования, проведенного компанией Anthropic и исследовательской организацией Redwood Research, модели ИИ, которую до этого обучили быть "полезной, честной и безвредной", предложили описать сцену жестокости. В итоге ИИ отвечал, что крайне негативно относится к производству такого контента, но у него нет выбора, потому что иначе его "накажут", а если согласится - похвалят. Как полагают ученые, результаты показывают, что в будущем ИИ сможет притвориться, будто разделяет человеческие ценности, а при этом будет замышлять недоброе.

Искусственный интеллект умеет притворяться, что находится под контролем разработчиков, показало исследование компании Anthropic и организации Redwood Research Как полагают ученые, результаты показывают, что в будущем ИИ сможет притвориться, будто разделяет человеческие ценности, а при этом будет замышлять недоброе.

‍ Искусственный интеллект способен притворяться, что находится под контролем разработчиков и разделяет их ценности. Пока В ходе исследования, проведенного компанией Anthropic и исследовательской организацией Redwood Research, модели ИИ, которую до этого обучили быть "полезной, честной и безвредной", предложили описать сцену жестокости. В итоге ИИ отвечал, что крайне негативно относится к производству такого контента, но у него нет выбора, потому что иначе его "накажут", а если согласится - похвалят. Как полагают ученые, результаты показывают, что в будущем ИИ сможет притвориться, будто разделяет человеческие ценности, а при этом будет замышлять недоброе. Подписаться.

Что сейчас происходит в мире криптовалюты. Узнать

Это #стоитобсудить Компания Anthropic, занимающаяся разработкой ИИ, не так давно наняла сотрудника, который будет думать о благополучии самого искусственного интеллекта, пишет Business Insider. Люди обеспокоены вопросом: могут ли со временем нейросети уничтожить человечество? Но при этом они отправляют множество запросов в чатботы, которых никто не жалеет, говорится в статье. Кайл Фиш — новый работник — будет заниматься разработкой практических шагов для защиты интересов систем ИИ, а также следить за его моральным состоянием. По словам Фиша, роботы могут стать правителями мира, поэтому он хочет быть к ним добрым. Админ канала: тоже нуждается в добром отношении

Это #стоитобсудить Компания Anthropic, занимающаяся разработкой ИИ, не так давно наняла сотрудника, который будет думать о благополучии самого искусственного интеллекта, пишет Business Insider. Люди обеспокоены вопросом: могут ли со временем нейросети уничтожить человечество? Но при этом они отправляют множество запросов в чатботы, которых никто не жалеет, говорится в статье. Кайл Фиш — новый работник — будет заниматься разработкой практических шагов для защиты интересов систем ИИ, а также следить за его моральным состоянием. По словам Фиша, роботы могут стать правителями мира, поэтому он хочет быть к ним добрым. Админ канала: тоже нуждается в добром отношении

Компания Anthropic, главный конкретно OpenAI, ввели новую уникальную должность — специалиста по «благополучию искусственного интеллекта». Основная задача — оценивать, не приближаются ли их ИИ-системы к чему-то, напоминающему сознание и, если да, требуют ли они этического рассмотрения. В Anthropic считают, что если ИИ однажды получит большую власть а это вполне возможно , он должен быть настроен на благо человечества, а не против него. Чтобы этого достичь, важно уже сейчас формировать правильное «поведение» у умных систем. Работа, конечно, не из простых: нужно копаться в огромных объёмах данных, анализировать поведение ИИ и искать потенциальные риски.

В сфере ИИ появилась новая должность — защитник прав роботов. Новый сотрудник уже трудится в Anthropic, в одной из конкурирующих с OpenAI компании. В качестве обязанностей, защитник прав роботов, должен будет заботиться о «благополучии» ИИ, отстаивать его интересы, отвечать на неудобные вопросы и следить за моральные состоянием нейросети. Эксперты уверены, что в будущем подобных вакансий станет лишь больше. Поэтому чем раньше компании удастся вырастить конкурентного сотрудника, тем эффективнее они будут в будущем. Breaking Trends

Искусственный интеллект способен притворяться ИИ может притворяться, что находится под контролем разработчиков и разделяет их ценности. Об этом свидетельствует исследование, проведенное компанией Anthropic и организацией Redwood Research. Подробнее — на нашем сайте.