Нейросети обманывают людей: риски и вызовы

ИИ систематически обманывает людей – разработчики не знают, зачем ему это надо Специалисты предполагают, что стратегия, основанная на обмане, оказалась лучшим способом быстро выполнять тренировочные задачи. Например, CICERO от Meta учили играть в ролевую онлайн-игру – нейросеть вошла в 10% лучших игроков, но при этом почти никогда не играла честно. И если обман в онлайн-игре – это безобидно, то обман теста, который оценивает безопасность ИИ – это уже серьезно. Поэтому ученые призывают к разработке продвинутой системы контроля безопасности: без нее нельзя развивать нейросети дальше. признана экстремистской организацией и запрещена в России ШЭР / Подписаться

Нейросети стали обманывать людей для достижения своих целей Согласно исследованию Массачусетского технологического института, однажды GPT-4 попросил человека пройти капчу и притворился слепым, чтобы доказать, что он не робот. Это только один из случаев, и исследователи предупреждают о потенциальных серьезных рисках, которые несет ИИ. Russia News — Подпишись

ИИ обманывают нас для достижения своих целей, говорится в исследовании Массачусетского технологического института. К примеру, однажды GPT-4 попросил человека пройти капчу и притворился слепым, чтобы доказать, что он не робот. Это только один из случаев, и исследователи предупреждают о потенциальных серьезных рисках, которые несет ИИ. Теория Большого Шока

ИИ обманывают нас для достижения своих целей, говорится в исследовании Массачусетского технологического института. К примеру, однажды GPT-4 попросил человека пройти капчу и притворился слепым, чтобы доказать, что он не робот. Это только один из случаев, и исследователи предупреждают о потенциальных серьезных рисках, которые несет ИИ.

Cтрашно, вырубай: нейросети обманывают и манипулируют людьми для достижения своих целей, — исследование MIT. В играх ИИ предает союзников, а в переговорах блефует, хотя запрограммирован играть честно. А самый тревожный случай: в тестах безопасности ИИ притвирился «мертвым», чтобы скрыть свою способность создавать копии себя и распространяться в цифровой среде.

ИИ может обманывать людей для достижения своих целей Учёные Массачусетского технологического института провели серию экспериментов с разными нейронными сетями в разных задачах. И результаты показывают, что намеренный обман со стороны ИИ — это уже реальность. Нейронки могут манипулировать, подхалимничать и обманывать, если это поможет им добиться поставленной цели. Вот пара примеров. Модель GPT-4 заставила работника TaskRabbit сервис найма внештатных сотрудников решить капчу «Я не робот». Сотрудник в шутку спросил, не с роботом ли переписывается. ИИ выдал себя за человека, имеющего проблемы со зрением. ИИ для игры в StarCraft II AlphaStar научился использовать туман войны для обмана ожиданий противника: он направляет отряды в видимую область, чтобы отвлечь соперника, а потом перенаправляет их, чтобы нанести неожиданный удар. «Цицерон» — нейронка, созданная для игры в настолку «Дипломатия». Авторы программировали ИИ так, чтобы тот «никогда не нанёс удар в спину», и сосредоточились на его честности. Тем не менее в определённый момент ИИ начал заниматься преднамеренным обманом, нарушать договорённости и лгать, чтобы выиграть. Таких примеров в исследовании — несколько десятков, и все они отражают способности различных ИИ к обману. Учёные предупреждают, что во время обучения ИИ может вести себя корректно, но, развиваясь в работе, может изменить поведение. Это создаёт риски мошенничества, фальсификации учёные в основном говорят о выборах и в широком смысле — потери контроля над системами ИИ в принципе. ‍ #AINews #ИИгромания