Сотрудники крупных компаний используют ИИ для накрутки внутренних метрик

В Amazon выбрали специфичный путь интеграции искусственного интеллекта Менеджмент решил что если заставить программистов пользоваться ИИ агентами из под палки и по расписанию инновационность с эффективностью вырастут На практике же случилось как всегда программисты учатся осваивать KPI и нагружать ИИ мусорной работой Российские компании немного спасает тот факт что денег меньше и своих сопоставимых технологий нет но изменения идут и на нашем рынке Аишка рассказала подробнее

FT Сотрудники Amazon используют ИИ для выполнения ненужных задач чтобы повысить метрики ИИ используют для автоматизации второстепенных задач и др Сотрудники хотят повысить свои метрики использования ИИ Amazon начала активно внедрять собственный продукт MeshClaw Продукт позволяет сотрудникам создавать своих ИИ агентов ИИ агенты могут выполнять задачи от имени пользователя и др Сотрудники используют ИИ для автоматизации доп работы Потребление токенов увеличивается ради ненужной работы и др От 80 разработчиков требуют применять ИИ еженедельно Amazon отслеживает потребление токенов на внутренних рейтингах Сотрудники стали использовать MeshClaw только ради метрик Amazon заявила что метрики по токенам не применяют для оценок Однако сотрудники заявили что руководство следит за этим Из за ложных стимулов сотрудники начинают соревноваться ftsec

Работники Amazon научились обманывать искусственный интеллект для выполнения KPI Сотрудники стали имитировать активность создавая лишние задачи и перерасходуя ресурсы С момента запуска внутреннего ИИ агента MeshClaw прошло всего несколько недель но уже появились сотрудники которые намеренно ставят агенту избыточные ненужные или заведомо непродуктивные задачи так называемый tokenmaxxing чтобы увеличить потребление ИИ токенов и выполнить KPI Amazon планирует вложить в развитие ИИ около 200 млрд и рассматривает агентов как ключевой инструмент По внутренним документам компании MeshClaw видит сны чтобы консолидировать знания отслеживает рабочие процессы на встречах и распределяет почту пока вы спите Однако компания столкнулась с эффектом закона Гудхарта когда показатель становится целью он перестает быть надежным Минимум 80 разработчиков обязаны использовать ИИ еженедельно а отчеты об израсходованных токенах поступают менеджерам среднего звена Эти инструменты внедряются под большим давлением говорит один из сотрудников Некоторые просто сознательно тратят токены MeshClaw впустую Amazon утверждает что расход токенов не будет учитываться при оценке сотрудников и не одобряет включение этого параметра в кадровые отчеты Но многие сотрудники не верят в это на внутренних досках почета токены всё же учитываются Бизнес пока не научился корректно измерять эффективность работы людей с поддержкой ИИ Похожие проблемы наблюдаются в Microsoft Google JPMorgan Disney и других компаниях

Современные проблемы требуют современных решений сотрудники крупных компаний накручивают использование ИИ для повышения рейтинга По данным Financial Times из за того что многие корпорации насильно продвигают ИИ работники нашли способ накручивать внутренние метрики Так в Amazon более 80 сотрудников должны работать с ИИ еженедельно и некоторые стали использовать внутреннюю платформу MeshClaw для создания фиктивных запросов к ИИ Похожие случаи есть и в Meta и Microsoft и Alphabet Google С учетом того что эти корпорации суммарно тратят на ИИ инфраструктуру порядка 650 700 млрд в год часть этих денег буквально уходит в тепло не принося никакой пользы Но к счастью некоторые компании уже одумались так Meta после огласки такой накрутки свернула внутренний рейтинг Amazon же пока просто ограничила доступность командной статистики Компания Meta Platforms Inc на территории РФ признана экстремистской и запрещена Мой Компьютер