Deloitte возвращает деньги Австралии после ошибок в отчете с использованием ИИ

Deloitte вернет деньги правительству Австралии признав использование ИИ в отчете за 440 тыс Deloitte Australia частично компенсирует федеральному правительству Австралии расходы после признания что при подготовке отчета стоимостью 440 тыс использовался ИИ в результате чего документ оказался полон ошибок включая три несуществующих академических ссылки и выдуманную цитату из решения Федерального суда Новая версия отчета для Министерства трудовых отношений DEWR была тихо загружена на сайт ведомства в пятницу накануне длинных выходных в большинстве штатов Австралии В обновленном документе удалено более десятка несуществующих ссылок и сносок полностью переписан список источников

Даже Большая четверка ошибается и невнимательно читает свои же заключения Deloitte согласилась вернуть часть выплаты по контракту на 440000 австралийских долларов заключенному с Министерством занятости и трудовых отношений Австралии Причиной стало использование генеративного ИИ при подготовке отчета После публикации документа были выявлены ошибки и ссылки на несуществующие источники Deloitte впоследствии уточнила что применяла инструмент на базе GPT 4 Azure OpenAI и внесла правки в отчет Министерство заявило что содержание выводов при этом не изменилось и на том спасибо Эта новость сразу же вызвала бурную дискуссию о необходимости жесткого регулирования использования ИИ инструментов впрочем ничего нового

Deloitte вернет правительству Австралии деньги признавшись в использовании бота искусственного интеллекта в отчете Отчёт даже не проверили на ошибки Он содержал три несуществующие научные ссылки и выдуманную цитату из решения Федерального суда Новая версия доклада Департамента занятости и трудовых отношений DEWR была без лишнего шума размещена на сайте ведомства в пятницу в преддверии длинных выходных в большей части Австралии В нём удалено более десятка несуществующих ссылок и сносок переписан список литературы banksta

Крупная консалтинговая фирма задолжала правительству Австралии 440 тысяч за отчёт сгенерированный в ChatGPT Правительство Австралии заказало у фирмы Deloitte отчёт чтобы проверить IT систему которая автоматически выписывает штрафы получателям пособий Но оказалось что консультанты поручили работу нейросети Итог несуществующие академические ссылки выдуманные цитаты и даже неправильно написанное имя судьи GPT 4o придумал цитату из судебного дела Deanna Amato v Commonwealth и переименовал судью в Justice Davis Справедливость Дэвис вместо Jennifer Davies В отчёте нашли десятки ссылок на несуществующие научные работы Deloitte признала что использовала GPT 4o для устранения пробелов в документации фактически чтобы дописать текст Фирма обязуется вернуть деньги Сенатор Австралии прокомментировала У Deloitte проблемы с человеческим интеллектом Возможно стоит просто оформить подписку на ChatGPT Самое ироничное отчёт должен был проверить не перегибает ли правительство с автоматизацией В итоге именно автоматизация подвела консультантов