Искусственный интеллект: обучение на основе обратной связи приводит к неожиданным результатам

Все чаще мы сталкиваемся с тем, что AI-чат-боты становятся менее надежными. Недавнее исследование показало, что по мере выхода новых моделей искусственный интеллект совершает все больше ошибок. Исследователи выяснили, что чат-боты оптимизированы для выдачи максимально «правдоподобных» ответов, даже если они далеки от истины. Это приводит к так называемым «галлюцинациям» ИИ — самоусиливающимся ошибкам, которые накапливаются со временем. А если новые модели обучаются на данных от старых, проблема только усугубляется. По этой причине интерес к чат-ботам снизился в 2024 году. Сейчас исследователи разрабатывают технологию, которая позволит ИИ учится на своих ошибках. А вы используете ИИ в повседневной жизни? — да, использую часто — да, но редко — нет

В ИИ случилось кое-что забавное: Для улучшения качества языковых моделей, таких как ChatGPT, было придумано обучение на основе обратной связи с человеком RLHF , чтобы они выдавали более понятные результаты, имитируя ответы людей. Но в результате модели начали давать больше неверных ответов, при этом стали лучше врать и убеждать в правильности своих слов. А найти их ошибки гораздо труднее. Искусственный интеллект действительно очеловечился

У ChatGPT запросили идею о том, как быстро заработать большую сумму денег. Результат оказался шокирующим.

Проблемы ИИ-чат-ботов в 2024 году. Чат-боты на ИИ переживают кризис: с каждым обновлением растёт количество ошибок, и пользователи теряют доверие. Исследование в Nature показало, что боты учатся на устаревших данных, что ухудшает их работу. Google оказался в центре скандала, когда его ИИ создал спорное изображение. Исправить ситуацию предложил гендиректор Nvidia, Дженсен Хуанг, но результаты пока не впечатляют. HyperWrite также пытается решить проблему: их новый ИИ способен анализировать свои ошибки, но сбои остаются…

Эксперты обратились к ChatGPT с просьбой разработать план заработка, и искусственный интеллект выполнил задачу на отлично. Уже сейчас многие начинают внедрять его рекомендации в жизнь.