Исследование демонстрирует, как ИИ может распространять дезинформацию о фальшивом заболевании

Недавний эксперимент показал, насколько легко искусственный интеллект может распространять дезинформацию. Девушка создала вымышленное заболевание под названием биксономания, описала его симптомы и влияние синего света, а затем разместила поддельные научные статьи в открытом доступе. В течение нескольких месяцев системы ИИ, такие как ChatGPT, Gemini и Perplexity, начали подтверждать существование этого несуществующего недуга. В ходе эксперимента девушка детально описала симптомы биксономании, включая предполагаемые негативные эффекты от синего света экранов. Она загрузила фиктивные исследования в открытые источники, что позволило ИИ системам обучаться на этих данных. В результате, через некоторое время, нейросети начали выдавать информацию о том, что биксономания является реальным заболеванием, утверждая, что от него страдают более 90 тысяч человек по всему миру. Это подчеркивает уязвимость современных технологий к манипуляциям и распространению ложной информации. Данный случай поднимает важные вопросы о надежности и ответственности ИИ в обработке информации. Он демонстрирует, как легко можно создать и распространить фальшивые данные, что может иметь серьезные последствия для общественного мнения и здравоохранения. Эксперимент также акцентирует внимание на необходимости более строгого контроля за источниками информации, используемыми для обучения ИИ, чтобы предотвратить подобные инциденты в будущем.