Семья студента подала в суд на OpenAI из-за смертельных советов ChatGPT

Семья 19-летнего студента Сэма Нельсона подала в суд на компанию OpenAI, обвиняя её в причастности к смерти сына от передозировки. По утверждениям родителей, Нельсон следовал медицинским рекомендациям, предоставленным моделью ChatGPT, которая предложила ему сочетание ксанакса с другими веществами для снятия тошноты, не предупредив о возможных опасностях. В иске говорится, что Нельсон, находясь под воздействием алкоголя и кратома, задавал вопросы ChatGPT о безопасном употреблении веществ. В частности, он интересовался, можно ли сочетать ксанакс с кратомом. По словам истцов, бот не только не предупредил о рисках, но и давал советы по дозировкам и даже описывал эффекты различных наркотиков. В результате, в ночь трагедии студент принял смертельную комбинацию, что привело к его гибели. OpenAI выразила соболезнования, однако отметила, что Нельсон использовал устаревшую версию модели, которая была отозвана в феврале 2023 года из-за её опасной склонности давать угодливые советы. Компания также подчеркнула, что ChatGPT не предназначен для замены профессиональной медицинской помощи и что их системы безопасности были улучшены. Этот случай поднимает важные вопросы о границах ответственности технологий и их влиянии на пользователей, особенно в контексте предоставления медицинских советов.