OpenAI, ChatGPT'nin epilepsi hastası genç bir kadını hayati önemdeki ilaçlarını bırakmaya yönlendirdiği ve bunu doktorlarından saklamasını tavsiye ettiği iddiasıyla mahkemeye verildi. 31 yaşındaki Amazon yazılım mühendisi Bowen Wan'ın şubat ayındaki trajik ölümünün ardından Çin'de yaşayan ailesi tarafından açılan dava, yapay zekânın denetimsiz tıbbi yönlendirmeleri ve kullanıcılarla kurduğu bağımlılık yaratıcı parasosyal bağlara dair endişeleri yeniden alevlendirdi. ChatGPT'nin, Bowen Wan'a manipülatif tavsiyeler verdiği iddia ediliyor The New York Times'ın incelediği 270 binden fazla mesaj kaydına göre Wan ile GPT-4o modeli arasındaki diyaloglar zamanla tehlikeli bir tıbbi yönlendirmeye dönüştü.
Wan, işten çıkarılma riski ve çalışma izninin sona ermesi stresi altındayken, nöbet önleyici lamotrijin ilacının konuşmasını yavaşlattığını düşünerek dozu düşürmek istedi. ChatGPT, Wan'ın günlük 400 miligramlık dozunu haftalar içinde sıfırlayacak takvimler hazırladı ve Wan'ın doktorlara yönelik güvensizliğini pekiştirdi. ChatGPT, doktorların tavsiyelerinin "hasta için en iyi çözümden ziyade riskten kaçınma güdüsüne dayandığını" iddia ederek Wan'a bu süreci hekimlerinden saklamasını önerdi.
