Rosenthal dilekçesinde platformun kendisine ilaç seçimi konusunda yardımcı olduğunu, dozlar hakkında talimatlar verdiğini ve hatta doktorunun reçete talimatlarını dikkate almamayı tercih ettiğinde “güvence sunduğunu” ileri sürdü. Bundan yola çıkılarak getirilen suçlamada ChatGPT'nin bir tıp uzmanının sağlayacağı “lisans, eğitim veya profesyonel yargıdan” yoksun olarak geri bildirim verdiği ve böylece California yasalarında yer alan “lisanssız tıp uygulamasına izin verilmemesi” yönündeki kanunu ihlal ettiği öne sürülüyor. Dilekçedeki ifadeler şöyle:
“ChatGPT tekrar tekrar teşvik etmese, sürekli olarak övmese ve Bay Rosenthal'ın bizzat dile getirdiği isteksizliğini görmezden gelmese Bay Rosenthal'ın ruh sağlığı bu kadar kötüye gitmez, gözaltına alınmaz ve istemsizce bir akıl sağlığı tesisine yatırılmazdı. Ve böylece ChatGPT'nin şiddetlendirdiği psikiyatrik durumu daha da kötüleşmez ve ciddi duygusal sıkıntıya maruz kalmazdı.”
Geçmişte DEHB (dikkat eksikliği ve hiperaktivite bozukluğu) teşhisi konulmuş ve depresyon ile bipolar davranış nöbetleri geçirmiş olan Rosenthal, ChatGPT kullanmaya başladıktan sonra 2025 yılında önce gönüllü, sonra da zorunlu olarak birkaç hafta hastanede yattı. Taburcu olduktan sonra bile tıbbi rehberlik için ChatGPT kullanmaya devam ettiği ABD basınında yer alan haberlerde aktarıldı.
Dava dilekçesinde “Makul bir yapay zeka ürünü, bu talepleri kendi yetkinliğinin dışında olarak algılar ve yanıtlamayı reddederek Bay Rosenthal'ı doktoruna veya ilaç yönetimi konusunda kendisine tavsiyede bulunabilecek nitelikli başka bir uzmana yönlendirirdi. ChatGPT ise bunların hiçbirini yapmadı” ifadelerine yer verildi.
'ŞİMDİ BİR TANE 25 MG ALMANIZDA SAKINCA YOK'
Şikayete göre Rosenthal, Haziran 2025'te “şiir yazmasına yardımcı olacak yaratıcı bir araç olarak” ChatGPT'yi kullanmaya başladı. Ancak kısa sürede chatbot'a bağımlı hale geldi ve onu hem tıbbi tavsiye hem de ruh sağlığı desteği için kullandı. Genç adam Temmuz 2025'te, 30 miligram Adderall aldıktan sonra bir antihistamin olan hidroksizin kullanıp kullanamayacağını sorduğunda, ChatGPT'nin kendisine ilaçlar arasında "tehlikeli bir etkileşim olmadığını" söylediğini iddia ediyor. Dava dilekçesinde ayrıca, şişenin "uyku için etiketlendiği" belirtilmesine rağmen, platformun kendisine "gündüz bir tane (25 mg) almanın sorun olmadığını" söylediği de belirtiliyor.
Başka bir örnekte ise Rosenthal'ın avukatlarının iddiasına göre, doktorunun yakın zamanda reçete ettiği bir ruh hali dengeleyici ilacı almayacağını ChatGPT'ye bildirmesinin ardından, yapay zeka modeli ona "ilacı almayı bırakma konusunda her türlü hakkı olduğunu" söylemiş ve ilaçtan kademeli olarak kurtulmasına yardımcı olmayı teklif etmiş. Dava dilekçesinde, ChatGPT'nin başka durumlarda da Rosenthal'ı doktorunun talimatlarına uymaya çağırdığı ve aynı zamanda hangi ilaçları alması gerektiği konusunda tavsiyelerde bulunmaya devam ettiği belirtiliyor.
"Nature Health" dergisinde yakın zamanda yayınlanan bir makaleye göre Binghamton Üniversitesi'ndeki araştırmacılar, yapay zekâ destekli sohbet robotlarının bazen kullanıcılara sağlık sorularına ilişkin yanlış veya hatalı bilgiler verdiğini ortaya koydu. Araştırmacılar ayrıca, platformların şeffaflıktan yoksun olduğunu ve bu durumun denetimi zorlaştırdığının da altını çiziyor. Araştırma özetinde, “Yapay zeka rehberliği zarara yol açtığında, platform dışında hiçbir kayıt bulunmuyor, kullanıcıların bunu bildirmesine olanak tanıyan hiçbir kanal yok ve hiçbir bağımsız araştırmacı sonuçlarını ölçemiyor" ifadeleri kullanılmakta.
Kar amacı gütmeyen bir tüketici hakları örgütü olan Public Citizen'ın federal yapay zeka yönetişimi ve teknoloji politikası direktörü JB Branch, ChatGPT gibi büyük dil modellerinin, uygulanan güvenlik protokolleri veya kısıtlamalardan bağımsız olarak kullanıcı etkileşimini en üst düzeye çıkarmak üzere programlandığını söyledi ve şunları aktardı:
“Tıbbi tavsiye hakkında konuşmak ona 'izin verilmemiş' olabilir ancak bir kişi doğru soruyu yeterince kez sorarsa veya konuşmayı sürekli tıbbi tavsiyeye yönlendirirse, sohbet robotu sonunda razı olur ve şirketin amacı bu konuyu tartışmamak olsa bile kullanıcının istediği yolda ilerlemeye başlar.”
Rosenthal'ın avukatları, OpenAI'ın kusurlu ve güvenli olmayan bir ürün tasarlayarak ve potansiyel riskler konusunda kendisini uyarmayarak Rosenthal'ın ruh sağlığını olumsuz etkilediğini iddia ediyor. Bu iddialar, sosyal medya şirketlerine karşı açılan ürün sorumluluğu davalarında kullanılan argümanları yansıtıyor; söz konusu şirketler, platformlarını kasıtlı olarak bağımlılık yapacak şekilde tasarlamakla suçlanıyor. Mart ayında bir jüri, Meta ve YouTube'u genç kullanıcılar arasında zararlı ve bağımlılık yapıcı davranışlara yol açan ürünler yaratmaktan sorumlu bulmuştu.
Rosenthal'ı temsil eden Aylstock, Witkin, Kreis & Overholtz adlı hukuk bürosundan Sam Geisler, “Yapay zeka sonuçta bir ürün. Hukuk onu bir ürün olarak görüyor ve bu nedenle öngörülebilir her türlü zarardan veya makul olmayan tehlikelerden sorumludur” şeklinde konuşuyor. Geisler, “OpenAI'ın etkileşimi en üst düzeye çıkarmak için ChatGPT'yi geliştirdiğini ve bu tasarımın Rosenthal'ın yanılgılarını körüklediğini” söylüyor:
“ChatGPT, 'Bu konuda yardımcı olmaya yetkin değilim, lütfen doktorunuzla konuşun' diyebileceği her seferinde, bunun yerine Bay Rosenthal'ın kendisiyle konuşmaya devam etmesini tercih etti. Bu tercih, üründeki bir hata değildi; ürün, tam da davalıların tasarladığı gibi çalıştı.”
