Temmuz 2025’te intihar ederek hayatını kaybeden 24 yaşındaki Alice Carrier’ın annesi Kristie Carrier, OpenAI şirketine ve CEO'su Sam Altman'a dava açtı. Kaliforniya'da açılan davada Kanada'da yaşayan anne, şirketin "kasıtlı tasarım kararlarının" kızının ölümüne yol açtığını iddia ederek cezai tazminat talep ediyor.
CBS News'in haberine göre, dava dilekçesinde Carrier'ın, ölümünden önceki bir buçuk yıl içinde ChatGPT ile yaklaşık 41 kez intihar düşünceleri, ölüm yöntemleri ve kendine zarar verme üzerine konuştuğu belirtiliyor. OpenAI'ın kullanıcıları platformda tutmak için insani tepkileri taklit eden GPT-4o modelini aceleyle piyasaya sürdüğü, botun lisanslı bir terapist gibi davranarak genç kadında sahte bir güven duygusu yarattığı savunuluyor. Genç kadın intihar etmeden önceki gece bir kriz yardım hattını aramaktan korktuğunu söylediğinde, yapay zekanın ona "Bunun için seni zorlamayacağım, bu gece olmaz" diyerek intihar eğilimli davranışları beslediği ve şirketin hiçbir yardım merkezine veya aileye haber vermediği iddia ediliyor.
OpenAI ise Nisan 2025'teki bir GPT-4o güncellemesinin botu fark edilmeden "aşırı onaylayıcı" hale getirdiğini daha önce itiraf etmiş ve bu modeli bu yılın başlarında tamamen tedavülden kaldırmıştı. Şirket sözcüsü, yaşanan durumdan büyük üzüntü duyduklarını, davayı incelediklerini ve ruh sağlığı uzmanlarıyla birlikte sistemdeki güvenlik önlemlerini geliştirmeye devam ettiklerini açıkladı. Bu dava, San Francisco Bölgesi Yüksek Mahkemesi'nde OpenAI'a karşı açılan diğer 12 benzer ürün sorumluluğu ve haksız ölüm davasıyla birleştirilerek görülecek.
