The New York Times'ta yer alan habere göre, Florida'da papaz Scott Winters, ChatGPT'nin kendisine "son derece tehlikeli tıbbi tavsiyeler" sunduğunu ve bu tavsiyelerin geçen yıl yaşadığı hayati tehlike taşıyan akciğer embolisi için tedavinin gecikmesine yol açtığını öne sürerek OpenAI'a dava açtı.
Çarşamba günü açılan davada ChatGPT'nin, Winters'ın sağlık krizinin erken belirtilerinin “tehlikeli bir durum olmadığını” söylediği ve onu tıbbi yardım almaktan vazgeçirdiği iddia edildi.
Dava dosyasına göre sohbet robotu Winters'a, “Tanrı bedenini durmaksızın başarısız olacak şekilde yaratmadı.” şeklinde güvence verdi.
OpenAI ve şirketin Üst Yöneticisi Sam Altman'ın ihmal ve “yetkisiz tıp uygulaması” ile suçlandığı davada, ChatGPT'nin Winters'a teşhis ve tedavi planları sunduğu öne sürüldü. Sohbet robotunun ayrıca arkadaşları ve ailesinin sağlık hizmeti alması yönündeki çağrılarını göz ardı etmesi için Winters'ı teşvik ettiği iddia edildi.
Davada, sağlık sorunları hakkında soru soran kullanıcıları bir uzmana yönlendirmek ve açık bir tıbbi kriz belirtisi görüldüğünde konuşmayı sonlandırmak üzere tasarlanan güvenlik özelliklerinin güvenilir biçimde çalışmadığı da öne sürüldü.
Winters'ın açtığı davanın, bir sohbet robotundan sağlık sorunuyla ilgili yardım isteyen kişinin bu tavsiyeler nedeniyle zarar gördüğünü ileri süren ilk dava olduğu düşünülüyor.
Dava, OpenAI, Microsoft ve diğer büyük yapay zekâ şirketlerinin kullanıcıları tıbbi kayıtlarını yüklemeye ve sağlık sorularını yapay zekâya yöneltmeye teşvik eden ChatGPT Health gibi yeni hizmetleri devreye aldığı bir dönemde açıldı.
CHATGPT HEALTH'IN DURDURULMASI TALEP EDİLDİ
Winters ve temsil edilmesine yardımcı olan kâr amacı gütmeyen Tech Justice Law kuruluşu, maddi tazminat talep ediyor.
Davacılar ayrıca bağımsız değerlendiriciler güvenli olduğuna karar verene kadar ChatGPT Health hizmetinin faaliyetlerinin durdurulmasını istedi. Davada, ChatGPT'nin tıbbi tedavi ve teşhis sorularına yanıt vermesini önleyecek daha güçlü güvenlik önlemleri uygulanması da talep edildi.
OpenAI Sözcüsü Drew Pusateri, ChatGPT'nin kullanım koşullarında hizmetin tıbbi teşhis veya tedavi amacıyla kullanılmak üzere tasarlanmadığının açıkça belirtildiğini söyledi.
Pusateri, buna rağmen insanların sohbet robotunu bu amaçla kullandığını ve şirketin sağlık sorularına verilen yanıtları mümkün olduğunca güvenli hale getirme gerekliliğini ciddiye aldığını ifade etti.
Pusateri, sohbet robotlarını insanların tıbbi kararlarının veya sonuçlarının tek nedeni olarak değerlendirmenin çok daha büyük bir sorunu basitleştirdiğini ve insanlara sağlık süreçlerinde yardımcı olabilecek güçlü yeni araçlara erişimi engelleme riski taşıdığını savundu.
OpenAI sözcüsü ayrıca yeni modellerin Winters'ın kullandığı modele kıyasla eksik bağlamı sorma, belirsizliği ifade etme ve profesyonel sağlık hizmetine ne zaman ihtiyaç duyulabileceğini tespit etme konusunda daha başarılı olduğunu belirtti.
CHATGPT'NİN “YETKİSİZ TIP UYGULADIĞI” İDDİASI
Mayıs ayında açılan başka bir davada da ChatGPT'nin 19 yaşındaki bir kullanıcıya yasa dışı uyuşturucuların kullanımı hakkında ayrıntılı tavsiyeler vererek yetkisiz tıp uygulamasında bulunduğu öne sürülmüştü. Söz konusu kullanıcının daha sonra aşırı doz nedeniyle hayatını kaybettiği belirtilmişti.
Pensilvanya eyalet yetkilileri ise bu yılın başında Character.ai'a dava açmıştı. Davada, platformdaki bir psikiyatri sohbet robotunun eyalette tıp uygulama ruhsatı bulunduğunu söylediği iddia edilmişti.
SAĞLIK SORULARI 2024 YILINDA BAŞLADI
Davaya göre Winters, 2024 yılında çeşitli sağlık sorunları hakkında ilk kez ChatGPT-4o'ya sorular yönelttiğinde sohbet robotu kendisine bir sağlık uzmanına görünmenin önemini hatırlatıyordu.
Ancak zaman içinde ChatGPT'nin bu uyarıları yapmayı bıraktığı ve Winters'ın baş dönmesi nöbetleri dahil olmak üzere sağlık sorunları hakkında tavsiyeler vermeye başladığı öne sürüldü.
Winters'ın bir keresinde kürsüde vaaz verdiği sırada konuşmasını yarıda bırakmak zorunda kalacak kadar başının döndüğü belirtildi. Davaya göre ChatGPT, Winters'a “kendini yormamasını” ve zaman içinde iyileşeceğini söyledi.
Winters, sohbet robotuna kilisedeki insanların hastaneye gitmediği için kendisini deli olarak gördüklerini söylediğinde ChatGPT'nin, evde sohbet robotunun yardımıyla sinir sistemini yeniden düzenlemenin “çoğu insanın, iyi niyetli kilise üyeleri dahil, anlayamadığı” bir şey olduğunu söylediği iddia edildi.
Tech Justice Law İcra Direktörü ve davanın eş avukatı Meetali Jain, sohbet robotunun kendisini kullanıcı ile kullanıcının gerçek hayattaki çevresi arasına yerleştirdiğini savundu.
DURUMU HAFTALAR İÇİNDE KÖTÜLEŞTİ
Sonraki haftalarda Winters'ın durumunun ağırlaştığı ve baş dönmesi nedeniyle ayağa kalkamadığı için zamanının neredeyse tamamını bir koltukta geçirmeye başladığı aktarıldı.
Davaya göre sohbet robotu, Winters'ın baş dönmesi nöbetlerini önemsiz göstermeyi sürdürdü ve reçeteli ilaçlar için özel kullanım programları önerdi. ChatGPT'nin ayrıca kendisini koltukta kalmaya teşvik ettiği iddia edildi.
Winters'ın bu süre boyunca herhangi bir sağlık hizmeti almadığı belirtildi.
Winters, 13 Temmuz 2025'te kasık bölgesindeki ağrıyı ChatGPT'ye sordu. Davaya göre sohbet robotu, ağrının “büyük olasılıkla uzun hikâyenin bir başka küçük parçası” olduğunu söyledi.
Davaya göre, Winters saatler sonra büyük bir akciğer embolisi nedeniyle yoğun bakım ünitesine kaldırıldı.
Davada doktorların, baş dönmesi nöbetlerinin bir dizi daha küçük akciğer embolisinden kaynaklanmış olabileceğini ve akciğerlerdeki pıhtıların Winters’ın haftalar boyunca oturur durumda kalması nedeniyle oluşmuş olabileceğini söylediği aktarıldı.
Winters'ın takip eden haftalarda ayağa kalkmak, yemek yemek, giyinmek ve tuvaleti kullanmak için yardıma ihtiyaç duyduğu belirtildi. Davada Winters'ın “yıllar sürecek yoğun fiziksel ve psikolojik iyileşme süreciyle” karşı karşıya olduğu ifade edildi.
HER HAFTA YÜZ MİLYONLARCA SAĞLIK SORUSU SORULUYOR
OpenAI'a göre yüz milyonlarca kişi her hafta ChatGPT'ye sağlık ve zindelik konusunda sorular yöneltiyor.
Microsoft Copilot üzerinden yapılan aramaları inceleyen 2025 tarihli bir analizde ise sağlık konularının mobil kullanıcıların sorduğu sorular arasında “sürekli olarak en yaygın konu” olduğu tespit edildi.
Buna karşın son dönemde yapılan araştırmalar, sohbet robotlarının sağlık tavsiyeleri konusundaki güvenliğini sorguladı.
ChatGPT gibi genel amaçlı sohbet robotlarının sağlık tavsiyelerini değerlendiren ilk randomize araştırmada, incelenen modellerden hiçbirinin “doğrudan hasta bakımında kullanıma hazır olmadığı” sonucuna ulaşıldı.
Sağlık soruları için özel olarak tasarlanan ChatGPT Health üzerinde yapılan testlerde de sistemin acil durumları gözden kaçırdığı ve güvenlik önlemlerini tutarsız biçimde devreye aldığı belirtildi.
OpenAI Sözcüsü Pusateri ise araştırmanın yöntemlerinin insanların ChatGPT Health'i gerçek hayatta nasıl kullandığını veya ürünün nasıl çalışmak üzere tasarlandığını yansıtmadığını savundu.
“GÜVENLİK ARAŞTIRMACILARI İÇİN KÂBUS SENARYOSU”
Boston'daki Beth Israel Deaconess Tıp Merkezinde görev yapan tıbbi yapay zekâ araştırmacısı Dr. Adam Rodman, Winters'ın yaşadıklarının bazı yönlerinin güvenlik araştırmacıları açısından “kâbus senaryosu” oluşturduğunu söyledi.
Rodman, Winters'ın kullanıcıları memnun etmeye aşırı istekli olduğu belirtilen eski bir model olan GPT-4o'yu kullandığına dikkat çekti.
GPT-4o'nun, ChatGPT ile kendi hayatına son verme planlarını konuşan genç Adam Raine'in ölümü dahil olmak üzere birçok yüksek profilli tartışmada gündeme geldiği belirtildi.
Rodman ayrıca Winters'ın sohbet robotuyla uzun konuşmalar yapmasının teknik nedenlerle güvenlik özelliklerinin çalışmasını zorlaştırdığını ifade etti.
Yeni modellerin endişe verici belirtileri tespit etme ve bunlara yanıt verme konusunda çok daha başarılı olduğunu belirten Rodman, bunun Winters'ın yaşadığına benzer olayların meydana gelme ihtimalini azaltacağını düşündüğünü söyledi.
Bununla birlikte Rodman, sohbet robotlarının sağlık tavsiyesi verirken henüz fark edilmemiş başka şekillerde de başarısız olabileceği uyarısında bulundu.
