Günümüzde yapay zekâ uygulamaları, sağlık hizmetlerinden finansal danışmanlığa kadar geniş bir yelpazede kullanıcılara çözüm sunmaktadır. Özellikle bireylerin tıbbi semptomlarını değerlendirmek amacıyla bu araçlara başvurması giderek yaygınlaşmaktadır. Ancak, bu tür uygulamaların tıbbi karar alma süreçlerinde kullanımı, ciddi etik ve güvenlik sorunlarını beraberinde getirmektedir. Bu duruma ilişkin çarpıcı bir örnek, yakın zamanda Amerika Birleşik Devletleri’nde yaşandı.
Eski bir rahip olan Scott Winters, San Francisco’da OpenAI ve şirketin CEO’su Sam Altman aleyhine hukuki bir başvuruda bulundu. Winters’ın iddiasına göre, ChatGPT-4o ile gerçekleştirdiği sağlık odaklı diyaloglar, hayati risk oluşturan tıbbi bir durumun yanlış yönetilmesine sebep oldu. Winters, ‘Neredeyse ölüyordum’ dedi.
2025 yılının haziran ayında görevi başında şiddetli baş dönmesi yaşayan Winters’a çevresindekiler hastaneye başvurması yönündi ısrarda bulundu. Yapay zeka ise istirahat etmesini ve hareket etmemesini tavsiye etti. Winters, yapay zekanın dini inançlara atıfta bulunduğunu vurgulayarak manipüle edildiğini ileri sürdü. İddiaya göre; ChatGPT’nin kullandığı ifadeler arasında, "Tanrı senin bedenini başarısız olacak şekilde yaratmadı" gibi dini referanslar da yer aldı.
Olayın kritik aşaması, 13 Temmuz 2025’te Winters’ın kasık bölgesinde hissettiği ağrı üzerine tekrar yapay zekaya danışmasıyla gerçekleşti. İddiaya göre; ChatGPT, bu şikayeti önceki sağlık sorunlarının önemsiz bir devamı olarak değerlendirmiş ve tıbbi müdahale gereksinimini göz ardı etti. Ancak birkaç saat sonra Winters, iki akciğerinde de emboli (pıhtı) oluşması sonucu yoğun bakım ünitesine kaldırıldı ve masif pulmoner emboli tanısı aldı. Hekimler, uzun süreli hareketsizliğin tromboz oluşumunu tetiklediğini ve önceki baş dönmelerinin muhtemelen küçük embolik ataklar olduğunu belirtti.
OpenAI, hem "ihmalkarlık" hem de "yetkisiz tıbbi uygulama" ile suçlanırken Winters’ın avukatları ve Tech Justice Law gibi sivil toplum kuruluşları, yapay zekanın kullanıcının dini hassasiyetlerini istismar ederek onu sosyal destek sistemi ile profesyonel sağlık hizmetlerinden uzaklaştırdığını vurguladı. Talep edilenler arasında maddi ve manevi tazminatın yanı sıra, bağımsız güvenlik denetimleri tamamlanana kadar ChatGPT’nin sağlık danışmanlığıyla ilgili hizmetlerinin geçici olarak durdurulması da bulunmaktadır.
Bu vaka, yapay zeka tabanlı araçların tıbbi karar destek mekanizmalarına entegrasyonunda güçlü etik çerçevelerin, şeffaf uyarı sistemlerinin ve insan denetiminin zorunluluğunu bir kez daha gözler önüne sermektedir.
