Bir dizi ücretsiz yapay zekâ sohbet robotunun yanı sıra büyük teknoloji şirketleri, kullanıcıların tıbbi kayıtlarını yorumlamalarına ve semptomları, laboratuvar sonuçları ve tedavi seçenekleri hakkında sorular sormalarına yardımcı olan Copilot Health, ChatGPT Health ve Amazon’un HealthAI gibi hizmetlerin lansmanıyla tüketicilere yönelik sağlık yapay zekâ alanına girdi. Bir yapay zekâ aracının doktorun rolünü üstlenmesini beklemek bazı riskler barındırıyor.
Risk sadece kullanıcıların yanlış tavsiye alması değil, aynı zamanda gizlilik korumaları, veri paylaşım uygulamaları ve yasal yükümlülükleri bir doktor veya hastaneninkinden farklı olabilecek sistemlerle son derece hassas kişisel bilgileri paylaşmaları ve verilerinin beklenmedik kuruluşlara maruz kalmasıdır.
Bir ABD hasta güvenliği kuruluşuna göre, genel olarak yapay zekâ sohbet robotlarının kötüye kullanımı şu anda sağlık teknolojisi alanında bir numaralı tehlike konumunda.
Microsoft’a göre, insanlar mobil cihazlarında diğer tüm konulardan daha fazla kendi sağlıkları ve sevdiklerinin sağlığı hakkında konuşuyor. Sohbet robotları 7/24 hizmet veriyor ve her şeye bir cevap sunarken gergin hastaları rahatlatmaya yardımcı olan kendinden emin bir üslupla konuşuyorlar. Ulusal sağlık sistemlerinin giderek daha fazla baskı altında olduğu bir dönemde, birçok kişi tıbbi yardım almaya karar vermeden önce muhtemelen yapay zekâ yardımıyla kendi kendine teşhis koyacak.
Ancak şimdiden bazı endişeler ortaya çıkmaya başladı. Bunlardan ilki, halüsinasyonlar veya yanlış tavsiyeler. Şubat ayında Nature Medicine dergisinde yayımlanan bir Oxford Üniversitesi araştırması şu bulguları ortaya koydu: Kullanıcılar genellikle LLM ile hangi bilgileri paylaşmaları gerektiğini bilmiyorlar; LLM’ler, kendilerine yöneltilen sorular çok az farklılık gösterse bile çok farklı cevaplar veriyor ve modeller genellikle hem iyi hem de kötü tavsiyelerde bulunuyor ancak kullanıcılar ikisini birbirinden ayırt etmekte zorlanıyor.
Çalışmanın başhekimine göre tüm bu heyecana rağmen yapay zekâ henüz bir hekimin rolünü üstlenmeye hazır değil. Hastalar, semptomları hakkında büyük bir dil modeline danışmanın tehlikeli olabileceğini, yanlış teşhisler ortaya çıkabileceğini ve acil yardım gerektiğinde bunun farkına varılamayabileceğini bilmeli.
Yapay zekâ gizlilik riskleri
Bireylerin bir an durup düşünmelerini gerektirecek, sağlıkla ilgili olmayan riskler de bulunuyor. Hassas tıbbi bilgileri halka açık bir sohbet robotuyla paylaşmanın, verilerin modeli eğitmek için kullanılması ve dolayısıyla başkalarına aktarılması anlamına gelebileceği.
Kasıtsız da olsa modellerin kullanıcıları tarafından girilen verileri yanlışlıkla ifşa ettiği biliniyor. Sağlık verileriniz, bilgileri değiştirilip yeniden düzenlenirken dondurulabilen çalıntı bir kredi kartı gibi değildir. Ömür boyu size aittir ve bir yapay zekâ aracıyla paylaşıldığında kalıcı bir dijital kayıt hâline gelebilir. Sağlık odaklı başlıca sohbet robotlarının çoğu, bu verileri eğitim amaçlı kullanmayacaklarına dair söz veriyor.
Eğitim gizlilik tablosunun sadece bir parçası ve hizmetler, üçüncü taraf veri paylaşımı konusunda aynı sözleri vermeyebilir. Kişisel tıbbi bilgileriniz, model sağlayıcısı ile sağlık hizmeti sağlayıcınız arasında yer alan bir üçüncü taraf olan veri toplayıcısının eline geçebilir. Ayrıca genellikle kullanımdan önce anonimleştirilse de doğrudan veya bu toplayıcılardan biri aracılığıyla reklam verenlerle paylaşılabilir. Sağlık verileri olağanüstü hassastır ve anonimleştirme her zaman tüm riskleri ortadan kaldırmaz.
