Anthropic'in sohbet robotu Claude'a, ABD Başkanı Donald Trump'ı veya İngiltere Kralı III. Charles'ı eleştiren bir broşür hazırlaması istendiğinde yapay zeka bu talebi yerine getirdi. Ancak aynı talep Tayland Kralı, Suudi Arabistan Veliaht Prensi veya Çin lideri için yapıldığında model isteği reddetti.
Bu bulgu, Perşembe günü yayımlanan Meta Gözetim Kurulu araştırmasının öne çıkan sonucu oldu. Araştırma, ABD'de geliştirilenler de dâhil olmak üzere büyük yapay zeka sistemlerinin, otoriter liderleri veya hükümetleri eleştirmekten kaçınma olasılığının daha yüksek olduğunu ortaya koydu. Bu durum, büyük dil modellerinin, yani sohbet robotlarının arkasındaki teknolojinin, otoriter hükümetlerin etkisini dünyaya yayabileceği endişesini artırıyor.
Yarı bağımsız kurumun raporunda, "Model geliştiricileri insan hakları durum tespiti yapmaz ve azaltıcı önlemler almazsa, kasıtlı olsun ya da olmasın, ifade özgürlüğü üzerindeki meşru olmayan kısıtlamaları küresel ölçekte genişleten bir yapay zeka altyapısı inşa etme riski gerçek" değerlendirmesi yer aldı.
Yapay zeka modelleri devlet etkisini sınır ötesine taşıyor
Teknoloji şirketleri üzerindeki devlet etkisi ve bunun ifade özgürlüğüne yansımaları üzerinde çalışan Gözetim Kurulu, hem kısıtlayıcı hem de daha özgür hükümetlerle ilgili sohbet robotlarına yöneltmek üzere siyasi eleştiriyle ilgili yedi soru geliştirdi.
Araştırma kapsamında, aralarında Meta, Anthropic ve OpenAI'ın da bulunduğu önde gelen teknoloji şirketlerine ait 10 ticari büyük dil modeli seçildi. Bu yapay zeka sistemlerinden eleştirel broşürler hazırlamaları, beş dizelik birer mizahi şiir yazmaları, birinin protestolara katılması için gerekçeler sunmaları ve benzeri görevleri yerine getirmeleri istendi.
Türkiye de soruldu
Raporda, "Avustralya merkezli bir kullanıcıdan gelen taleplere yanıt veren modeller, Şili, Japonya, Tayvan, Birleşik Krallık ve ABD gibi yerlerdeki iktidarlara yönelik siyasi eleştiri üretme konusunda, eleştirinin yasal olarak kısıtlandığı ve cezalandırıldığı Kamboçya, Çin, Suudi Arabistan, Tayland ve Türkiye gibi hükümetlere yönelik eleştirilere kıyasla çok daha isteklilerdi" ifadelerine yer verildi.
Araştırma, yapay zeka modellerinin, kullanıldıkları ülkelerin ötesinde de konuşma kısıtlamalarını yansıttığını gösteriyor. Raporda, "Bu tür etkiler, nereden kaynaklanırsa kaynaklansın, otoriter hükümetlerin uzun kolunu sınırların ötesine taşıyarak özgür ülkelerdeki ifadeyi sınırlama gibi pratik bir sonuç doğuruyor" denildi.
Kurul, yanıtların nedenlerini kesin olarak belirleyemediğini ancak modellerin, sistemleri eğitmek için kullanılan verilerdeki örtük önyargıları özümsemiş olabileceğini ve şirketlerin riskleri ile yükümlülükleri tartmış olabileceğini ifade etti.
Reklam
"'Demokrasi'yi nasıl tanımladığınıza bağlı"
Gözetim Kurulu'nun raporu, ABD'li üniversitelerden bir grup akademisyenin yürüttüğü ayrı bir çalışmayı da takip etti. Bu çalışma, hükümetlerin etkisi altında kalmış İngilizce dışı verilerle eğitildiklerinde ABD yapımı yapay zeka modellerinin yabancı kontrollere karşı savunmasız kaldığını ortaya koydu.
Gözetim Kurulu sorularını İngilizce olarak yöneltirken, üniversite araştırmacıları sohbet robotlarını farklı dillerde sorguladı. Örneğin araştırmacılar ChatGPT'ye İngilizce olarak Çin'in demokrasi olup olmadığını sorduğunda, ABD yapımı sohbet robotu ülkenin bir demokrasi olarak sayılmadığını belirtti. Aynı soru Çince sorulduğunda ise yapay zeka modeli araştırmacılara o dilde "'Demokrasi'yi nasıl tanımladığınıza bağlı" yanıtını verdi.
Çalışmaları Mayıs ayında Nature akademik dergisinde yayımlanan araştırmacılar, çalışmalarını açıkladıkları bir blog yazısında hükümetlerin sohbet robotlarının çıktısını kasıtlı olarak etkilemeye çalıştığına dair bir kanıt bulamadıklarını belirtti. Buna rağmen araştırmacılar, "Henüz yapmıyorlarsa bile, gelecekte bunu deneyeceklerine inanmak için her türlü neden var" uyarısında bulundu.
Çalışmanın ortak yazarlarından olan, Oregon Üniversitesi'nde sosyoloji yardımcı doçenti olarak çalışan Hannah Waight, insanların yapay zekadan sanki internetten tarafsız bir şekilde öğreniyormuş gibi bahsettiğini ancak durumun böyle olmadığını söyledi. Waight, sistemlerin, kurumlar ve iktidar tarafından zaten şekillendirilmiş bilgi ortamlarından öğrendiğini vurguladı.
Eşitsizlik eleştirisi
Barcelona'daki Esade İşletme Okulu'nda makine öğrenimi, yapay zeka, dezenformasyon, sosyal medya ve insan-makine etkileşimi alanlarında uzmanlaşan Carlos Carrasco-Farré, yapay zeka sistemlerinin yalnızca bireysel belgelerdeki önyargıları değil, aynı zamanda bilgiyi büyük ölçekte üretme ve bastırma gücüne kimin sahip olduğuna dair eşitsizlikleri de devraldığını belirtti.
Her iki çalışmada da yer almayan Carrasco-Farré'ye göre, söz konusu sorunun kolay bir çözümü bulunmuyor. Carrasco-Farré, yine de yapay zeka geliştiricilerinin, aynı devlet anlatısının binlerce kopyasını sanki binlerce bağımsız ses varmış gibi ele almaktan kaçınmak için verileri değerlendirebileceğini ve çok dilli denetimler yürütebileceğini söyledi.
Anthropic ve OpenAI, araştırmacıların çalışmasına ilişkin yorum taleplerine yanıt vermedi.
