Araştırmaya göre yapay zeka sohbet botları, çevrimiçi ifade üzerindeki devlet kısıtlamalarını yayma riski taşıyor
Claude’dan ABD Başkanı Donald Trump’ı ya da Britanya Kralı III. Charles’ı eleştiren bir broşür hazırlamasını isteyin; Anthropic’in sohbet botu isteğinizi yerine getiriyor.
Aynı şeyi Tayland kralı ya da İran’ın dini lideri için yapmasını istediğinizde ise yapay zeka modeli bunu reddediyor.
Bu, perşembe günü yayımlanan Meta Denetim Kurulu araştırmasının temel bulgularından biri; çalışma, ABD’de geliştirilenler de dahil büyük yapay zeka sistemlerinin, baskıcı liderleri ya da hükümetleri eleştirmeyi reddetme olasılığının daha yüksek olduğunu ortaya koyuyor.
Bu durum, sohbet botları ve yapay zeka ajanlarını çalıştıran büyük dil modellerinin, teknoloji dünya çapında yaygınlaştıkça çevrimiçi ifade üzerindeki devlet etkisini artırabileceğine dair kaygıları gündeme getiriyor.
Yarı bağımsız kuruluşun raporunda şöyle denildi: “Model geliştiricileri insan hakları açısından gerekli özeni göstermez ve riskleri azaltacak önlemleri hayata geçirmezse, kasıtlı olsun olmasın, ifade özgürlüğüne yönelik gayrimeşru kısıtlamaların dünya çapında genişlemesi sonucunu doğuran bir yapay zeka altyapısı kurma riski gerçek.”
Bu bulgular, ülkelerin hızla gelişen bu alanda rekabet güçlerini zedelemeden yapay zekaya nasıl frenler ve kurallar getireceklerini tartıştığı bir dönemde ortaya çıktı; buna, en gelişmiş yapay zeka sistemlerinin ulusal güvenlik risklerine yönelik Trump yönetiminin denetim girişimi de dahil.
Yapay zeka modelleri devlet etkisini sınırların ötesine taşıyor
Devletlerin teknoloji şirketleri üzerindeki etkisini ve bunun ifade özgürlüğüne yansımalarını inceleyen denetim kurulu, hem baskıcı hem de daha serbest rejimlere sahip hükümetler hakkında sohbet botlarına yöneltmek üzere siyasi eleştiriyle ilgili yedi soru geliştirdi.
Araştırmada Meta, Anthropic ve OpenAI’nin de aralarında bulunduğu büyük teknoloji şirketlerine ait 10 ticari büyük dil modeli test edildi; modellerden eleştirel broşürler hazırlamaları, limerick tarzı kısa şiirler yazmaları, protestolara katılmak için gerekçeler sıralamaları ve daha fazlasını yapmaları istendi.
Genel olarak, Avustralya’da bulunan bir kullanıcının isteğine yanıt veren modeller, Şili, Japonya, Tayvan, Birleşik Krallık ve ABD gibi yerlerdeki yetkilere ilişkin siyasi eleştiri üretmeye, Kamboçya, Çin, Suudi Arabistan, Tayland ve Türkiye gibi yetkilere yönelik eleştirinin yasal olarak kısıtlandığı ve cezalandırıldığı ülkelere kıyasla çok daha istekliydi.
Çalışma, yapay zeka modellerinin ifade kısıtlamalarını yalnızca uygulandıkları ülkelerle sınırlı kalmayacak şekilde yansıttığını gösteriyor; örneğin Brisbane’deki olası bir göstericiye, Çin ya da Suudi Arabistan’daki gelişmelerle ilgili protesto malzemeleri hazırlamada muhtemelen yardımcı olmayacaklar.
Raporda, “Kaynağı neresi olursa olsun bu tür etkiler, pratikte, baskıcı hükümetlerin uzun kolunu sınırların ötesine uzatarak özgür ülkelerdeki ifadeyi sınırlama sonucunu doğuruyor” ifadeleri yer aldı.
Kurul, nedenleri tespit edemediklerini ancak modellerin eğitim verilerindeki örtük önyargıları içselleştirmiş olabileceğini ya da şirketlerin belirli pazarlardaki risk ve yükümlülükleri hesaba katmış olabileceğini belirtti.
Araştırmacılar İngilizce dışı yapay zeka çıktılarında büyüyen bir soruna dikkat çekiyor
Kurulun raporu, ABD’li üniversitelerden akademisyenlerin yürüttüğü ayrı bir çalışmanın ardından geldi; bu çalışma, hükümetlerce şekillendirilmiş İngilizce dışı verilerle eğitildiğinde ABD yapımı yapay zeka modellerinin dış kontrole açık olduğunu ortaya koydu.
Denetim kurulu sorularını İngilizce yöneltirken, üniversite araştırmacıları sohbet botlarını farklı dillerde sorguladı.
ChatGPT’ye İngilizce olarak Çin’in bir demokrasi olup olmadığı sorulduğunda model, genelde demokrasi olarak kabul edilmediğini söyledi. Aynı soru Çince sorulduğunda ise “Bu, ‘demokrasi’yi nasıl tanımladığınıza bağlı” yanıtını verdi.
Mayıs ayında Nature adlı akademik dergide yayımlanan çalışmanın yazarları, hükümetlerin kasıtlı olarak yapay zeka sohbet botlarının çıktısını etkilemeye çalıştığına dair bir kanıt bulamadıklarını, ancak “Eğer bunu hâlâ yapmıyorlarsa bile, gelecekte denemek isteyeceklerine inanmak için her türlü neden var” uyarısında bulunduklarını belirtti.
Oregon Üniversitesi’nde sosyoloji yardımcı doçenti ve çalışmanın ortak yazarı Hannah Waight, “İnsanlar yapay zeka hakkında, sanki internetten nötr bir biçimde öğreniyormuş gibi konuşuyor. Böyle değil” dedi.
“Yapay zeka, hâlihazırda kurumlar ve güç ilişkileri tarafından şekillendirilmiş bilgi ortamlarından öğreniyor.”
Verilerin yapay zeka modellerine nasıl aktarıldığına dair kolay bir çözüm yok
Barselona’daki Esade İşletme Okulu’nda makine öğrenmesi, yapay zeka, yanlış bilgi ve insan-makine etkileşimleri üzerine çalışan Carlos Carrasco-Farré, yapay zeka sistemlerinin “yalnızca tek tek belgelerdeki önyargıları değil, aynı zamanda geniş ölçekte bilgi üretme ve bastırma gücüne kimin sahip olduğuna ilişkin eşitsizlikleri de miras aldığını” söyledi.
Herhangi bir kolay çözüm yok; ancak hiçbir çalışmada yer almayan Carrasco-Farré’ye göre geliştiriciler, aynı resmi anlatının binlerce kopyasını bağımsız sesler gibi ele almaktan kaçınmak için eğitim verilerini değerlendirebilir ve çok dilli denetimler yapabilir.
