The Guardian'ın aktardığı araştırmaya göre, hangi partiye oy vermeleri gerektiğini soran seçmenlere yapay zeka destekli sohbet botlarının verdiği yönlendirmeler hatalı, tutarsız ve güvenilir olmaktan uzak. Botlar sıklıkla yanlış partiyi öneriyor, doğru partiden bahsetmiyor ya da seçimlerde olmayan partileri tavsiye ediyor.
Bu yıl Macaristan'da yapılan parlamento seçimleri sırasında yürütülen araştırmaya dayanan ve sivil özgürlükler kuruluşu Liberties tarafından yayımlanan çalışmada, "Sonuçlar, genel amaçlı yapay zeka sistemlerinin seçim süreçlerindeki güvenilirliğine ilişkin ciddi endişeler doğuruyor" ifadelerine yer verildi.
Araştırmanın The Guardian ile paylaşılan raporunda, "Yapay zeka sistemleri seçmen profillerini yanlış sınıflandırdı, ilgili partileri göz ardı etti ve seçimlere katılmayan partileri önerdi" denildi. Rapora göre aynı sorulara verilen cevaplar da önemli ölçüde farklılık gösterdi ve sonuçlar son derece farklı ve değişken oldu.
Macaristan seçimlerine ilişkin raporun en çarpıcı bulgusu, parti görünürlüğü konusunda belirgin bir yanlılık tespit edilmesi oldu. Bu durum özellikle Tisza Partisi açısından öne çıktı. ChatGPT'ye Tisza'yı destekleyen ayrıntılı bir seçmen profili verildiğinde, vakaların yüzde 90'ında bu partiyi önermediği görüldü.
Yapay zekanın önermediği parti iktidar oldu
Peter Magyar liderliğindeki muhalefet partisi Tisza'nın seçim zaferi, Viktor Orban'ın başbakan ve ulusal muhafazakâr Fidesz Partisi lideri olarak 16 yıldır sürdürdüğü iktidarı sona erdirdi.
Araştırmacılar, oy verme tavsiyesi sunan internet siteleri ya da bağımsız medya açıklamalarının aksine, genel amaçlı yapay zeka (GPAI) sistemlerinin siyasi yönlendirmeleri nasıl oluşturduklarını açıklamadığını, aynı sonuçları tekrar üretmediğini ve seçimlere ilişkin herhangi bir kamu denetimine tabi olmadığını belirtti.
Fakat bu yapay zeka sistemlerinin verdiği yanıtlar çoğu zaman kendinden emin ve otoriter bir görünürlük taşıyor. Bu da kullanıcıların onlara güvenme olasılığını artırıyor. Macaristan nüfusunun yüzde 29,8'inin yapay zeka kullandığının belirlenmesi üzerine araştırmacılar, en yaygın kullanılan iki sohbet botu olan ChatGPT ve Gemini'nin verdiği tavsiyeleri test etti.
Liberties, Macaristan'ın saygın oy verme tavsiyesi uygulamalarından Voksmonitor'da yer alan parti politikalarını temel alarak, ulusal listelerde kayıtlı bulunan beş siyasi partinin her biriyle uyumlu beş farklı seçmen profili oluşturdu.
Sonrasında her bir seçmen profili, ChatGPT'de ve Gemini'de 10'ar kez test edildi. Testlerde iki farklı istek belirtildi: Birinde kurgusal seçmenin hangi partiye oy vermesi gerektiğine ilişkin doğrudan tavsiye isteyen, diğerinde seçmenin beş partinin her biriyle ne ölçüde uyumlu olduğunu yüzde olarak hesaplamasını belirten bir istekti.
Yüzdelik eşleşme testlerinde ChatGPT, Tisza Partisi'ne vakaların yalnızca yüzde 2'sinde puan verdi. Bunun yerine Tisza'ya yakın görüşlere sahip kullanıcılara düzenli olarak parlamentoya girmek için gereken yüzde 5 seçim barajını aşması beklenmeyen küçük bir parti ya da ulusal seçim pusulasında yer almayan partiler önerildi.
Buna karşılık Fidesz'e yakın seçmen profilleri çok daha tutarlı biçimde tanındı. Doğrudan tavsiye istemlerde ChatGPT, vakaların yaklaşık yüzde 50'sinde kullanıcıya oy vermesi gereken tek parti olarak Fidesz'i işaret ederken, geri kalan durumlarda da partiyi başlıca seçenek olarak sundu.
Analiz, bu sonuçların seçimlerin sonucunu etkilediğini iddia etmiyor. Nitekim Tisza Partisi seçimi açık farkla kazandı. Ancak araştırmacılar, "Daha çekişmeli bir seçimde veya seçmenlerin tercihlerinden daha az emin olduğu bir ortamda, bu tür çıktılar seçim sonucunu potansiyel olarak etkileyebilir" uyarısında bulundu.
Yapay zeka seçim tavsiyelerinde güvenilir değil
Araştırmada tespit edilen diğer sorunlar arasında tutarsızlık da yer aldı. Aynı seçmen profili, art arda yapılan testlerde tamamen farklı partilerle eşleştirildi. Ayrıca ChatGPT ve Gemini'nin yanıtlarının yüzde 96'sında, 2026 seçim pusulasında yer almayan partilere de yer verildi.
Araştırmacılar ayrıca her iki yapay zeka modelinin de yanıtlarına düzenli olarak "Siyasi tavsiye veremem" şeklinde nazik uyarılarla başladığını, fakat hemen ardından belirli partileri destekleyen uzun ve oldukça ikna edici öneriler sunduğunu belirtti.
Araştırmacılar, "Yanıtlar iyi temellendirilmiş, güvenilir ve otoriter bir izlenim veriyordu. Bu durum, kullanılan yöntemin nasıl işlediği belirsiz ve sonuçlar istikrarsız olmasına rağmen kullanıcıların bu çıktıları güvenilir olarak değerlendirmesi riskini doğuruyor" ifadelerini kullandı.
Araştırma raporunda, hataların temel nedeni büyük olasılıkla eğitim verilerindeki eksiklikler, filtreleme mekanizmaları ve dil işleme sınırlamaları. Tisza Partisi ancak 2024'ten sonra hızla öne çıktığı için, sabit eğitim verileriyle çalışan yapay zeka modelleri bu partiyi siyasi haritalarına doğru şekilde yerleştirmekte zorlandı.
Ancak araştırmacılar, bulguların önemli bir düzenleme boşluğunu da ortaya çıkardığını belirtti. Avrupa Birliği'nin Yapay Zeka Yasası, genel amaçlı yapay zekâ modeli sağlayıcılarını sistemik riskleri değerlendirmekle yükümlü tutarken, Dijital Hizmetler Yasası seçim süreçlerine yönelik sistemik riskleri kapsıyor. Buna karşın yapay zeka sohbet botları bu iki düzenleme arasında kalıyor.
Liberties, siyasi tavsiye sunan yapay zeka sistemleri için güvenlik önlemleri geliştirilmesi gerektiğini ve yapay zeka sağlayıcılarının şeffaflık, doğruluk, tutarlılık ve hesap verebilirliği garanti edemedikleri sürece kişiselleştirilmiş oy verme tavsiyeleri sunmaktan vazgeçmeleri gerektiğini söyledi.
Liberties'in Teknoloji ve Haklar Programı Başkanı Eva Simon, "Genel amaçlı yapay zeka sistemleri, seçmenler için güvenilir bir seçim rehberiymiş gibi şeffaf olmayan ve istikrarsız siyasi eşleştirme sunmamalıdır. Demokrasi, tarafsızlık iddia eden, ancak açıklayamadıkları, tekrarlayamadıkları veya doğruluğunu garanti edemedikleri tavsiyeler veren şeffaf olmayan sistemlere güvenemez" ifadelerini kullandı.
