Bir isim/olay hakkında kamuya açık bilgileri taramanın en kolay yolu internette yapılan aramalar…
Farklı kaynaklarda farklı şekillerde bulunan yanıtları karşılaştırmak, üzerinde çalışılan konunun doğruluğu açısından önemli.
Yapay zeka tüm alanlara sirayet etmeden önce bu karşılaştırmalarda çekirdek bilgilerin farklılık göstermediği, anlatı farklarının yoruma dayalı olduğu görülürdü.
Artık yanlış bilgilerin onlarca farklı kaynağa yayıldığını görmek hiç zor değil.
Son yıllarda yapay zeka tartışmalarının merkezinde sık sık duyduğumuz bir kavram var: Halüsinasyon.
Yapay zekadaki halüsinasyon, sistemin gerçekte var olmayan bir bilgiyi varmış gibi üretmesi anlamına geliyor. Hiç yazılmamış bir akademik makaleden söz edebiliyor, bir kişiye hiç almadığı bir ödülü verebiliyor, doğum yılını/tarihini/yerini uydurabiliyor, hiç söylenmemiş bir sözü ünlü bir düşünürün ağzından aktarabiliyor.
Üstelik bunu son derece ikna edici bir dille yapıyor.
Halüsinasyon kelimesi sizi yanıltmasın; ortada insan zihnindeki anlamıyla bir hayal görme durumu yok. Yapay zeka bir dil modeli olarak çalışıyor: kelimeler arasındaki ilişkileri hesaplıyor ve istatistiksel olarak en olası cümleyi kuruyor. Bu süreç zaman zaman bozuk ilerliyor
Yapay zeka halüsinasyonları zincirin bir halkası, devamı var:
Kontrol edilmeyen bilginin arama motorlarında işlenmesi süreci, bu bilgilerin yayılmasında büyük bir etken.
Söz gelimi bir yapay zeka yanlış bir biyografi oluşturuyor. Herhangi bir haber merkezindeki editör bunu kontrol etmeden haberleştiriyor. Arama sonuçlarına kısa sürede yansımaya başlayan yanlış bilgiyi diğer siteler kopyalamaya başlıyor. Arama motorları sayfaları peş peşe indeksliyor. Bir süre sonra yapay zekanın yaptığı o ilk hata onlarca farklı kaynakta görünmeye başlıyor.
Böylece yanlış bilgi yayılmakla kalmıyor; arşivleşiyor.
Tam da bu nedenle yapay zeka çağındaki doğruluk tartışması aslında bir hafıza tartışması.
Fransız filozof Jacques Derrida, arşivin yalnızca geçmişi saklamadığını, gelecekte neyin gerçek kabul edileceğini de belirlediğini yazıyordu. Arşiv, toplumların hafızasıdır. Gelecekte insanlar geçmişe dönüp baktıklarında ne göreceklerini belirler.
Uzun yıllar boyunca bu görevi kütüphaneler, gazeteler ve akademik kurumlar üstlendi.
Artık insanlığın en büyük arşivi internet.
İnternette yer alan her hata bugünün okurunu etkilemekle kalmıyor, yarının araştırmacısını da etkiliyor.
Bilgi sosyologları Peter Berger ve Thomas Luckmann'ın yıllar önce dikkat çektiği bir başka mesele de burada karşımıza çıkıyor. Onlara göre toplumsal gerçeklik büyük ölçüde tekrar yoluyla inşa edilir. İnsanlar bir bilgiyi yalnızca doğru olduğu için değil, sürekli karşılarına çıktığı için de gerçek kabul etmeye başlar.
Bu mekanizma günümüzde daha da hızlandı.
Bir bilginin onlarca farklı yerde bulunması artık onun doğruluğunun garantisi değil. Bazen yalnızca aynı hatanın defalarca çoğaltıldığını gösteriyor.
Bu zincire yapay zeka sistemlerinin internet üzerinden beslenip öğrenmeyi sürdürdüğü gerçeğini de ekleyelim: ilginç bir döngü ortaya çıkıyor.
Yapay zekanın ürettiği hata, internet aracılığıyla yayılıyor ve başka yapay zekalar bu hatayı veri olarak işlemeye başlıyor.
Araştırmacıların ‘model collapse’ adını verdiği risk burada ortaya çıkıyor:
Bu döngü, yapay zeka sistemlerinin zamanla gerçek dünyadan uzaklaşmasına yol açabilir.
Hakikatin tek ve tartışmasız kabul edildiği modern çağ geride kaldı.
Hakikatin kim tarafından üretildiğinin sorgulandığı postmodern dönem de öyle.
Gerçeklerden çok duyguların, kimliklerin ve aidiyetlerin belirleyici olduğu post-truth çağını deneyimledik.
Şimdi başka bir eşikteyiz.
Bilginin tartışıldığı, bazen çarpıtıldığı ve giderek daha fazla makine tarafından üretildiği bir dönemdeyiz.
Doğruyla yanlış arasındaki sınırdan çok bilginin kaynağının bulanıklaştığı bir dönemdeyiz...
Artık mesele insanların neye inandığı kadar neyin gerçek olduğunu nasıl anlayacağı sorusunun yanıtında…
Gözde Sula
Odatv.com
