Fransız ve İtalyan araştırmacılar tarafından yürütülen yeni bir çalışma, yapay zekâya erişimi olan kişilerin bazı durumlarda yapay zekâyı kullanmayanlardan çok daha fazla hata yaptığını ortaya koydu. Araştırmanın daha dikkat çekici yanı ise bu kişilerin verdikleri yanlış cevaplardan çok daha emin olmaları. Araştırmacılar, insanların yapay zekâya duydukları güvenden güç alarak kendi muhakemeleri konusunda da daha özgüvenli hâle geldiğini söylüyor. Yani insanlar bir yandan AI'dan yalan yanlış bilgiler alırken, diğer yandan buradan öğrendiklerinden yola çıkarak kendi muhakemeleri konusunda daha özgüvenli oluyolar. Bu da tehlikeli bir kombinasyon ortaya çıkarıyor.
Yapay Zekâ İnsanların "Bilmiyorum" Demesini Ortadan Kaldırıyor
Araştırmada katılımcılara, yapay zekânın özellikle zorlandığı film detaylarıyla ilgili sorular yöneltildi. Bu soruların seçilmesinin önemliydi. Çünkü araştırmacılar, yapay zekânın gerçekten bilgi sahibi olmadığı alanlarda insanların nasıl davrandığını gözlemlemek istedi. Elde edilen sonuçlar ise dikkat çekici oldu. Yapay zekâya erişimi olmayan katılımcılar soruların yaklaşık %44'ünde "Bilmiyorum." cevabını vermeyi tercih ederken, AI'a erişimi olan grupta bu oran yüzde 3'e kadar düştü. Ne var ki buna paralel olarak doğru cevap verme oranı da %27'den %9'a geriledi. Yani insanlar bilmedikleri konularda çekimser kalmak yerine, yapay zekânın sunduğu yanlış cevapları benimsemeyi tercih etti.
Araştırmacılar ayrıca yapay zekâya danışan katılımcıların, verdikleri cevaplardan duydukları güven seviyesinin de iki kat arttığını belirtiyor. Yapay zekâ yalnızca yanlış cevapların yayılmasına değil, bu yanlış cevaplara duyulan güvenin de artmasına neden oluyor.
Wharton Araştırmacıları Bu Durumu "Bilişsel Teslimiyet" Olarak Tanımlıyor
Benzer sonuçlara ulaşan bir diğer çalışma ise ABD'deki Wharton School araştırmacılarından geldi. Bu dikkat çekici araştırmada Steven Shaw ve Gideon Nave, insanların yapay zekâ karşısında sergilediği bu yeni davranış biçimini "cognitive surrender" yani bilişsel teslimiyet olarak adlandırıyor.
Bu kavram, Nobel ödüllü psikolog Daniel Kahneman'ın hızlı ve yavaş düşünme modeli üzerine inşa edilen yeni bir yaklaşımın parçası. Araştırmacılar, insan zihninin sezgisel ve analitik düşünme sistemlerine artık üçüncü bir unsurun eklendiğini savunuyor: Yapay zekâ. Onlara göre insanlar giderek daha fazla düşünme sürecini doğrudan yapay zekâya devrediyor ve bu süreçte kendi muhakemelerini devre dışı bırakıyor.
Wharton ekibinin 1.300'den fazla katılımcıyla gerçekleştirdiği deneylerde de benzer bir tablo ortaya çıktı. Katılımcılar, ChatGPT tabanlı bir sohbet botunun cevaplarını değerlendirmekle görevlendirildi. Yapay zekâ kasıtlı olarak bazı sorularda yanlış ama son derece kendinden emin cevaplar verecek şekilde programlandı. Sonuçlara göre yapay zekânın yanlış cevap verdiği durumlarda katılımcılar bu yanlış cevapları yaklaşık %80 oranında doğru kabul etti. Araştırmacılar, normal şartlarda insanlarda "Burada bir yanlışlık olabilir." hissini tetiklemesi gereken sezgisel uyarıların, yapay zekâya aşırı güven nedeniyle baskılandığını düşünüyor.
Araştırmacılar ayrıca "bilişsel teslimiyet" ile "bilişsel dış kaynak kullanımı" (cognitive offloading) arasında önemli bir ayrım yapıyor. Hesap makinesi kullanmak ya da navigasyona rota çizdirmek gibi durumlarda insanlar görevi bir araca devretseler bile son kontrolü kendileri yapıyor. Ancak bilişsel teslimiyette kişi, yapay zekânın cevabını sorgulamadan kendi kararı hâline getiriyor ve çoğu zaman bu yetki devrinin farkına bile varmıyor.
Son haftalarda yayımlanan bu araştırmalar, insanların eleştirel düşünme yetilerini körelten bu dönüşümün ileride çok daha ciddi sorunlara yol açabileceğinin habercisi. Bu yüzden araştırmacılar, AI arayüzlerini dizayn ederken bu konuda bazı uyarıların da eklenmesi gerektiğini savunuyor.
