Son yıllarda yapay zekânın matematik alanındaki performansı sık sık gündeme gelirken, çok sayıda matematikçi bu konuda temkinli bir yaklaşım sergiliyor. Aralarında akademisyenlerin de bulunduğu 150’den fazla uzman, "Leiden Yapay Zekâ ve Matematik Bildirisi" adıyla yayımlanan deklarasyonda yapay zekânın matematik araştırmalarındaki rolüne ilişkin endişelerini dile getirdi.
11 sayfalık bildiride, yapay zekânın matematiksel akıl yürütmede devrim yarattığı yönündeki değerlendirmelerin gerçeği yansıtmadığı ifade edildi. Araştırmacılar, matematiğin geleceğinin teknoloji şirketlerinin pazarlama stratejilerinden ziyade insan uzmanlığı ve akademik şeffaflık temelinde şekillenmesi gerektiğini belirtti.
"İkna edici ama yanlış" sonuçlar üretebiliyor
Bildiride öne çıkan başlıklardan biri, yapay zekâ tarafından üretilen matematiksel çözümlerin güvenilirliği oldu.
Oxford Üniversitesi Bilgisayar Bilimleri Bölüm Başkanı Leslie Ann Goldberg, mevcut yapay zekâ sistemlerinin son derece inandırıcı görünen ancak gerçekte hatalı olan matematiksel kanıtlar oluşturabildiğini ifade etti. Uzmanlara göre bu durum yalnızca küçük hesaplama yanlışlarıyla sınırlı değil.
Matematiksel çalışmaların büyük kısmının önceki araştırmalar üzerine inşa edildiğine dikkat çekilen bildiride, hatalı bir kanıtın sonraki çalışmaların da yanlış sonuçlara ulaşmasına yol açabileceği vurgulandı. Bu nedenle yapay zekâ tarafından üretilen sonuçların mutlaka uzmanlar tarafından incelenmesi gerektiği belirtildi.
Akademide finansman baskısı vurgusu
Deklarasyonda teknik risklerin yanı sıra akademik dünyanın ekonomik koşullarına da değinildi.
Araştırmacılar, üniversitelerin ve bilimsel kurumların uzun süredir finansman sıkıntılarıyla karşı karşıya olduğunu, buna karşın yapay zekâ şirketlerinin akademisyenlere yüksek ücretler, güçlü işlem kapasitesi ve geniş araştırma imkânları sunduğunu belirtti.
Bu durumun bazı araştırmacıları, yapay zekâ teknolojilerinin başarılarını olduğundan daha büyük göstermeye yönlendirebileceği öne sürüldü. Bildiride ayrıca teknoloji şirketlerinin geliştirdikleri ürünlerin yeteneklerini öne çıkarmak konusunda ticari motivasyonlara sahip olduğu ifade edildi.
Riskler matematikle sınırlı değil
Uzmanlar, yapay zekâya ilişkin kaygıların yalnızca matematik alanıyla sınırlı olmadığını da vurguladı.
Bildiride askeri kullanım alanları, kitlesel gözetim uygulamaları, yanlış bilgi yayılımı ve çevresel etkiler gibi daha geniş kapsamlı risklere dikkat çekildi. Özellikle akademik yayınlarda yapay zekâ kullanımının yaygınlaşmasının, bilimsel literatüre hatalı ya da "halüsinasyon" içeren bilgilerin girmesi riskini artırabileceği belirtildi.
Etik tartışmalar büyüyor
Bildirinin hazırlayıcıları arasında yer alan Leiden Üniversitesi araştırmacısı Rodrigo Ochigame ise yapay zekâ modellerinin eğitimi sırasında kullanılan akademik çalışmalarla ilgili etik tartışmalara işaret etti.
Ochigame, çok sayıda matematikçinin çalışmalarının, sahiplerinin bilgisi ve onayı olmadan yapay zekâ sistemlerinin eğitiminde kullanıldığını savundu. Araştırmacılar, bilim insanlarının ürettiği içeriklerin teknoloji şirketleri tarafından nasıl değerlendirildiğine ilişkin daha sıkı kurallar ve düzenlemeler getirilmesi gerektiğini ifade etti.
