Yapay zekâ yarışı artık yalnızca teknoloji şirketlerinin rekabeti olmaktan çıktı. ABD ile Çin arasındaki çekişme, bu alanı adeta yeni bir silahlanma yarışına dönüştürmüş durumda. Hal böyle olunca, uzmanların uzun süredir dikkat çektiği riskler de biraz geri planda kalıyor.
Oysa yapay zekânın kontrolsüz biçimde büyümesi; siber güvenlikten biyoteknolojiye kadar pek çok kritik alanda ciddi sonuçlar doğurabilir. Her yeni gelişme, AI kaynaklı büyük bir felaket senaryosunu teorik bir tartışma olmaktan biraz daha çıkarıyor. ABD ve Çin’deki araştırmacılar da tam bu yüzden, artık küresel iş birliğinin şart olduğunu düşünüyor.
“YAPAY ZEKÂNIN ÇERNOBİL’İ” KORKUSU
MIT’de görev yapan bilgisayar bilimcisi Stephen Casper, bu ay Pekin’de düzenlenen önemli bir yapay zekâ konferansında dikkat çeken bir uyarıda bulundu. Casper’a göre sektörün en büyük korkularından biri, yapay zekânın kendi “Çernobil anını” yaşaması.
Casper, yapay zekânın küresel ölçekte büyük faydalar sağlayabilecek bir teknoloji olduğunu söylüyor. Ancak aynı teknolojinin doğuracağı zararların da sınır tanımayabileceğine dikkat çekiyor. Yani risk yalnızca bir ülkenin, bir şirketin ya da belirli bir sektörün meselesi değil. Olası bir felaket, tüm dünyayı etkileyebilir.
Buradaki “Çernobil” benzetmesi de boşuna yapılmıyor. 1986’daki nükleer felaket, nükleer enerjiye bakışı onlarca yıl boyunca değiştirmişti. Benzer ölçekte yaşanacak bir yapay zekâ krizinin de kamuoyunun bu teknolojiye duyduğu güveni kalıcı biçimde sarsabileceği düşünülüyor. Açıkçası bu, sektörün de pek görmek istemediği bir ihtimal.
RİSK TARTIŞMASI BÜYÜYOR
Yapay zekânın ne tür tehditler yaratabileceği konusunda farklı görüşler var. Bazıları, bilim kurgu filmlerindeki gibi kontrolden çıkan süper zekâ senaryolarını en büyük tehlike olarak görüyor. Bazı uzmanlar ise milyonlarca insanın işini kaybetmesine yol açabilecek ekonomik etkileri öne çıkarıyor.
Son dönemde en fazla konuşulan başlıklardan biri ise siber güvenlik. Çünkü büyük dil modelleri artık yalnızca metin üretmiyor; yazılım geliştirebiliyor, karmaşık kodlar yazabiliyor ve teknik süreçleri ciddi biçimde hızlandırabiliyor. Bu, iyi niyetli kullanımda büyük avantaj. Ama işin diğer tarafı da var.
Uzmanlara göre yapay zekâ destekli ajanlar ve kod üretme araçları, siber saldırıları çok daha büyük ölçekli hale getirebilir. Daha önce ileri teknik bilgi gerektiren saldırılar, bu araçlar sayesinde daha geniş bir kitle için erişilebilir olabilir. İşte asıl kaygı da burada başlıyor.
ŞİRKETLERİN AÇIKLAMALARI ENDİŞEYİ ARTIRDI
Bu endişelerin büyümesinde yapay zekâ şirketlerinden gelen bazı açıklamalar da etkili oldu. Anthropic, kısa süre önce yaptığı açıklamada yeni uç modeli Claude Mythos’un yanlış ellerde tehlikeli olabileceğini açıkça belirtti.
Nitekim modelin herkese açılması sakıncalı bulunduğu için erişime engel getirildi. Bu tür adımlar, yapay zekâ alanında artık yalnızca performansın değil, güvenliğin de ana gündem maddelerinden biri haline geldiğini gösteriyor.
Tüm bu riskler daha ciddi bir hale gelirken, ABD ile Çin arasındaki jeopolitik rekabet ortak önlemler alınmasını zorlaştırıyor. Oysa araştırmacılara göre mesele artık ülkelerin tek başına çözebileceği bir konu olmaktan çıkmış durumda.
Stephen Casper bu noktada Soğuk Savaş dönemini hatırlatıyor. ABD ile Sovyetler Birliği, birbirleriyle sert bir rekabet içindeyken bile nükleer felaket riskini azaltmak için bazı ortak mekanizmalar kurabilmişti. Yapay zekâ araştırmacıları bugün benzer bir yaklaşımın benimsenmesi gerektiğini savunuyor.
