MIT'de görev yapan bilgisayar bilimcisi Stephen Casper, bu ay Pekin'de düzenlenen önemli bir yapay zek+a konferansında yaptığı açıklamada, sektörün en büyük korkularından birinin yapay zekânın kendi "Çernobil anını" yaşaması olduğunu söyledi. Casper'a göre yapay zekâ küresel ölçekte fayda sağlayabilen bir teknoloji olduğu gibi, oluşturacağı zararlar da küresel çapta hissedilecek bir teknoloji. Bu yüzden araştırmacılar, kontrolsüz bir şekilde gelişmeye devam eden yapay zekânın, çok sayıda insanın hayatını kaybetmesine yol açacak büyük bir felakete sebep olmasından endişe ediyor.
"Yapay Zekânın Çernobil'i Yaklaşıyor"
Casper'ın Çernobil örneğiyle yalnızca insanları yapay zekâ konusunda uyarmıyor, aynı zamanda AI dünyasını da kendilerini bekleyen sona karşı uyandırmaya çalışıyor. Buradaki endişelerden biri de böyle bir olayın kamuoyunun yapay zekâya olan güvenini kalıcı olarak sarsması. Nasıl ki 1986'daki Çernobil nükleer felaketi nükleer enerjiye yönelik bakışı onlarca yıl boyunca etkilediyse, benzer ölçekte yaşanacak bir yapay zekâ felaketinin de bu teknolojinin gelişimini uzun yıllar sekteye uğratabileceği düşünülüyor.
Yapay zekânın oluşturabileceği tehditler konusunda farklı görüşler bulunuyor. Bir kesim, bilim kurgu filmlerindeki gibi kontrolden çıkan süper zekâları en büyük risk olarak görürken, bazı uzmanlar ise milyonlarca insanın işini kaybetmesine yol açabilecek ekonomik etkileri ön plana çıkarıyor. Ancak son dönemde en fazla dikkat çeken risklerden biri siber güvenlik alanında ortaya çıkmış durumda.
Bugün büyük dil modelleri yalnızca metin üretmekle kalmıyor; aynı zamanda oldukça başarılı şekilde yazılım geliştirebiliyor ve karmaşık kodlar yazabiliyor. Bu durum yazılım geliştirme süreçlerini hızlandırırken, aynı araçların kötü niyetli kişiler tarafından kullanılabilme ihtimalini de beraberinde getiriyor. Uzmanlara göre yapay zekâ destekli ajanlar ve kod üretme araçları, siber saldırıları hem çok daha büyük ölçekli hâle getirebilir hem de daha önce ileri teknik bilgi gerektiren saldırıları çok daha geniş bir kitle için erişilebilir kılabilir.
Bu endişelerin artmasında yapay zekâ şirketlerinin yaptığı bazı açıklamalar da etkili oldu. Hatırlarsanız Anthropic, kısa süre önce yaptığı bir açıklamada, yeni uç modeli Claude Mythos'un yaşlı elelrde tehlikeli olabileceğini açıkça belirtti. Nitekim bu modelin herkese açılması fazla sakıncalı bulunduğu için engellendi.
Tüm bu endişeler giderek daha ciddi hâle geliyor olsa da ABD ile Çin arasındaki jeopolitik rekabet, gerekli önlemlerin alınması için iş birliğine gidilmesini güçleştiriyor. Stephen Casper, bu noktada Soğuk Savaş döneminde ABD ile Sovyetler Birliği'nin nükleer silahlar konusunda yürüttüğü iş birliklerini hatırlatıyor. İki ülke birbirleriyle rekabet etmeye devam ederken aynı zamanda nükleer felaket riskini azaltacak ortak mekanizmalar geliştirebilmişti. Yapay zekâ araştırmacıları da bugün benzer bir yaklaşımın benimsenmesi gerektiğini düşünüyor. Çünkü olası büyük bir yapay zekâ felaketinin sonuçları yalnızca tek bir ülkeyi değil, tüm dünyayı etkileyecek.
