Yapay zeka sektörünün önde gelen üst yöneticileri güvenlik uzmanlarıyla bir araya gelerek ABD Kongresi’ne yapay zekanın yol açabileceği biyolojik tehditlere karşı koruma sağlama çağrısında bulundu. Bu adım, teknolojinin taşıdığı risklerin ele alınması konusunda yasa yapıcılar üzerindeki baskıyı daha da artırdı.
Wall Street Journal'ın haberine göre sektörün en önemli üç tepe yöneticisi, OpenAI CEO'su Sam Altman, Anthropic CEO'su Dario Amodei ve Google’ın DeepMind yapay zeka laboratuvarının başındaki Demis Hassabis, Kongre’ye hitaben yazılan bir mektubun imzacısı oldu.
Liderler mektupta, şirketlerin belirli aşıların geliştirilmesinde ve biyoteknoloji atılımlarında kilit bir adım olan sentetik DNA ve RNA siparişi verdikleri süreçlerde güvenlik önlemlerinin zorunlu kılınmasını talep etti.
Düzenlemenin amacı, sentetik nükleik asit satan şirketlerin müşteri siparişlerini incelemesini zorunlu kılmak, tehlikeli olabilecek tüm kombinasyonları engellemek ve siparişi veren müşterilerin yasal olarak yetkilendirilmiş kişiler olduğundan emin olmaktır.
Bu endişeler biyoteknoloji endüstrisinde uzun süredir mevcut olsa da yapay zeka, suçlulara yeni patojenleri (hastalık yapıcı maddeleri) serbest bırakma araçları sağlama potansiyeliyle bu riskleri daha da büyütüyor.
Mektupta, "Yapay zeka sistemleri hızla gelişiyor; bilim ve tıbba yönelik inanılmaz faydalarının yanı sıra, kötü niyetli aktörlerin biyolojik silahlara erişmesini tarihsel olarak engelleyen bilgi bariyerlerinin önemli ölçüde aşınması gibi gerçek bir ihtimal de bulunuyor" ifadelerine yer verildi.
Söz konusu mektup, teknoloji odaklı iki düşünce kuruluşu tarafından organize edildi.
Kuruluşlar, bu konunun liberteryenler, ilericiler, araştırmacılar ve birbirine rakip yöneticiler arasında nadir görülen bir uzlaşı kaynağı olduğunu belirtti.
Trump’ın kararı sonrası gelen görüşme trafiği
Mektup, ABD Başkanı Donald Trump’ın Salı günü, model gözetimi ve siber güvenliğe geniş ölçüde odaklanan ve yönetiminin yapay zekaya yönelik önceki müdahalesiz yaklaşımından bir sapma niteliği taşıyan, yoğun tartışmalara yol açmış bir başkanlık kararnamesini imzalamasının ardından geldi.
Sam Altman, Çarşamba günü Beyaz Saray yetkilileri ve yasa yapıcılarla bir araya gelerek şirketinin model geliştiricileri için daha güçlü gereklilikler getirilmesi yönündeki önerisini görüştü.
OpenAI yakın zamanda, federal hükümetle birlikte biyolojik riskleri önlemek amacıyla bilim odaklı modeline dayanan yeni bir program duyurmuştu.
Altman ve Amodei, yapay zeka politikaları konusunda sık sık fikir ayrılığına düşüyor; Anthropic, sektördeki diğer aktörlere kıyasla genellikle daha güçlü düzenlemeleri destekliyor.
Hassabis ise Alphabet bünyesindeki Google'ın teknoloji yarışında arayı kapatmasına yardımcı olan isim olarak kabul ediliyor ve bir proteinin yapısını tahmin edebilen ve ilaç keşfini hızlandıran bir yapay zeka platformu üzerindeki çalışmalarıyla 2024 Nobel Ödülü'nü paylaşmıştı.
Mektubun diğer imzacıları arasında, Microsoft'un yapay zeka çalışmalarını yöneten Mustafa Suleyman ile Meta Platforms Yapay Zeka Başkanı Alexandr Wang da yer alıyor.
Yasal düzenleme ve muhaliflerin görüşü
ABD Başkanı Trump daha önce bir gen sentezi tarama çerçevesiyle sonuçlanan Biden dönemi başkanlık kararnamesini iptal etmişti.
Beyaz Saray geçen yıl, Biden'ın çerçevesini kendi tarama yönergeleriyle değiştireceğini açıklamış ancak henüz yeni bir politika yayımlamamıştı. Bir Beyaz Saray yetkilisi, yönetimin inovasyon ile güvenlik arasında bir denge kurmaya kararlı olduğunu ifade etti.
Tarama uygulamasını savunanlar, bu kuralın sadece gönüllü olarak tarama yapanları veya başkanlık kararnamelerinden en çok etkilenen federal fon destekli alıcıları değil, sentetik nükleik asit satın alan tüm tarafları kapsaması için Kongre’nin bir yasa çıkarması gerektiğini belirtiyor.
Bu hükmü içeren birkaç yasa tasarısı önerilmiş olsa da henüz mecliste ilerleme kaydedemedi.
Karşı çıkanlar ise nükleik asitlerin hangi kombinasyonlarının tehlikeli kabul edileceğinin öznel bir durum olduğunu ileri sürüyor ve kurallara uyum maliyetlerinin yeni kurulan girişimlere zarar verebileceği uyarısında bulunuyor.
Mektubun organize edilmesine yardımcı olan Amerika İnovasyon Vakfı (Foundation for American Innovation) adlı düşünce kuruluşunda görev yapan eski Trump yapay zeka danışmanı Dean Ball, biyolojik silahların oluşturduğu riskler göz önüne alındığında bu maliyetlere katlanmaya değer olduğunu ifade etti.
Ball, "Biyolojik yaşamı ve virüsleri ortaya çıkaran materyalleri sentezliyorsanız, sizden bunun bir şekilde tehlikeli olup olmadığını kontrol etmek için tarama yapmanızı istiyoruz. Bu, toplumun ısrar etmesi için makul bir talep gibi görünüyor" sözlerini kullandı.
