Anthropic tarafından geliştirilen Mythos adlı yapay zekâ modelinin, ABD hükümetine ait hassas bilgisayar sistemlerinde yapılan bir test tatbikatında bazı güvenlik açıklarını saatler içinde tespit ettiği bildirildi.
Associated Press’e konuşan ve isminin açıklanmasını istemeyen bir ABD yetkilisi, şirketin testleri ABD istihbarat kurumlarıyla işbirliği içinde yürüttüğünü söyledi. Yetkili, modelin açıkları kısa sürede bulmasının, aynı süre içinde bu açıkları istismar edebildiği anlamına gelmediğini de vurguladı.
Testlerin, Anthropic’in Project Glasswing adlı girişimi kapsamında yapıldığı belirtildi. Girişim, kamu güvenliği, ulusal güvenlik ve ekonomi açısından kritik yazılımları gelişmiş yapay zekâ modellerinin doğurabileceği risklere karşı korumayı hedefleyen teknoloji şirketlerini bir araya getiriyor.
Virginia Senatörü Demokrat Mark Warner, 11 Haziran’da Senato Bankacılık, Konut ve Kentsel İşler Komitesi’ndeki oturumda testlere değinmişti. Warner, “Bu araç, haftalar değil saatler içinde, neredeyse tüm gizli sistemlerimize sızdı” diyerek bilgiyi NSA ve ABD Siber Komutanlığı’nın başındaki General Joshua Rudd’dan aldığını ifade etmişti.
YÖNETİMLE GERİLİM ARTTI
Testler ABD kurumları ile Anthropic arasındaki işbirliğini gösterse de şirket ile Trump yönetimi arasında yapay zekânın askeri ve ulusal güvenlik alanlarında kullanımı konusunda gerilim yaşanıyor. Yönetim, bu ay Anthropic’in Fable 5 ve Mythos 5 modellerinin yabancı uyruklu kişiler tarafından kullanılmasının engellenmesini isteyen bir talimat yayımladı.
Söz konusu talimat, Başkan Donald Trump’ın en gelişmiş yapay zekâ sistemlerinin kamuya açılmadan önce ulusal güvenlik riskleri açısından incelenmesine imkân tanıyan başkanlık kararnamesinden 10 gün sonra geldi. Kararnamede şirketlerin bu sürece katılımının gönüllü olacağı belirtilmişti.
Anthropic, talimata uymak için ilgili modelleri tüm müşteriler açısından devre dışı bıraktığını açıkladı. Ancak şirket, hükümetin attığı adımların kendi dile getirdiği güvenlik kaygılarını haklı çıkaracak nitelikte olmadığı görüşünde.
Adobe ve Nvidia’dan yöneticilerin de aralarında bulunduğu şirket temsilcileri ile 100’ü aşkın siber güvenlik uzmanı ise hükümete gönderdikleri mektupta talimatın kaldırılmasını istedi. İmzacılar, Mythos modellerinin yazılım hatalarını bulma ve açıkları saldırı aracına dönüştürme konusunda güçlü olduğunu, ancak bu alanda benzersiz olmadığını savundu.
Mektupta ayrıca, ABD’nin rakiplerinin hızla ilerlediği bir dönemde güçlü siber savunma araçlarının “geçerli bir neden olmadan” devre dışı bırakılmasının tehlikeli olabileceği uyarısı yapıldı.
Haber Kaynağı : 12punto
