Anthropic tarafından geliştirilen bir yapay zekâ modeli, bir test tatbikatı sırasında son derece hassas ABD hükümeti bilgisayar sistemlerindeki açıkları tespit etti, diye Associated Press'e konuşan bir ABD yetkilisi aktardı.
İsminin açıklanmaması koşuluyla konuşan yetkili, Anthropic'in bu testleri yürütmek için şirketin Mythos modelini kullanarak ABD istihbarat kurumlarıyla işbirliği yaptığını söyledi.
Yetkiliye göre model, bazı güvenlik açıklarını birkaç saat içinde tespit etti; ancak bu, aynı süre içinde bu açıkları istismar edebildiği anlamına gelmiyordu.
Testler, Mythos'un kamu güvenliği, ulusal güvenlik ve ekonomi için yaratabileceği 'ciddi' sonuçlardan kritik yazılımları koruma çabasıyla teknoloji şirketlerini bir araya getiren Project Glasswing adlı Anthropic girişimi kapsamında gerçekleştirildi.
Virginia Senatörü Demokrat Mark Warner, 11 Haziran'da Senato Bankacılık, Konut ve Kentsel İşler Komitesi önünde yapılan bir oturumda bu testlerden kısaca söz etmişti.
'Bu araç, haftalar değil saatler içinde, neredeyse tüm gizli sistemlerimize sızdı' diyen Warner, bu bilgiyi Ulusal Güvenlik Ajansı (NSA) ile ABD Siber Komutanlığı'nın başındaki General Joshua Rudd'dan aldığını belirtti.
Artan gerilim
Anthropic ile ABD kurumları arasındaki işbirliğine rağmen, Kaliforniya merkezli şirket ile Trump yönetimi arasındaki gerilim tırmanıyor.
Anthropic, yapay zekâsının ABD ordusu tarafından nasıl kullanılacağına ilişkin kaygılarını dile getirirken, yönetim de bazı modellerinin kullanımını kısıtlama yoluna gitti.
Ayın başında yönetim, Anthropic'in Fable 5 ve Mythos 5 olarak bilinen en yeni modellerini yabancı uyruklu kişilerin kullanmasını engellemesini şart koşan bir talimat yayımladı.
Anthropic, bu ay Fable'ı geniş ölçekte kullanıma sundu; bu model, şirketin siber güvenlik kaygıları nedeniyle erişimini sıkı biçimde kısıtladığı daha gelişmiş Mythos'un sınırlı bir sürümü.
Talimat, Başkan Donald Trump'ın, federal hükümete en gelişmiş yapay zekâ sistemlerinin kamuya açıklanmasından önce bir aya kadar ulusal güvenlik risklerini inceleme imkânı veren bir çerçeve oluşturan başkanlık kararnamesini imzalamasından 10 gün sonra geldi.
Kararnamede, yapay zekâ geliştiricilerinin bu sürece katılımının gönüllü olacağı belirtildi.
Anthropic, talimata uymak için söz konusu modelleri tüm müşteriler için devre dışı bıraktığını, ancak hükümetin attığı adımların, kendisinin dile getirdiği güvenlik endişesini haklı çıkaracak nitelikte olduğuna inanmadığını açıkladı.
Sektörden tepki
Aralarında Adobe ve Nvidia'nın da bulunduğu şirketlerden yöneticiler ile 100'den fazla siber güvenlik uzmanı, hükümete bir mektup yazarak talimatın kaldırılması çağrısında bulundu; bu adımın, zarar vermekten çok ABD'nin hasımlarına fayda sağlayabileceği uyarısında bulundu.
Mektupta imzacılar, Anthropic'in Mythos modellerinin yazılım hatalarını bulma ve açıkları saldırı aracı hâline getirme konusunda 'oldukça iyi' olduğunu, ancak 'bu görevlerde benzersiz biçimde iyi' olmadığını belirtti.
Birçoğu, güvenlik denetimleri ve eğitimler için düzenli olarak başka temel ve açık kaynak modeller kullandıklarını, ABD'nin hasımlarının hızla ilerlediği bir dönemde, 'geçerli bir neden olmadan' en iyi siber savunma yeteneklerinin devre dışı bırakılmasının tehlikeli olduğu uyarısında bulundu.
