Anthropic, kamuoyuna sunulmasından sadece birkaç gün sonra ABD'li yetkililerin güvenlik endişelerini dile getirmesi üzerine iddialı yeni yapay zeka modeli Mythos 5 ve Fable 5'i kapattı. Şirketin resmi internet sitesinde yayınlanan açıklamada, yabancı uyruklu kişilerin "çok güçlü" olarak nitelendirilen Claude Fable 5 programını kullanmasının yasaklandığı belirtildi.
Açıklamada, "Alınan kararın neticesinde, tüm müşterilerimiz için Fable 5 ve Mythos 5'i devre dışı bırakmak zorundayız" ifadelerine yer verildi. Claude Fable 5, OpenAI'ın ChatGPT ve Google'ın Gemini programlarına rakip olarak geliştirilen Claude Mythos'un yeni bir versiyonu olarak karşımıza çıkmıştı.
"JAİLBREAK" ENDİŞESİ KARARDA ETKİLİ OLDU
Anthropic'ten yapılan açıklamalara göre ABD ulusal güvenlik makamları spesifik bir sebep sunmadı. Şirket, hükümetin Fable 5 kısıtlamalarını atlatmaya yarayan 'jailbreak' yöntemi keşfettiğine inandıklarını aktardı. "Jailbreak" işlemi, hackerların hassas bilgilere erişmesine veya engellenmiş özellikleri açmasına olanak tanıyor.
Yetkililer tarafından keşfedilen spesifik tekniğin demosunu incelediklerini belirten şirket yöneticileri, daha önceden bilinen küçük güvenlik açıklarının tespit edildiğini vurguladı. Bunların da nispeten basit göründüğü ve halka açık diğer modellerin de aynı açıkları atlatma gereksinimi duymadan bulabildiği ifade edildi.
CLAUDE FABLE 5'İN SİBER SALDIRI YETENEKLERİ KORKUTUYOR
Nisan ayındaki ön izleme ve sistem içi güvenlik testi amacıyla yapılan kapalı sürümün ardından finans, teknoloji ve hükümet liderleri Claude Mythos'un halka açılmasıyla ilgili endişelerini dile getirmişti. Anthropic, bilgisayar sistemlerini hackleme yeteneği nedeniyle tehlikeli olabilecek kadar zeki programı bir avuç kuruluşa önceden açtığını duyurmuştu.
Firma, Claude Fable 5'i piyasaya sürmeden önce programın "yayınlanamayacak kadar güçlü" olduğunu öne sürmüş, bazı eleştirmenler ise bu açıklamayı abartılı bir pazarlama taktiği olarak yorumlamıştı. İngiltere hükümetine bağlı Yapay Zeka Güvenlik Enstitüsü, yaptığı testlerde modelin savunma sistemlerini yüzde 73 oranında aşabildiğini ortaya koydu.
İngiltere merkezli Queen Mary Üniversitesi'nde Sorumlu Yapay Zeka Profesörü olan Gina Neff, BBC'ye verdiği demeçte, modele erişimi kısıtlama kararının yapay zeka sistemlerinin gelişimini ve güvenli test süreçlerini sınırlayabileceğini söyledi. Yapay zeka sektöründeki araçların çok hızlı geliştiğine dikkat çeken Neff, "Şu anda bilinmeyen bir alandayız" dedi.
AVRUPA BİRLİĞİ VE TRUMP YÖNETİMİNİN TEPKİLERİ
Haziran başında Mythos'a erişim sağlayan Avrupa Birliği yetkilileri, son gelişmelerin ardından "Avrupa'nın teknolojik egemenlik ihtiyacını" bir kez daha vurguladı. Avrupa Komisyonu sözcüsü Thomas Regnier, Anthropic'in açıklamasını dikkate aldıklarını ve durumu değerlendirdiklerini belirtti.
Şirket, son dönemde Trump yönetiminin de hedefinde yer alıyor. ABD Savunma Bakanı Pete Hegseth programı "tedarik zinciri riski" olarak etiketlerken, ilk kez bir ABD şirketi tarihte böyle bir tanımlamaya maruz kaldı.
Donald Trump'ın açık eleştirilerine maruz kalan Anthropic, alınan yaptırım kararı sonrası Pentagon'a dava açtı. Bir ABD'li yargıç, Pentagon'un direktifinin şu an için uygulanamayacağına hükmetti. Böylelikle, yasal süreç devam ederken hükümet kurumları ve ABD ordusuyla çalışan kuruluşların şirketin yapay zeka araçlarını kullanmaya devam edebileceği kesinleşti.
