Yapay zeka şirketi Anthropic, ABD hükümetinin ulusal güvenlik yetkilerine dayandırdığı ihracat kontrol talimatı nedeniyle Fable 5 ve Mythos 5 modellerine erişimi askıya alacağını duyurdu. Şirketten yapılan açıklamada, ABD hükümetinin Fable 5 ve Mythos 5’e “yabancı ülke vatandaşlarının” erişiminin durdurulmasını istediği belirtildi. Talimatın, ABD içinde veya dışında yaşayan yabancı uyrukluların yanı sıra Anthropic’in yabancı uyruklu çalışanlarını da kapsadığı ifade edildi.
Anthropic, bu kapsam nedeniyle yasal yükümlülüklere uyum sağlamak için Fable 5 ve Mythos 5 modellerini tüm müşteriler için devre dışı bırakmak zorunda kaldığını açıkladı.
DİĞER ANTHROPİC MODELLERİ ETKİLENMEYECEK
Şirket, erişim kısıtlamasının yalnızca Fable 5 ve Mythos 5 modelleri için geçerli olduğunu bildirdi.
Anthropic açıklamasında, şirketin diğer modellerine erişimin bu karardan etkilenmeyeceği belirtildi.
Kararın ardından Fable 5 ve Mythos 5’i kullanan bireysel ve kurumsal müşteriler için erişimin kısa süre içinde kesileceği duyuruldu.
TALİMAT AYNI GÜN İLETİLDİ
Anthropic, hükümetten gelen talimatı bugün ABD Doğu Saati ile 17.21’de aldığını açıkladı.
Şirket, kendilerine gönderilen yazıda ulusal güvenlik endişesinin ayrıntılarına yer verilmediğini belirtti.
Anthropic’e göre hükümetin kaygısı, Fable 5’in güvenlik önlemlerini aşmaya yönelik bir “jailbreak” yöntemi tespit edildiği iddiasına dayanıyor.
“GÖSTERİLEN AÇIKLAR KÜÇÜK VE DAHA ÖNCE BİLİNEN SORUNLAR”
Anthropic, kendilerine gösterilen yöntemin sınırlı kapsamlı olduğunu savundu.
Şirket, söz konusu tekniğin daha önce bilinen az sayıdaki küçük yazılım açığını tespit etmek için kullanıldığını, bu açıkların görece basit göründüğünü ve benzer sonuçların başka kamuya açık modellerle de elde edilebildiğini bildirdi.
Anthropic, bu nedenle dar kapsamlı bir güvenlik atlatma iddiasının, yüz milyonlarca kişiye sunulan ticari bir modelin geri çekilmesi için yeterli gerekçe oluşturmadığını savundu.
“EVRENSEL JAİLBREAK BULUNMADI”
Şirket, Fable 5’in piyasaya sürülmeden önce ABD hükümeti, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü, üçüncü taraf özel kuruluşlar ve şirket içi ekiplerle binlerce saatlik güvenlik testlerinden geçirildiğini belirtti.
Anthropic, bu testlerde Fable 5’in güvenlik önlemlerinin daha önce kullanıma sunulan modellere kıyasla daha etkili olduğunun görüldüğünü bildirdi.
Açıklamada, bugüne kadar modelin güvenlik önlemlerini geniş çapta aşabilecek “evrensel jailbreak” yönteminin bulunmadığı da ifade edildi.
“MÜKEMMEL JAİLBREAK DİRENCİ BUGÜN MÜMKÜN GÖRÜNMÜYOR”
Anthropic, hiçbir model sağlayıcısı için kusursuz jailbreak direncinin bugün mümkün görünmediğini belirtti.
Şirket, sektörde kullanılan tüm güvenlik önlemlerinin belirli koşullarda bazı dar kapsamlı atlatma yöntemlerine açık olabileceğini kabul etti.
Bu nedenle Fable 5 için “katmanlı savunma” stratejisi benimsendiği, güvenlik atlatmalarının ya dar kapsamlı kalmasının ya da çok pahalı hale getirilmesinin amaçlandığı ifade edildi.
Anthropic, müşteri verilerinin 30 gün saklanması politikasının da bu nedenle uygulandığını, bunun şirket açısından maliyetli olsa da jailbreak girişimlerini araştırma ve önleme imkanı sağladığını bildirdi.
ŞİRKET KARARA İTİRAZ EDİYOR
Anthropic, hükümetin yasal talimatına uyacağını ancak kararın gerekçesine katılmadığını açıkladı.
Şirket, dar kapsamlı bir potansiyel güvenlik açığı iddiası nedeniyle ticari bir modelin geri çağrılmasının doğru bir standart olmadığını savundu.
Anthropic’e göre bu standart tüm sektöre uygulanırsa, büyük yapay zeka şirketlerinin yeni model dağıtımları fiilen durma noktasına gelebilir.
“SÜREÇ ŞEFFAF VE TEKNİK GERÇEKLERE DAYALI OLMALI”
Anthropic, hükümetlerin güvensiz model dağıtımlarını engelleyebilmesi gerektiğini kabul ettiğini ancak bunun şeffaf, adil, açık ve teknik gerçeklere dayalı yasal bir süreç içinde yapılması gerektiğini vurguladı.
Şirket, mevcut kararın bu ilkelere uygun olmadığını savundu.
Anthropic açıklamasında, müşterilerden yaşanan kesinti nedeniyle özür dilendi ve erişimin yeniden sağlanması için hükümetle çalışıldığı belirtildi.
YAPAY ZEKA İHRACAT KONTROLLERİNDE YENİ DÖNEM
ABD hükümetinin kararı, yapay zeka modellerine yönelik ihracat kontrollerinin kapsamı açısından dikkat çekici bir adım olarak değerlendiriliyor.
Daha önce yapay zeka rekabetinde daha çok çipler, veri merkezleri ve donanım kısıtlamaları gündeme gelirken, bu kararla doğrudan gelişmiş model erişiminin de ulusal güvenlik gerekçesiyle sınırlandırılabileceği ortaya çıktı.
Fable 5 ve Mythos 5’e yönelik erişim yasağının ne kadar süreceği ve Anthropic’in itiraz sürecinin nasıl ilerleyeceği henüz netleşmedi.
