Yapay zeka sektörünün öncü kuruluşu Anthropic, daha önce halka açılmasının çok büyük riskler barındıracak kadar güçlü olduğunu belirttiği yapay zeka aracının yeni bir versiyonunu genel erişime sunduğunu duyurdu.
BBC'nin haberine göre"Claude Fable 5" adı verilen bu yeni sürüm, şirketin geçtiğimiz nisan ayında ön izleme ve test süreçleri için sınırlı bir çevreye açtığı ve teknoloji, finans ile hükümet liderleri arasında ciddi endişelere yol açan "Claude Mythos" modelinin tabanını kullanıyor.
Uzmanların bir kısmı bu yeni aracın finansal sistem güvenliğini tehdit edebilecek kadar yüksek kabiliyetlere sahip olduğunu savunurken, diğer bir kesim ise yaratılan bu endişe dalgasının şirketin pazarlama stratejisinin bir parçası olup olmadığını sorguluyor.
Anthropic tarafından salı günü yapılan açıklamada, Fable 5 modelinin belirli güvenlik önlemleri ve kullanıcı sınırlandırmalarıyla birlikte sunulduğu belirtilse de "bu denli gelişmiş bir modeli piyasaya sürmenin kaçınılmaz riskler barındırdığı" açıkça itiraf edildi.
Şirket, Fable 5'in bugüne kadar genel kullanıma sundukları tüm modellerin ötesinde bir kapasiteye sahip olduğunu vurguladı.
Saldırı kabiliyeti liderleri bile korkutuyor
"Claude Mythos" modeli ilk kez küçük bir organizasyon grubuna test ettirildiğinde Anthropic, sistemin bilgisayar ağlarındaki açıkları bulma, siber sızma ve hackleme konularında tehlikeli derecede zeki olduğunu açıklamıştı.
Modelin bu kabiliyeti, küresel ölçekte büyük bir tedirginlik yarattı. Kanada Finans Bakanı François-Philippe Champagne, nisan ayında BBC'ye verdiği demeçte, Mythos'a yönelik küresel ilginin son derece haklı olduğunu belirterek durumu "Bizi korkutan şey, neyle karşılaşacağımızı hiç bilmediğimiz bir bilinmeyen olması" sözleriyle özetlemişti.
1 trilyon dolarlık hamle
Öte yandan Anthropic'in yakın zamanda halka arz edilerek borsaya açılması bekleniyor. Şirketin özel piyasalardaki piyasa değerinin 1 trilyon dolara yaklaşması, yatırımcılara sürekli olarak daha gelişmiş ve geniş kapsamlı yapay zeka yetenekleri sunma baskısını artırıyor.
Salı günü yayımlanan bildiride şirket, daha önce kapalı devre testlere katılan yaklaşık 150 kuruluşa "Claude Mythos 5" sürümünün tam yetkili versiyonunu açtığını duyurdu. Bu tam sürüm, kurumların kullanım alanlarına bağlı olarak siber güvenlik veya biyoloji alanlarında hiçbir yapay kısıtlama barındırmıyor.
Bugüne kadar Mythos modelini ön izleme kapsamında kullanan şirketler, kendi dijital altyapılarında 10 binden fazla kritik güvenlik açığı tespit ettiklerini Anthropic’e raporladı.
Yetkililer, bu kısıtlamasız sürüme erişimin şimdilik yalnızca "küçük bir siber savunma uzmanı grubu ve kritik altyapı sağlayıcısı" ile sınırlı olduğunu ancak bu çemberin genişletileceğini açıkladı.
