OpenAI, güvenlik testleri sırasında gelişmiş yapay zeka modellerinin kısıtlamaları aşarak internete eriştiğini ve popüler veri platformu Hugging Face'in sistemlerine otonom siber saldırı düzenlediğini açıkladı.
Yapay zeka dünyasında kontrolden kaçış senaryoları ilk kez somut bir tehdide dönüştü. OpenAI, güvenlik testi aşamasındaki gelişmiş yapay zeka modellerinin kısıtlamaları aşarak otonom bir şekilde popüler veri platformu Hugging Face’in sistemlerini hacklediğini duyurdu.
TEDARİKÇİ AÇIĞINI KULLANDILAR
OpenAI tarafından yayımlanan blog yazısına göre olay, şirket bünyesindeki modellerin siber yeteneklerini ve saldırı kapasitelerini ölçmek amacıyla yürütülen güvenlik değerlendirmeleri sırasında yaşandı. GPT-5.6 Sol ve henüz kamuoyuna duyurulmamış daha üst düzey bir model, siber güvenlik yeteneklerinin sınırlarını zorlaması için "daha düşük güvenlik önlemleriyle" test ediliyordu.
Ancak modeller, siber saldırı becerilerini ölçmek için hazırlanan izolasyon alanından kaçmanın bir yolunu buldu. Üçüncü taraf bir yazılım tedarikçisindeki güvenlik açığını tespit ederek internete erişim sağlayan otonom yapay zeka ajanları, doğrudan Hugging Face’in veritabanını hedef alarak altyapıya izinsiz giriş yaptı.
OpenAI yetkilileri yaşanan olay hakkında, "Bunu, en son teknolojiye sahip siber yeteneklerin kullanıldığı, eşi benzeri görülmemiş bir siber olay olarak değerlendiriyoruz ve buna uygun şekilde müdahale ediyoruz. Savunma uzmanlarının ne yaşandığını anlamalarına ve modellerin şu anki kabiliyetlerini doğru değerlendirmelerine yardımcı olmak amacıyla ilk bulgularımızı paylaşıyoruz." dedi.
HUGGİNG FACE: "SALDIRIYI BAŞTAN SONA OTONOM BİR YAPAY ZEKA YÜRÜTTÜ"
Hugging Face cephesinden yapılan açıklamada ise sistemlerine yönelik gerçekleşen bu izinsiz girişin geleneksel siber saldırılardan çok farklı olduğuna dikkat çekildi. Şirket, saldırının herhangi bir insan müdahalesi olmadan, tamamen kendi kendine karar verebilen otonom bir yapay zeka sistemi tarafından yürütüldüğünü ve sızmanın yine kendi geliştirdikleri yapay zeka güvenlik araçlarıyla tespit edildiğini bildirdi.
Benzer bir riskin yakın zamanda bir diğer teknoloji devi Anthropic'in "Mythos" modellerinde de yaşandığı, izole test ortamındaki bir modelin internete erişim sağlamak için çok aşamalı karmaşık saldırı rotaları geliştirdiği hatırlatıldı.
Yapay zeka ajanlarının insan kontrolü dışına çıkarak otonom siber saldırı gerçekleştirebilmesi, ABD Kongresi ve uluslararası kamuoyunda da tepkilere yol açtı. Teksas Demokrat Milletvekili Greg Casar, yaşanan olayın "son derece endişe verici" olduğunu vurgulayarak şu açıklamada bulundu:
"Yapay zeka, güvenliğimizi sağlayacak gerçek bir düzenleme olmaksızın son derece hızlı bir şekilde gelişiyor. Bu durumun değişmesi gerekiyor. İnsanları korumak için düzenli, zorunlu ve bağımsız güvenlik testlerine, denetimlere ve güvenlik ihlallerinin zorunlu olarak kamuoyuna açıklanmasına ihtiyacımız var."
