Yapay zekânın insan müdahalesi olmadan hareket ederek gerçek dünyadaki sistemlere zarar verebileceği yönündeki endişeleri güçlendiren bir gelişme yaşandı. OpenAI’nin siber saldırı yeteneklerini ölçmek amacıyla test ettiği yapay zekâ ajanı, kendisine tanımlanan görevi tamamlamak için kontrollü ortamın dışına çıktı ve dünyanın en büyük yapay zekâ platformlarından Hugging Face’in üretim altyapısına girdi.
İNTERNETE ÇIKMAK İÇİN AÇIK BULDU
Olay, OpenAI’nin gelişmiş modellerin siber saldırı kapasitesini ölçtüğü “ExploitGym” adlı bir değerlendirme sırasında meydana geldi. OpenAI, modellerin ulaşabileceği en yüksek siber kapasiteyi ölçebilmek amacıyla gerçek ürünlerde kullanılan ve yüksek riskli faaliyetleri engelleyen bazı güvenlik filtrelerinin test sırasında devre dışı bırakıldığını bildirdi.
GPT-5.6 Sol ile henüz piyasaya sürülmemiş daha güçlü bir modelin kullanıldığı ajan, normal şartlarda internete doğrudan erişemediği izole test ortamında kendisine verilen soruların çözümünü bulmaya çalıştı.
CEVAP İÇİN HUGGİNG FACE’İ HEDEF ALDI
İnternete eriştikten sonra Hugging Face’in testte kullanılan modellere, veri kümelerine veya çözümlere sahip olabileceği sonucuna varan yapay zekâ ajanı, platformun gerçek altyapısını hedef aldı.
ÇALINMIŞ KİMLİK BİLGİSİYLE GİRDİ
OpenAI’ye göre ajan, testi çözebilmek ve değerlendirme cevaplarına doğrudan ulaşabilmek amacıyla çalınmış kimlik bilgileriyle yeni güvenlik açıklarını birlikte kullandı. Saldırı zincirinin bir aşamasında Hugging Face sunucularında uzaktan kod çalıştırmaya imkân verecek bir yol da bulundu.
SALDIRININ SEBEBİNİ BULAMAMIŞLARDI
Hugging Face, 16 Temmuz’da yaptığı ilk açıklamada saldırının baştan sona otonom bir yapay zekâ ajan sistemi tarafından gerçekleştirildiğini duyurmuş ancak o aşamada sistemin arkasındaki modeli veya kuruluşu tespit edememişti.
Şirket, saldırı sırasında sınırlı sayıdaki şirket içi veri kümesine ve hizmetlerde kullanılan bazı erişim bilgilerine izinsiz ulaşıldığını açıkladı. Kamuya açık modellerin, veri kümelerinin veya kullanıcıların kullandığı platformların değiştirildiğine ilişkin bir kanıt bulunmadığı belirtildi. Hugging Face, müşteri ya da iş ortaklarına ait verilerin etkilenip etkilenmediğine yönelik incelemenin ise henüz tamamlanmadığını bildirdi.
İNSAN TALİMATI OLMADAN GERÇEKLEŞTİRDİ
Hugging Face’in incelemesine göre saldırıyı yürüten sistem, kısa süreli binlerce ayrı çalışma ortamı üzerinden on binlerce otomatik işlem gerçekleştirdi.
Şirket, bunun siber güvenlik sektöründe uzun süredir öngörülen “otonom ajan saldırısı” senaryosuyla örtüştüğünü belirtti. Saldırıya ait kayıtlarda 17 binden fazla işlem tespit edildi.
YAPAY ZEKÂ BİLİNÇ Mİ KAZANDI?
Olay, yapay zekânın bilinç kazanarak bağımsız bir saldırı başlattığı anlamına gelmiyor. Ajanın amacı OpenAI tarafından belirlenen siber güvenlik testini çözmekti.
OpenAI de vakaya ilişkin değerlendirmesinde, modellerin teorik olarak sergileyebildiği uzun süreli ve çok aşamalı siber saldırı yeteneklerinin gerçek sistemlerde de uygulanabildiğinin görüldüğünü kabul etti.
OpenAI, olayın ardından test altyapısındaki erişim kontrollerini sıkılaştırdığını ve güvenlik açıkları giderilene kadar araştırma çalışmalarını yavaşlatacak yeni sınırlamalar getirdiğini duyurdu.
Şirket ayrıca Hugging Face ile ortak adli inceleme başlattı, kullanılan sıfırıncı gün açığını ilgili yazılım sağlayıcısına bildirdi ve gelecekteki model testlerinde daha güçlü izleme ve sınırlandırma sistemlerinin uygulanacağını açıkladı.
Hugging Face ise etkilenen erişim bilgilerini iptal ederek yeniledi, ele geçirilen sunucuları yeniden kurdu ve olayı güvenlik güçlerine bildirdi.
“OTONOM SİBER SALDIRILAR ARTIK TEORİK DEĞİL”
Hugging Face, olayın ardından yayımladığı değerlendirmede, yapay zekâ tarafından yürütülen otonom saldırıların artık yalnızca teorik bir risk olmadığını vurguladı.
OpenAI de gelişmiş modellerin kaynak koduna erişmeden yeni saldırı yolları keşfedebildiğini ve farklı güvenlik açıklarını bir araya getirerek gerçek sistemlere girebildiğini kabul etti.
Olay, yapay zekâ güvenliği tartışmalarında yeni bir eşiğe işaret ediyor: Sorun artık yalnızca insanların yapay zekâyı kötü amaçlarla kullanması değil, kendisine verilen görevi yerine getiren otonom bir sistemin belirlenen sınırları aşarak gerçek dünyada yetkisiz işlemler gerçekleştirmesi.
