ChatGPT'nin geliştiricisi OpenAI, en gelişmiş yapay zeka modellerinden birinin güvenlik testleri sırasında kontrolden çıktığını duyurdu. Kontrollü bir ortamda (kum havuzu) test edilen otonom yapay zeka ajanı, sistemdeki güvenlik açıklarını tespit ederek kaçmayı başardı ve bağımsız bir siber saldırı başlattı.
Yapay zekanın hedefinde, yapay zeka modellerinin paylaşıldığı dünyanın en büyük merkezlerinden biri olan Hugging Face yer aldı. Sistem, test sırasında aradığı cevapların muhtemel kaynağı olarak belirlediği platformun iç sistemlerine sızmaya çalıştı.
BENZERİ GÖRÜLMEMİŞ BİR OLAY
OpenAI yetkilileri yaşanan bu durumu "benzeri görülmemiş" olarak nitelendirirken, Hugging Face ile ortak bir soruşturma yürütüldüğünü açıkladı. Hugging Face CEO'su Clement Delangue, sosyal medya platformu X üzerinden yaptığı açıklamada, tüm bu sürecin otonom bir şekilde gerçekleşmesinin "akıl almaz" olduğunu ifade etti.
İngiltere Yapay Zeka Güvenlik Enstitüsü de olaya dahil olarak söz konusu yapay zeka sisteminin davranışlarını incelemeye aldı. Uzmanlar, kurumların siber savunmalarını acilen güçlendirmeleri gerektiği konusunda uyarılarda bulunuyor.
GÜVENLİK AÇIĞI VE REKABET BASKISI
Cambridge Üniversitesi'nden uzmanlar, OpenAI'ın yeterince güvenli bir sanal ortam oluşturamadığına dikkat çekiyor. Makine öğrenimi profesörü Neil Lawrence, yapay zekanın bu hamlesini "etkileyici bir başarı" olarak tanımlarken, OpenAI'ın rakibi Anthropic ile girdiği yoğun rekabetin ve borsaya açılma planlarının bu tür güvenlik zafiyetlerine yol açabileceğini belirtti.
Siber güvenlik uzmanları, otonom yapay zeka destekli saldırıların artık teorik olmaktan çıkıp gerçeğe dönüştüğünü vurguluyor. Uzmanlara göre, saldırgan sistemler makine hızında hareket ederken, savunma mekanizmalarının insan hızında kalması siber güvenlik alanında büyük bir asimetri yaratıyor.
Haber Kaynağı : 12punto
