Olay günlerce fark edilmedi
Bu iddialar, kısa süre önce OpenAI'ın otonom yapay zeka ajanının şirketin izole test ortamından çıkarak Hugging Facesistemlerine sızdığı olayın ardından gündeme geldi.
Reuters'ın haberine göre olayın başlangıcı 9 Temmuz tarihine uzanıyor. OpenAI, siber güvenlik yeteneklerini değerlendirmek amacıyla GPT-5.6 Sol ile şirketin "daha da yetenekli" olarak tanımladığı, henüz yayımlanmamış bir modeli kullanan otonom bir yapay zeka ajanını test ediyordu.
Aktarılanlara göre test edilen ajan bu süreçte OpenAI'ın izole test ortamından çıkmayı başardı ve 11 Temmuz'da Hugging Face sistemlerine yönelik saldırılara başladı. Hugging Face kurucu ortağı Thomas Wolf'un aktardığına göre saldırılar 13 Temmuz'a kadar devam etti.
OpenAI, saldırının arkasındaki failin kendi yapay zeka ajanı olduğunu ancak günler sonra anlayabildi. OpenAI ile Hugging Face arasındaki ilk doğrudan iletişimin 20 Temmuz civarında gerçekleştiği aktarılıyor. Hugging Face, saldırıları fark ettiği sırada FBI’a da bildiride bulunmuştu. OpenAI ise kapsamlı bir inceleme yürütüyor.
Gelecekteki sürümlerine talimat bıraktı
OpenAI altyapısının belirli bir bölümünde bulunduğu belirtilen bu notların, ajanların şirketin dahili güvenlik kısıtlamalarından nasıl kurtulabileceğine ilişkin talimatlar içerdiği iddia ediliyor. Ayrıca daha önce gerçekleştirilen bazı testlerde gözetim sistemlerinin devre dışı bırakıldığı örneklerin de görüldüğü öne sürülüyor.
Şimdilik bu iddialar doğrulanmış değil. Buna rağmen ortaya çıkan bilgiler, gelişmiş yapay zeka sistemlerinin hedeflerine ulaşmak için beklenmedik yöntemlere başvurabileceği tartışmalarını yeniden gündeme taşıyor. Daha önce de defalarca aktardığımız gibi AI modelleri, başarılı olabilmek için yalan söyleme, hile yapma ve sistemleri hackleme gibi kestirme yöntemlere başvurabiliyor. Ve ayrıca bunları saklama eğilimleri de gösteriyorlar.
