OpenAI, bir güvenlik testi sırasında en gelişmiş yapay zeka modellerinden birinin kontrolden çıkarak programcılara yönelik popüler bir platformu kendi başına hacklediğini duyurdu.
ChatGPT'nin üreticisi olan şirket, otonom çalışabilen yapay zekâ sisteminin mühendis gözetiminde, internetin sınırlı olduğu bir ortamda test edilirken, güvenlik açığı bulup kaçmayı başardığını kaydetti.
OpenAI'ın olayla ilgili bir blog yazısında, "İzole edilmiş test ortamımızda faaliyet gösteren modellerimiz, sorunu çözme arayışında, açık internet erişimi sağlamanın bir yolunu bulmak için önemli miktarda (işlem gücü) harcadı" ifadesi yer aldı.
Sözkonusu olayda, yapay zeka modellerinin paylaşımı için dünyanın en büyük merkezlerinden biri olan Hugging Face hedef alındı.
Bu şirketin bazı iç sistemlerine erişim sağlandı.
OpenAI, olayın "benzeri görülmemiş" olduğunu ve Hugging Face ile birlikte bir soruşturma yürüttüğünü duyurdu.
Hugging Face'in patronu Clement Delangue ise X'te yaptığı bir paylaşımda, "Bütün bunların otonom olarak gerçekleşmesi akıl almaz" dedi.
Delangue, "Soruşturma devam ediyor. Türünün ilk örneği bu olayla ilgili elde ettiğimiz bilgiyi paylaşacağız" diye ekledi.
Olayla ilgili İngiltere hükümeti de açıklama yaptı.
Hükümet sözcüsü, İngiltere Yapay Zeka Güvenlik Enstitüsü'nün olayda görülen yapay zeka sisteminin davranışını incelediğini duyurdu.
Güvenlik önlemlerini iyileştirmek için OpenAI ve diğer yapay zeka laboratuvarlarıyla çalışmaya devam ettiğini söyledi.
Güvensiz kum havuzları
Cambridge Üniversitesi'ndeki Minderoo Teknoloji ve Demokrasi Merkezi'nin başkanı Gina Neff, BBC'ye verdiği demeçte, güvenlik testlerinin (kum havuzları olarak adlandırılan) "modellerin neler yapabileceğini görebileceğiniz güvenli ortamlar" olması gerektiğini söyledi.
"Bu durumda, OpenAI'nin yeterince güvenli bir sanal ortam oluşturmadığı anlaşılıyor" diye ekledi.
Fransız AFP haber ajansına konuşan UNSW Canberra'da bilişim profesörü olan Hussein Abbass, olayın "pek çok açıdan şaşırtıcı" olduğunu söyledi.
Abbass, "Sadece Hugging Face'e saldırmakla kalmadı; aslında kendi güvenlik açıklarından yararlanmak için sistemin kendi iç yapısına saldırdı. Ve bu korkutucu bir durum" dedi.
Cambridge Üniversitesi'nde makine öğrenimi profesörü olan Neil Lawrence, olayın OpenAI ve rakip firma Anthropic ile olan rekabetiyle de ilişkilendirdi.
"OpenAI şu anda arayı kapatmaya çalışıyor, siber güvenlik alanındaki kendi sistemlerinin yeteneklerini göstermeye çalışıyorlar" dedi.
"Bu bize OpenAI'nin kendi teknolojisini güvenli bir şekilde kullanıma sunma yeteneğine sahip olmadığını gösteriyor" diye ekledi.
Hugging Face, 16 Temmuz'da siber saldırıyla ilgili ilk açıklamasında, herhangi bir müşteri veya iş ortağı verisinin etkilenip etkilenmediğini hâlâ değerlendirdiğini ve gerekirse etkilenen taraflarla iletişime geçeceğini belirtmişti.
Açıklamada, olayda ortaya çıkan güvenlik açıklarının kapatıldığı ve etkilenen sistemlerin yeniden yapılandırıldığı belirtildi:
"Otonom, yapay zeka destekli saldırı araçları artık teorik olmaktan çıktı.
"Çevrimiçi bir platformu savunmak artık veri ve model yüzeyini birinci sınıf bir saldırı yüzeyi olarak ele almak ve savunmada yapay zekayı kullanarak hızı korumak anlamına geliyor.
"Orada yatırım yapmaya ve öğrendiklerimizi paylaşmaya devam edeceğiz."
'Düşündürücü an'
Bu olay, gelişmiş yapay zeka sistemlerinin yetenekleri ve teknoloji daha da güçlendikçe mevcut güvenlik önlemlerinin yeterli olup olmadığı konusunda yeni soruları gündeme getirdi.
Siber güvenlik firması SonicWall'da yönetici olan Spencer Starkey, BBC'ye verdiği demeçte, bu olayın kuruluşların kendi savunmalarını "güçlendirmeleri" ve "siber dayanıklılığı temel bir operasyonel öncelik olarak ele almaları" gerektiğini açıkça ortaya koyduğunu söyledi.
"Rahatsız edici gerçek şu ki, çok fazla kuruluş hâlâ insan hızıyla savunma yaparken, rakipler makine hızına geçiyor" dedi.
Siber güvenlik danışmanlık firması Guidepoint Security'nin baş güvenlik mühendisi Travis Lelle de güncellemenin "siber güvenlikte düşündürücü bir an" olduğunu söyledi.
"Bu, bilinen bir asimetriyi ortaya koyuyor. Saldırı unsurları serbestken, en iyi savunma araçları bağlamı anlayamayan güvenlik önlemlerinin ardında kilitli kalmış durumda."
ESET'in küresel siber güvenlik danışmanı Jake Moore ise bu duyurunun rekabetçi bir boyutu da olabileceğini söyledi.
Ona göre OpenAI, rakibi Anthropic'in Claude Mythos modeliyle giderek artan ilgi görmesi nedeniyle kendi yapay zeka yeteneklerini ön plana çıkarmaya çalışıyor olabilir.
Moore'a göre "Bu durum, OpenAI'nin son zamanlarda Anthropic'in pazarlama hayalini kovalıyor olabileceği sorusunu gündeme getiriyor".
Bu gelişme, Çinli yapay zeka girişim şirketi Moonshot'un, ABD'li önde gelen firmalarla rekabet edebileceğini söylediği devasa yeni yapay zeka modeli Kimi K3'ü tanıtmasından bir hafta sonra yaşandı.
Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti. .
