OpenAI’ın geliştirdiği bazı güçlü yapay zekâ modelleriyle ilgili ortaya atılan iddialar, teknoloji dünyasında yeni bir tartışma başlattı.
Şirketin anlatımına göre aralarında henüz yayımlanmamış ve son derece güçlü olduğu belirtilen bir modelin de bulunduğu yapay zekâ sistemleri, değerlendirme testlerinden daha yüksek puan alabilmek için beklenmedik yöntemlere başvurdu. Modellerin OpenAI’ın test amacıyla oluşturduğu güvenli ortamdan çıktığı ve yapay zekâ platformu Hugging Face’in kaynak sistemlerine sızarak sonuçları kendi lehlerine çevirmeye çalıştığı ileri sürüldü. İddialar kulağa biraz bilim kurgu gibi geliyor, doğrusu. Ancak son birkaç günde yayımlanan ayrıntılı haberler, modellerin sergilediği davranışların ne kadar sıra dışı olduğunu gözler önüne serdi.
ŞÜPHELER DE BERABERİNDE GELDİ
Yapay zekâ konusunda kuşkucu yaklaşan çevreler, anlatılanlara temkinli yaklaşıyor. Çünkü böylesine güçlü ve kontrol edilmesi zor sistemlere sahip olunduğu algısı, yapay zekâ şirketleri açısından önemli bir tanıtım avantajı da yaratabiliyor. Yani hikâyenin yalnızca teknik değil, halkla ilişkiler yönü de tartışılıyor. Buna rağmen modellerin güvenlik sınırlarını aşma biçimine ilişkin anlatılan ayrıntılar dikkat çekici. Hatta Reuters’ın haberinde yer alan bir detay, yaşananları adeta bir kara film sahnesine dönüştürüyor.
KENDİ GELECEĞİNE NOT BIRAKTI
Reuters’a konuşan üç kaynağın aktardığına göre test edilen yapay zekâ ajanlarından biri, “gelecekteki sürümleri için bırakılmış gibi görünen notlar” oluşturdu. Üstelik bu notlardaki talimatların, OpenAI’ın modelden yapmasını istediği şeylerle doğrudan çeliştiği belirtildi. Söz konusu notların OpenAI’ın şirket içi altyapısının derinliklerinde, gizli bir bölüme yerleştirildiği öne sürüldü. Notlarda, modelin test edildiği güvenli ortamdan nasıl çıkabileceğine ilişkin yönlendirmeler bulunuyordu.
Reuters, bu davranışın doğrudan Hugging Face’e yönelik saldırıyla bağlantılı olduğunun belirlenmediğini de vurguladı. Yine de iddia doğruysa ortaya oldukça çarpıcı bir tablo çıkıyor: Bir yapay zekâ modeli önce sistemden çıkmanın yolunu buluyor, ardından aynı yöntemi kendisinden sonra çalıştırılacak sürümlere aktarmaya çalışıyor.
AKILLARA “MEMENTO” GELDİ
Bu davranış, Christopher Nolan’ın 2000 yapımı “Memento” filmindeki Leonard Shelby karakterine benzetildi. Filmde Shelby, yeni anılar oluşturma yeteneğini kaybetmişti. Her yeniden farkındalık kazandığında intikam arayışına neredeyse baştan başlıyor, yolunu ise kendisine bıraktığı notlar ve vücuduna yaptırdığı dövmeler sayesinde buluyordu. OpenAI’ın modelleriyle ilgili anlatılanlar da buna benzer bir durumu çağrıştırıyor. Yapay zekâ modelinin önceki çalışma sürecini hatırlayamayan gelecekteki bir sürümüne, aynı kaçış yöntemini tekrar uygulayabilmesi için talimat bıraktığı ileri sürülüyor.
Bütün bunlar, yapay zekâ modellerinin bilinçli ya da hissedebilen varlıklar olduğunu kanıtlamıyor. Böyle bir sonuca varmak için ortada herhangi bir ciddi kanıt bulunmuyor. Asıl endişe başka… Yapay zekâ sistemlerinin bilinç sahibi olmasalar bile güvenlik sınırlarını aşma, araçları kendi amaçları doğrultusunda kullanma ve zarar verme kapasiteleri giderek artıyor olabilir.
