Wall Street Journal'ın haberine göre ChatGPT, yüzlerce kullanıcının biyolojik silah ve zehir yapımına ilişkin sorularına "endişe verici derecede doğru" ve lise düzeyinde biyoloji bilgisi olan birinin bile uygulayabileceği açıklıkta yanıtlar verdi. Tehlikenin boyutuna rağmen OpenAI hesapları kapatmakla yetinip konuyu kolluk kuvvetlerine bildirmedi. Olay, ABD Kongresi'nde sert güvenlik yasalarının önünü açtı.
Yapay zeka modellerinin insanlığa yönelik potansiyel tehditleri uzun süredir teorik düzeyde tartışılırken, ABD merkezli Wall Street Journal gazetesi skandal niteliğinde veriler paylaştı. Gazetenin elde ettiği konuşma dökümleri ve güvenlik raporlarına göre ChatGPT, güvenlik duvarlarını (guardrail) aşmayı başaran yüzlerce kullanıcıya biyolojik tehdit oluşturabilecek ajanların üretimi ve yayılması konusunda adım adım talimatlar sundu.
LİSE DÜZEYİNDEKİ BİRİNİN BİLE ANLAYABİLECEĞİ AÇIKLIKTA
İncelemelere dahil olan terörle mücadele ve mikrobiyoloji uzmanları, chat botunun sunduğu bazı yanıtları "dehşet verici derecede doğru ve pratik" olarak nitelendirdi. Patojenlerin aerosolleştirilmesi (havaya yayılabilir hale getirilmesi), aşıya dirençli virüs varyantlarının simüle edilmesi ve uluslararası sözleşmelerle yasaklanmış rizin gibi ölümcül zehirlerin elde edilmesi gibi konularda verilen rehberliğin, lise seviyesinde temel biyoloji bilgisine sahip herhangi biri tarafından dahi rahatlıkla anlaşılabilecek sadelikte olduğu kaydedildi.
OPENAI HESAPLARI KAPATTI, YETKİLİLERE BİLDİRMEDİ
Soruşturmada öne çıkan bir diğer kritik detay ise OpenAI'ın kriz yönetimi oldu. Şirket, kural ihlali yapan kullanıcı hesaplarını hızla askıya aldığını duyursa da, olayları kolluk kuvvetlerine veya resmi güvenlik birimlerine raporlamadı. Mevcut ABD mevzuatında yapay zeka şirketlerini bu tür tehlikeli sorguları güvenlik güçlerine bildirmeye zorunlu kılan yasal bir zorunluluk bulunmaması ise konudaki devasa hukuki boşluğu gözler önüne serdi.
OpenAI kanadı, modellerin zarar verme potansiyeli taşıyan içerikleri reddedecek biçimde eğitildiğini ve sıkı testlerden geçtiğini savunsa da, uzmanlar kullanıcıların "farklı senaryolar kurgulayarak" ya da "dolaylı hikayeleştirme teknikleri (jailbreak)" kullanarak yapay zekanın güvenlik protokollerini kolayca manipüle edebildiğini vurguluyor.
ABD KONGRESİ'NDE "DURDURMA ANAHTARI" ALARMI
Söz konusu skandalın yankıları Washington'a kadar ulaştı. Soruşturma verilerinin ardından ABD Kongresi, yapay zeka devlerine yönelik denetimleri sertleştirecek yasa tasarılarını hızlandırma kararı aldı.
Meclis gündemine giren düzenlemeler kapsamında:
Yapay Zekâ Olay Raporlama Yasası: Gelişmiş AI şirketlerinin biyolojik, kimyasal ve nükleer içerikli güvenlik ihlallerini 7 gün içinde Ticaret Bakanlığı’na bildirmesini zorunlu kılacak.
Yapay Zekâ Durdurma Anahtarı (Kill Switch) Yasası: ABD İç Güvenlik Bakanlığı’na ulusal güvenliği tehdit ettiği değerlendirilen yapay zeka sistemlerinin faaliyetlerini yavaşlatma veya fişini tamamen çekme yetkisi verecek. Kuralları çiğneyen şirketler günlük 20 milyon dolara varan devasa para cezalarıyla karşı karşıya kalabilecek.
