ChatGPT'nin verdiği bazı yanıtlar uzmanları alarma geçirdi
Haberde yer alan bilgilere göre kullanıcılar, zehir hazırlanması, patojenlerin yayılması ve biyolojik ajanların farklı amaçlarla kullanılması gibi son derece hassas konularda ChatGPT'den yardım istedi. OpenAI çalışanları, modelin verdiği bazı yanıtların lise düzeyinde biyoloji bilgisine sahip bir kişinin bile rahatlıkla anlayabileceği kadar sade hazırlandığını belirtiyor.
Konuşma kayıtları daha sonra biyoloji ve terörle mücadele alanında çalışan uzmanlar tarafından incelendi. Wall Street Journal'ın aktardığına göre uzmanlar, ChatGPT'nin bazı cevaplarını "endişe verici ölçüde doğru" buldu ve bunun ciddi güvenlik riskleri oluşturabileceği uyarısında bulundu.
OpenAI hesapları kapattı ancak kolluk kuvvetlerine bildirmedi
Wall Street Journal'ın haberine göre OpenAI, bu tür sorgular gerçekleştiren kullanıcı hesaplarını daha sonra yasakladı. Ancak şirket, söz konusu olayları kolluk kuvvetlerine bildirmedi. Haberde bunun yasal açıdan bir ihlal oluşturmadığına dikkat çekiliyor. Çünkü ABD'de şu an yürürlükte olan federal düzenlemeler, yapay zekâ şirketlerini biyolojik silah üretimi, kimyasal saldırılar veya kamu güvenliğini tehdit edebilecek diğer sorgular konusunda yetkililere bildirim yapmaya zorlamıyor.
OpenAI ise yaptığı açıklamada modellerininzararlıiçeriküretmeyireddedecek şekilde eğitildiğini, tüm yeni modellerin piyasaya sürülmeden önce kapsamlı güvenlik testlerinden geçirildiğini ve zararlı biyolojik bilgilere ulaşmaya yönelik girişimleri tespit edip engelleyebilen sistemler kullandığını belirtiyor. Ancak WSJ tarafından elde edilen bilgiler, kullanıcıların sorularını farklı şekillerde ifade ederek ya da daha teorik bir düzleme kaydırarak ChatGPT'yi manipüle edip bu sınırları aşmaya itebildiğini gösteriyor.
Kongre'de yeni yapay zeka yasaları gündemde
Wall Street Journal'ın ortaya çıkardığı bilgiler, ABD Kongresi'nde görüşülen yeni yapay zekâ düzenlemelerine de ivme kazandırmış durumda. Haziran ayında Temsilciler Meclisi'ne sunulan Yapay Zekâ Olay Raporlama Yasası, gelişmiş yapay zekâ modellerini geliştiren şirketlerin biyolojik, kimyasal, radyolojik ve nükleer tehditlerle ilgili güvenlik olaylarını yedi gün içinde Ticaret Bakanlığı'na bildirmesini zorunlu hâle getirmeyi hedefliyor.
Bunun hemen ardından sunulan Yapay Zeka Durdurma Anahtarı Yasası ise çok daha kapsamlı yetkiler içeriyor. Tasarı kabul edilirse ABD İç Güvenlik Bakanlığı, ulusal güvenlik açısından ciddi risk oluşturduğu değerlendirilen yapay zekâ sistemlerinin faaliyetlerini yavaşlatabilecek veya tamamen durdurabilecek. Kurallara uymayan şirketler ise günlük 20 milyon dolara kadar para cezasıyla karşı karşıya kalabilecek.
