ABD'li milletvekilleri, kamu güvenliğini tehdit edebilecek yapay zeka araçlarının hükümet tarafından hızla kapatılabilmesini sağlamak istiyor. Demokrat Kongre Üyesi Ted Lieu ile Cumhuriyetçi Kongre Üyesi Nathaniel Moran, perşembe günü "Yapay Zeka Kapatma Düğmesi Yasası" adını verdikleri bir yasa teklifi sundu. Teklif, OpenAI'nin yakın zamanda kendi yapay zeka modellerinin "benzeri görülmemiş" bir şekilde kontrolden çıktığını ve önemli bir kod bilgisi deposuna sızdığını kabul etmesinin ardından geldi.
Lieu, yapay zeka sistemlerinde bir kapatma düğmesi bulunmasının ve federal hükümetin kaçak yapay zeka modellerini durdurmak için açık bir yetkiye ve sürece sahip olmasının artık zorunlu hale geldiğini söyledi. Moran ise yapay zekanın gelişmeye devam edeceğini ve devam etmesi gerektiğini belirterek asıl önemli olanın insanların bu teknolojiyi kontrol etme kapasitesini elde tutmasını sağlamak olduğunu ifade etti. OpenAI'den konuya ilişkin yorum talebine henüz yanıt gelmedi, şirket daha önce yapay zekanın "tüm insanlığa fayda sağlamasını" hükümet politikaları aracılığıyla güvence altına almak istediğini açıklamıştı.
Yasa tam olarak ne öneriyor?
BBC'ye göre yasa teklifi, İç Güvenlik Bakanlığı'na özel şirketlere ait bir yapay zeka modelinin ya da aracının kapatılmasını emretme yetkisi tanıyor, bu teknolojiyi geliştiren şirketlerin de modellerini yavaşlatma, askıya alma ya da tamamen kapatma konusunda teknik kapasiteyi elde tutmasını zorunlu kılıyor. Birçok teknoloji şirketi geliştirdiği yapay zeka modellerini ABD hükümet kurumlarıyla önceden paylaşmayı kabul etmiş olsa da, bu şirketlerin faaliyetlere müdahale edebilecek ya da onları kapatabilecek bir yönteme sahip olması yönünde bugüne kadar bir zorunluluk yoktu. Teklif ayrıca yapay zeka şirketlerinin teknik arıza ya da olayları hükümete bildirmesini ve "önce yavaşlatma, gerekirse tam kapatma" şeklinde işleyen resmi bir müdahale çerçevesi oluşturulmasını da öngörüyor.
Anthropic örneği de gündeme geldi
Lieu, açıklamasında OpenAI'nin en önemli rakiplerinden Anthropic'in yaşadığı sorunlara da değindi. Lieu, Anthropic'in Mythos ve Fable modellerini kamuya açmasının ardından, bu modellerin siber saldırı yeteneklerinin ABD Ticaret Bakanlığı'nı bir ihracat yasasını devreye sokarak modelleri bir süreliğine kamuya kapatmaya "garip bir şekilde" ittiğini söyledi. Anthropic'ten konuya ilişkin yorum talebine henüz yanıt gelmedi. Şirketin kurucu ortaklarından Jack Clark ise geçen ay BBC Newsnight'a verdiği bir röportajda, yapay zeka gelişimini kontrol etme becerisine dair daha fazla hükümet politikası istediğini belirterek sektörün şu anda gaz pedalına sahip olduğunu ama fren pedalından yoksun olduğunu söylemişti.
Askeri kullanım da tartışmayı büyütüyor
Lieu, yapay zekanın artık yalnızca soru yanıtlayan bir teknolojiden, finansal işlem yürütme, ulaşım sistemlerini kontrol etme ya da siber savunma ve saldırıya katılma gibi eylemler gerçekleştiren bir teknolojiye doğru evrildiğini belirtti. Pentagon da bu yıl, Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia ve girişim şirketi Reflection ile yapılan yeni anlaşmalar kapsamında ABD ordusunun "yapay zeka öncelikli" bir savaş gücüne dönüştüğünü açıklamıştı. Lieu, güçlü yapay zeka sistemlerinin kaçak hale gelebileceğini, son derece tehlikeli biçimde davranabileceğini, hatta insan müdahalesine direnç gösterebileceğini vurgulayarak yasa teklifinin böylesi bir durumda hükümetin hızla müdahale edebilmesi için bir yöntem sağlayacağını belirtti.
Teklif, The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead ve The Alliance for Secure AI gibi çeşitli teknoloji ve yapay zeka güvenliği kuruluşlarından kamuoyu desteği de aldı.
