Son dönemde yapay zeka ile ilgili risklere dikkat çekerek çarpıcı açıklamalarda bulunan Anthropic'in CEO'su Dario Amodei, hükümetin, belirli riskler taşıyan yeni yapay zeka modellerinin geliştirilmesini engelleme yetkisine sahip olması gerektiğini söyledi.
Çarşamba günü yayınladığı uzun bir makalede Amodei, yapay zeka modellerinin, siber güvenlik tehditleri ve biyolojik silahlar da dahil olmak üzere çeşitli kategorilerde oluşturdukları riskleri değerlendirmek için üçüncü taraflarca zorunlu testlerden geçmesi gerektiğini savundu.
Yapay zekanın "kabul edilemez riskler taşıdığı" düşünülürse, "hükümetin, geliştirilmesini engelleme veya caydırma yetkisine sahip olması gerektiğini" yazdı.
Amodei, geçmişte de yapay zeka teknolojisine geliştikçe daha sıkı düzenlemeler getirilmesi gerektiğini söylemişti. Anthropic, geçen hafta hükümetlerin ve yapay zeka geliştiricilerinin, teknolojinin oluşturabileceği tehlikeleri önlemek için çalışmaları ne zaman yavaşlatacaklarına birlikte karar verecekleri bir sistemin oluşturulmasını talep etmişti.
Amodei, "Şeffaflığın ötesine geçip yapay zekânın daha ciddi ve bağlayıcı bir şekilde düzenlenmesinin zamanı geldi. En iyi benzetmenin, en azından üstel büyümenin mevcut aşamasında, arabalar, uçaklar veya uyuşturucular olduğunu düşünüyorum. Modern ekonomi için gerekli olan güçlü teknolojiler, ancak kötü tasarlanır veya işletilirse çok sayıda insanı öldürebilir" dedi.
YENİ MODEL ENDİŞE YARATMIŞTI
Uzun zamandır kendisini daha sorumlu bir yapay zeka geliştiricisi olarak konumlandıran Anthropic, daha önce kritik yazılımlardaki güvenlik açıklarını tespit edip istismar edebilen Mythos adlı daha güçlü bir yapay zeka modelini duyurarak endişelere yol açmıştı.
Şirket, aracın dağıtımını seçilmiş ortaklarla sınırlama kararı almıştı. Salı günü Anthropic, siber güvenlik yeteneklerine erişim sağlamayan farklı bir sürüm yayınladı.
Amodei, makalesinde Mythos'u "yapay zekanın inanılmaz gücünün yanı sıra risklerinin de" en önemli örneği olarak gösterdi.
