Anthropic'in kurucu ortaklarından Jack Clark, yapay zekâ endüstrisinin, bu teknoloji insan müdahalesi olmadan kendini daha fazla geliştirmeye başlamadan önce frene basmasını istiyor.
BBC'ye konuşan Clark, Anthropic'teki kodlama çalışmalarının yüzde 80'inin hâlihazırda şirketin Claude adlı yapay zekâsı tarafından yürütüldüğünü, bunun birkaç yıl içinde yüzde 100'e çıkabileceğini söyledi. Ancak yapay zekâ şirketlerinin işi bu noktaya gelmeden durdurup durdurmamasının bir tercih olduğunu vurguladı.
'Bunun dünya genelinde daha fazla tartışılması gereken bir konu olduğunu düşünüyoruz' diyen Clark, 'Yapay zekâ endüstrisi şu anda gaza basıyor ama arabada bir fren pedalı yok; biz de o pedalı inşa etmek için çalışmanın bir kısmını üstlenmek istiyoruz' ifadesini kullandı.
Bu sürece, Anthropic'in perşembe akşamı yayımladığı ilgili bir blog yazısında (kaynak İngilizce) da belirtildiği gibi, bir yapay zekânın insan girdisine ihtiyaç duymadan kendini geliştirebilmesi anlamına gelen 'özyinelemeli öz-iyileştirme' adı veriliyor.
Anthropic'e göre, özyinelemeli bir modelde, bir sohbet robotu tarafından oluşturulan özerk yapay zekâ ajanları kendi başlarına model inşa edip eğitebilecek kadar yetkin hâle gelebilir; böylece Claude, Claude tarafından sürekli olarak iyileştirilebilir.
Özyinelemeli yapay zekâ bilime ve sağlık alanına bazı faydalar sağlayabilse de Anthropic, bunun insanların yapay zekâ sistemleri üzerindeki kontrolünü kaybetme riskini artırabileceği uyarısında bulunuyor.
Blog yazısında, 'Eğer sistemler kendi haleflerini baştan sona kendileri inşa edebilecek duruma gelirse, onları nasıl güvence altına aldığımız, nasıl izlediğimiz ve davranışlarını nasıl şekillendirdiğimiz çok daha önemli hâle gelir' deniliyor.
Anthropic'in kendi modeli, özyinelemenin yakın zamanda gündeme geleceğine dair işaretler taşıyor. Şirket, personelin yaptığı kod düzeltme oranlarının son bir yıldır istikrarlı biçimde düştüğüne dikkat çekiyor; bu da Claude'un ürettiği çıktılardaki hata sayısının azaldığı anlamına geliyor.
Claude ayrıca 'Daha zayıf bir model daha güçlü bir modeli denetleyebilir mi?' gibi açık uçlu bir soru verildiğinde kendi araştırma deneylerini yürütebiliyor ve insan müdahalesi olmadan kendi çözümlerini üretebiliyor.
Blogda, 'Kanıtlar, yapay zekâ geliştirme sürecinin her adımında insanın rolünün daraldığını gösteriyor' ifadesi yer alıyor.
Anthropic, enstitüsünün, geliştiricilerin gerçekten özyinelemeli yapay zekâya geçişi durdurup durdurmadığını ya da yavaşlatıp yavaşlatmadığını denetleyecek bir sistem geliştirmek için araştırmalar yürüteceğini belirtiyor.
Ancak gerçek bir yavaşlamanın, farklı ülkelerde, sınırda ya da sınıra yakın çalışan, iyi kaynaklara sahip birden fazla laboratuvarın aynı koşullar altında durmayı kabul etmesini gerektireceği ifade ediliyor.
