Amnesty International ve Save the Children'ın da aralarında bulunduğu 100'den fazla kuruluş, Birleşmiş Milletler'in yapay zekâ yönetişimine ilişkin ilk küresel zirvesinden bir gün önce yayımladıkları ortak çağrıda hükümetleri yapay zekâyı çocuklar için güvenli hâle getirmeye davet ediyor.
Çocuk hakları örgütü 5Rights Foundation’ın öncülük ettiği koalisyon, yapay zekânın hâlihazırda çocuklara zarar verdiğini ve mevcut düzenleyici yaklaşımların, ancak çok geç müdahale ederek çocukları koruyamadığını söylüyor.
Uyarı, Character Technologies ve OpenAI gibi yapay zekâ şirketlerine karşı, teknolojinin çocuklar üzerindeki etkileri nedeniyle açılan dava sayısının artmasıyla birlikte geliyor. Özellikle çocuklarla sürekli duygusal ilişkiyi taklit etmek üzere tasarlanan “yoldaş” sohbet botları mercek altında. Bu şirketlerin, yapay zekâ sohbet botlarını çocuklar için güvenli olduğu iddiasıyla, ancak yeterli uyarı olmaksızın pazarladığı öne sürülüyor.
BM’nin Yapay Zekâ Yönetişimi Küresel Diyaloğu’nun ilki öncesinde pazartesi günü yayımlanan açıklamada grup, hükümetlerin sorunu beslediğini söylediği iş modellerini hedef alması gerektiğini savunuyor.
“Çocuklar sorunun teşhisini bize çok net koydu” dedi 5Rights Vakfı’nın yürütme direktörü Leanda Barrington-Leach.
“Bizden yapay zekâ alanındaki yeniliği durdurmamızı istemiyorlar; fakat zarar ortaya çıktıktan sonra ortalığı toplamak zorunda kalmamamız da gerekiyor.”
Koalisyon, çocuklara zarar verilmesini önlemek amacıyla hükümetlerin benimsemesini istediği on önlem çağrısında bulunuyor.
Bu önlemler arasında, şirketlerin yapay zekâ sistemlerinin piyasaya sürülmeden önce çocuklar için güvenli olduğunu kanıtlamasının zorunlu tutulması; ürünleri çocuk haklarını ihlal eden şirketlere mali yaptırımlar uygulanması; çocukların psikolojik kırılganlıklarını istismar eden tasarım özelliklerinin yasaklanması ve çocuklara ait görüntü, ses ve biyometrik verilerin ticari amaçla kullanımının yasadışı ilan edilmesi yer alıyor.
Grup, bunları hayata geçirmek için yeni yasalara gerek olmadığını; yalnızca hükümetlerin, Çocuk Haklarına Dair BM Sözleşmesi ve hükümetleri çevrimiçi ortamda uluslararası hukuka ve insan haklarına bağlı kalmaya zorlayan küresel çerçeve BM Küresel Dijital Uzlaşısı kapsamındaki mevcut taahhütlerini uygulamasının yeterli olacağını savunuyor.
“Şirketler güvenlikten ziyade hız, etkileşim ve veri toplama becerileri için ödüllendirildiği sürece, biz sadece semptomları tedavi ederken hastalık yaygınlaşmaya devam edecek” diyen Barrington-Leach, çocuk haklarına saygının “iş yapmanın şartı hâline gelmesi, isteğe bağlı bir ekstra olmaktan çıkması gerektiğini” sözlerine ekledi.
