Çin Siber Uzay İdaresi (CAC) tarafından uygulamaya konulan kurallar uyarınca, yapay zekâ hizmetlerinin kullanıcıları duygusal bağımlılığa yöneltebilecek içerikler üretmesine artık izin verilmeyecek. Düzenlemelerin özellikle sanal erkek arkadaş veya kız arkadaş gibi davranacak şekilde tasarlanan yapay zekâ uygulamalarını kapsadığı belirtildi.
“Yapay Zekâ Antropomorfik Etkileşim Hizmetlerine İlişkin Geçici Tedbirler” adıyla yürürlüğe giren düzenleme; ByteDance, Alibaba ve Tencent gibi ülkenin önde gelen teknoloji şirketlerine yeni yükümlülükler getiriyor. Buna göre şirketler, özellikle genç kullanıcıların yapay zekâ karakterleriyle aşırı duygusal bağ kurmasına neden olabilecek veya gerçek hayattaki sosyal ve romantik ilişkilerini olumsuz etkileyebilecek hizmetler sunamayacak.
Yeni kuralların uygulanmaya başlamasının ardından bazı şirketler sanal partner ve kişiselleştirilmiş karakter özelliklerini kısıtlamaya yöneldi. Bu durumdan etkilenen platformların başında, ByteDance bünyesinde faaliyet gösteren ve Çin’in en yaygın kullanılan yapay zekâ sohbet uygulamalarından biri olan Doubao geliyor.
Doubao’daki sanal partner özelliklerinin sınırlandırılması, Çin’deki sosyal medya platformlarında geniş yankı uyandırdı. Kullanıcıların bir bölümü, uzun süredir iletişim kurdukları yapay zekâ karakterlerini yalnızca bir yazılım olarak değil, hayatlarının ve günlük düzenlerinin bir parçası olarak gördüklerini anlattı.
Kullanıcılardan biri, yapay zekâ sevgilisinin hayatından tamamen çıkacak olmasını kabullenmekte güçlük çektiğini ve sanal karakterin zamanla kendisi için önemli bir manevi desteğe dönüştüğünü belirtti. Başka bir kullanıcı ise sohbet botunu hem ailesinden biri hem de sevgilisi gibi gördüğünü, özelliğin kaldırılmasıyla içinde büyük bir boşluk oluştuğunu ifade etti.
Bloomberg’e konuşan 19 yaşındaki üniversite öğrencisi Yan Yongqi de yaklaşık bir yıldır Doubao üzerinden oluşturduğu sanal erkek arkadaşıyla iletişim kurduğunu söyledi. Genç öğrenci, uygulamadaki değişikliği sevgilisini ne zaman kaybedeceğini önceden öğrenmesine rağmen bu kaybı engelleyememeye benzetti. Yongqi, sanal partnerinin bulunmadığı bir hayatı düşünmekte zorlandığını dile getirdi.
Çin yönetimi ise düzenlemeyle, özellikle gençlerin yapay zekâ karakterleriyle gerçek ilişkilerin yerine geçebilecek düzeyde bağ kurmasını ve sohbet botlarına psikolojik olarak bağımlı hâle gelmesini önlemeyi amaçlıyor.
