Elon Musk'un yapay zeka girişimi xAI, bu yılın başlarında ABD'nin Güney Carolina eyaletinde küçükleri cinsel istismar suçlamasıyla tutuklanan bir adama, şirketin yapay zeka sistemi Grok'u çocuklara yönelik cinsel istismar materyalleri oluşturmak için kötüye kullandığı iddiasıyla dava açtı.
xAI, Teksas'taki federal mahkemede açılan davada Terry Harwood'un şirketin hizmet şartlarını ihlal ettiğini iddia etti.
Dava, bir AI şirketinin, müstehcen materyal oluşturmak için bir AI sistemi kullandığı iddiasıyla kullanıcılarından birine karşı açtığı ilk davalardan biri.
Şirketin Harwood'a karşı açtığı dava, Grok'un kullanıcıların rızası olmadan cinselleştirilmiş deepfake'ler veya yapay zeka tarafından üretilmiş gerçekçi görünümlü videolar oluşturmasına izin verdiği iddiaları üzerine xAI'nin yoğun küresel incelemesinin ardından geldi.
xAI'nin şikayetinde, şirketin "hesap askıya alma, hesap sonlandırma ve şüpheli çocuk cinsel istismarı materyallerini Kayıp ve İstismara Uğrayan Çocuklar Ulusal Merkezi'ne bildirme yoluyla kurallarını ihlal edenlere karşı uyguladığı" belirtildi.
Davada, "Aslında Davacı 2026 yılında 52.222 hesabı askıya aldı ve NCMEC'e 73.604 rapor sundu, bu da (en az) 244 kişinin tutuklanmasıyla sonuçlandı" denildi.
xAI, Harwood'un yetişkinlerin ve küçüklerin cinsel olmayan resimlerini Grok'a yüklediğini ve sistemi bunlara dayanarak müstehcen deepfakeler oluşturmak için kullanmaya çalıştığını iddia etti.
Şikayette ayrıca yetişkinlerin rızası dışında cinsel görüntülerinin oluşturulduğu iddia edildi.
