Hong Kong'da bir finans çalışanı, 2024 yılında mühendislik şirketi Arup'taki meslektaşlarıyla gizli bir şirket satın alımını görüşmek üzere görüntülü toplantıya katıldığında hiçbir şey olağandışı görünmüyordu.
Ancak çalışan, 25 milyon dolarlık ödemeyi yaptıktan sonra kandırıldığını anladı. Görüşmedeki diğer herkes, şirketin finans müdürü gibi görünen kişi de dahil olmak üzere, yapay zekâyla oluşturulmuş birer deepfake'ti.
Yapay zekâyla oluşturulan yüzleri gerçek insanlardan ayırt etmek giderek zorlaşıyor.
Danışmanlık şirketi Deloitte'un 2024 tarihli raporuna göre, üretken yapay zekâ kullanılarak gerçekleştirilen dolandırıcılıkların yalnızca ABD'ye maliyetinin gelecek yıl 40 milyar dolara ulaşacağı tahmin ediliyor.
Avustralya Ulusal Üniversitesi'nde (ANU) psikolog doçent Amy Dawel'ın, insanların yapay zekâyla oluşturulan yüzleri daha iyi tespit etmek üzere eğitilip eğitilemeyeceğini araştırmak istemesinin nedenlerinden biri de bu.
Dawel, "Artık yapay zekâyla oluşturulmuş yüzleri tanımakta gerçekten çok kötüyüz" diyor.
Peki yapay zekâyla oluşturulmuş bir yüzü gerçek bir insandan ayırmada siz ne kadar iyisiniz?
'Aşırı ortalama' bir yüz
Yukarıdaki testte zorlandıysanız yalnız değilsiniz.
Dawel, yapay zekâyla oluşturulmuş bir yüzü tespit etmenin zorluğunun, "ister sahte kimlikle insanları kandırmak, ister arkadaşlık siteleri üzerinden dolandırıcılık yapmak, ister banka hesaplarımızı hedef almak olsun" hepimizi etkileyen gerçek sonuçları bulunduğunu söylüyor.
Dawel ile Avustralya, Kanada ve İskoçya'daki meslektaşları, Haziran ayında PNAS adlı bilimsel dergide yayımlanan bir araştırmada insanları eğitmek için yeni bir yaklaşımı test etti.
Yapay zekâ teknolojisi geliştikçe modern sistemler bariz hataları büyük ölçüde ortadan kaldırdı.
Dawel, dolandırıcıların da hata içeren görüntüleri kullanma ihtimalinin düşük olduğunu söylüyor.
Araştırmacılar, insanlara birbiriyle uyuşmayan küpeler ya da biçimi bozulmuş yüz hatları gibi yapay zekâyı ele veren kusurları aramayı öğretmek yerine, her yüzü bir bütün olarak değerlendirerek içgüdüsel karar vermeleri için onları eğitti.
Dawel, "Sorunlardan biri, geçmiş deneyimlerimize dayanarak yapay zekâ yüzlerinin tuhaf görünmesini beklememiz. Oysa aslında kusursuz bir simetriye sahip olmayan ve biraz sıra dışı görünenler insanlar. Dolayısıyla bütün denklem tersine dönmüş durumda" diyor.
Dawel'ın laboratuvarında daha önce yapılan bir araştırma, yapay zekâyla oluşturulan yüzlerin gerçek insan yüzlerinden daha sık "insan" olarak değerlendirildiğini ortaya koymuştu. Araştırmacılar bu olguyu "yapay zekâ hipergerçekçiliği" olarak adlandırdı.
Dawel, yapay zekâ algoritmalarının eğitildikleri on binlerce yüzün matematiksel ortalamasına yönelme eğiliminde olduğunu belirterek, "Yapay zekâyla oluşturulan yüzler, insan yüzleriyle karşılaştırıldığında aslında daha ortalama, hatta aşırı ortalama görünüyor" diyor.
Bu durum, yapay zekâyla oluşturulan yüzlerin gerçek insan yüzlerinden "biraz daha güvenilir ve çekici görünmesine, ayrıca daha tanıdık hissedilmesine" yol açıyor.
Ancak bu araştırmada yalnızca beyaz insanları temsil eden yapay zekâ yüzleri incelendi. Yapay zekâ algoritmaları orantısız biçimde daha fazla beyaz insanın yüzüyle eğitilme eğiliminde.
Dolayısıyla bu yüzlerin, diğerlerine kıyasla özellikle gerçekçi görünmesi mümkün.
Eğitim
Ekip, son araştırmada ilk olarak 45 yetişkinin başlangıçta yapay zekâyla oluşturulmuş yüzleri ne kadar iyi tespit edebildiğini ölçtü.
Testlerden birinde katılımcılara üç yüz gösterildi ve bunlardan hangisinin yapay zekâyla oluşturulduğunu belirlemeleri istendi.
Katılımcılar ortalama olarak yüzde 41 oranında doğru yanıt verdi.
Ardından katılımcılara yaklaşık bir saatlik eğitim verildi.
Dawel'ın aktardığına göre bu eğitimde katılımcılara yarısı gerçek, yarısı yapay zekâyla oluşturulmuş yaklaşık 100 yüz gösterildi.
Katılımcılardan her yüzü altı genel özelliğe göre değerlendirmeleri istendi: Ayırt edicilik, akılda kalıcılık, ifade gücü, simetri, orantılılık ve çekicilik.
Dawel'a göre insan yüzleri daha ayırt edici, akılda kalıcı ve ifade dolu olma eğilimindeyken, yapay zekâyla oluşturulan yüzler genellikle daha simetrik, orantılı ve çekici görünüyor.
Dawel, "Onlara yapay zekâ yüzlerinin daha simetrik olduğunu bile söylemiyoruz" diyor ve ekliyor:
"Yaptıkları tek şey yüzleri simetri açısından değerlendirmek. Onlara yüzün yapay zekâyla mı oluşturulduğu yoksa bir insana mı ait olduğu söyleniyor. Bu deneyim sayesinde yapay zekâ yüzlerinin insan yüzlerinden nasıl farklı göründüğüne ilişkin bir fikir ediniyorlar."
Eğitimin ardından katılımcıların yukarıdaki testteki doğruluk oranı ortalama olarak yaklaşık iki katına çıkarak yüzde 81'e ulaştı.
Kanada'daki araştırmacılar, bu çalışmanın devamı niteliğinde aynı eğitimi farklı bir gönüllü grubuna uyguladı.
Dawel'ın aktardığına göre Kanadalı araştırmacılar "verileri ayrı olarak analiz etti ve aynı ölçüde güçlü faydalar tespit etti".
Doğal içgüdülerimiz
İngiltere'deki Bournemouth Üniversitesi'nde görsel algı üzerine çalışan ve araştırmada yer almayan psikolog Dr. Alejandro Estudillo, BBC'ye yaptığı açıklamada, çalışmayı okuduğunda şaşırdığını söyledi.
Çünkü bu yaklaşım, diğer araştırmacıların kullandığı yöntemlerle çelişiyordu.
Ancak Estudillo'ya göre bu yeni yaklaşımın güzelliği, doğal içgüdülerimizden yararlanması.
"İnsanlar yüzleri tek tek özelliklere odaklanarak işlemez. Bunun yerine 'bütüncül işleme' adı verilen bir yöntem kullanırız" diyen Estudillo, bu süreçte bütün özellikleri biraraya getirerek yüzü etkin bir biçimde tanıdığımızı anlatıyor.
Örneğin bir yüzü ayırt edicilik ya da simetri açısından değerlendirirken belirli bir özelliğe odaklanmaz, yüzün tamamına bakarsınız.
Estudillo, "Belki de en iyi yaklaşımın, katılımcılara yüzleri günlük hayatta yaptıkları gibi doğal biçimde değerlendirmelerini söylemek olabileceğini kimse düşünmemişti" diyor.
'Kedi-fare oyunu'
Ancak araştırmanın bazı sınırlılıkları da var.
Dawel, eğitimin en gerçekçi yapay zekâ yüz üreticilerinden biri olan StyleGAN3 için son derece etkili olduğunun görüldüğünü, ancak diğer yapay zekâ modellerinde de test edilmesi gerektiğini söylüyor.
"Katılımcılarımızın tamamı genç yetişkinlerden oluşuyordu. Dolayısıyla bu eğitimin, dolandırıcılık karşısında özellikle savunmasız olduklarını bildiğimiz çocuklarda ve ileri yaştaki yetişkinlerde işe yarayıp yaramayacağına ilişkin kritik sorular bulunuyor" diye ekliyor.
Araştırmacılara göre asıl zorluk, insanların artık sürekli gelişen yapay zekâ sistemleriyle bir yarış içinde olması.
Yapay zekâyla oluşturulmuş içerikleri tespit etmek için algoritmalardan yararlanan otomatik araçlar mevcut. Ancak bunların da bazı sınırlılıkları bulunuyor.
Bu araçlar yalnızca belirli yapay zekâ ürünlerinde işe yarayabiliyor ve yeni modeller ortaya çıktığında ya da görüntüler düzenlendiğinde zorlanabiliyor.
Bu nedenle araştırmacılar, yapay zekâ deepfake'lerinin tespitinde insanları sürecin merkezinde tutmanın kritik önem taşıdığını söylüyor.
Dawel, "Bu bir kedi-fare oyunu. Sürekli değişen bilgisayar virüslerine benziyor. Onlar değişmeye devam ettikçe bizim de onlara ayak uydurmak için sürekli ilerlememiz gerekiyor" diyor.
Yine de Dawel, araştırmanın bulgularının "umutlu olmak için güçlü nedenler" sunduğuna inanıyor.
Dawel, gelecekte insanlara yalnızca durağan yüzleri değil, yapay zekâyla oluşturulmuş sesleri ve videoları da tespit etme becerisi kazandıracak benzer eğitimlerin geliştirilebileceğini söylüyor.
Böylece hepimiz bir görüşmede gerçek meslektaşlarımızla mı yoksa yapay zekâyla oluşturulmuş deepfake'lerle mi konuştuğumuzu ayırt etme konusunda daha donanımlı hale gelebiliriz.
Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti. Yapay zekayı nasıl kullandığımız hakkında daha fazla bilgi burada.
