Meta, kamuya açık Instagram hesaplarındaki fotoğrafların yapay zekâ görsellerinde kullanılmasını sağlayan özelliği gizlilik tepkileri üzerine kapattı. Aynı hafta tanıtılan tespit sistemi, kırpılan görsellerin yüzde 55’ini tanıyamadı.
Meta, salı günü kullanıma sunduğu Muse Image modelindeki tartışmalı Instagram özelliğini cuma günü kaldırdı. Özellik, kullanıcıların kamuya açık Instagram hesaplarını etiketleyerek bu hesaplardaki fotoğraflardan yeni yapay zekâ görselleri üretmesine izin veriyordu.
Şirketin geri adımı, kullanıcıların sisteme açık onay vermeden dahil edilmesine yönelik tepkilerin büyümesinin ardından geldi. Muse Image tamamen kapatılmadı; yalnızca kamuya açık Instagram hesaplarının etiketlenerek görsel üretiminde kullanılmasını sağlayan bölüm devreden çıkarıldı.
Instagram fotoğrafları yapay zekâya açılmıştı
Meta Superintelligence Labs tarafından geliştirilen Muse Image, şirketin kendi bünyesinde hazırladığı ilk görsel üretim modeli olarak 7 Temmuz’da tanıtıldı.
Meta AI sohbet sistemine entegre edilen model, yazılı komutları yorumlayabiliyor, fotoğrafları kaynak olarak kullanabiliyor ve oluşturulan görsellerin çizim ya da işaretlemelerle düzenlenmesine imkân veriyor.
Tartışma yaratan özellik ise kullanıcıların kamuya açık bir Instagram hesabını etiketleyerek o hesaptaki fotoğrafları yeni görsellerin üretiminde kullanabilmesiydi. Özel hesaplar ile 18 yaşından küçük kullanıcılara ait hesaplar sistemin dışında tutuldu.
Kamuya açık yetişkin hesaplarının ise özelliği ayarlardan kapatması gerekiyordu. Kullanıcıların sisteme önceden açık onay vermesi yerine kapsam dışında kalmak için işlem yapmak zorunda bırakılması eleştirilerin merkezine yerleşti.
Eğlence sektöründen tepki geldi
Oyuncuları ve medya çalışanlarını temsil eden SAG-AFTRA, üyelerine özelliği kapatmaları çağrısında bulundu. Sendika, kişilerin görüntülerinin bu tür sistemlerde kullanılabilmesi için açık ve kolay anlaşılır onay alınması gerektiğini savundu.
Hollywood’daki yetenek ajansları ve menajerlik şirketleri de izinsiz dijital kopyalar oluşturulabileceği gerekçesiyle Meta’ya tepki gösterdi.
Eleştiriler, kamuya açık bir fotoğrafın paylaşılmış olmasının söz konusu kişinin görüntüsünün yeni yapay zekâ içeriklerinde kullanılmasına otomatik olarak izin verdiği anlamına gelmeyeceği noktasında yoğunlaştı.
Yapay zekâ ile üretilen sahte görüntülerin dolandırıcılık, itibar kaybı ve kişilerin izni dışında ticari içerik hazırlanması amacıyla kullanılabileceği uyarısı yapıldı.
Meta özelliği kaldırdı
Meta, kullanıcı geri bildirimlerinin özelliğin hedeflenen kullanım biçimine ulaşmadığını gösterdiğini belirterek Instagram hesaplarının etiketlenmesine dayalı sistemi kaldırdı.
Şirket, başlangıçtaki amacının kullanıcılara yaratıcı bir araç sunmak ve kamuya açık içeriklerin kullanımı konusunda kontrol sağlamak olduğunu bildirdi.
Salı günü tanıtılan özelliğin cuma günü kapatılmasıyla Meta’nın yeni yapay zekâ adımı üç gün içinde sona ermiş oldu.
SAG-AFTRA, geri çekilme kararını olumlu karşıladı. Tartışma, teknoloji şirketlerinin kamuya açık sosyal medya içeriklerini yapay zekâ sistemlerinde hangi koşullarda kullanabileceğine ilişkin sınırları yeniden gündeme taşıdı.
Tespit sistemi de testte zorlandı
Meta’nın aynı hafta tanıttığı yapay zekâ görsel tespit aracı da yapılan testte sınırlı sonuç verdi.
Reuters, Muse Image kullanılarak oluşturulan 40 görseli Meta’nın tespit aracında denedi. Sistem, görsellerin değiştirilmemiş hallerinin tamamını yapay zekâ ürünü olarak doğruladı.
Aynı görseller yaklaşık üçte bir ile yarı oranında kırpıldığında ise tespit aracı örneklerin yüzde 55’ini tanıyamadı.
Meta, yapay zekâ ile oluşturulan görsellere Content Seal adı verilen görünmez bir işaret yerleştiriyor. Sistem, görselin Meta’nın yapay zekâ modelleri tarafından hazırlanıp hazırlanmadığının doğrulanmasını amaçlıyor.
Şirket, tespit aracının henüz ön izleme aşamasında olduğunu ve yoğun biçimde kırpılan görsellerde görünmez işaretin zayıflayabileceğini belirtti.
Muse Image kullanılmaya devam edecek
Instagram hesaplarını kaynak olarak kullanan özellik kaldırılmasına rağmen Muse Image diğer işlevleriyle Meta AI içinde kullanılmaya devam edecek.
Model, Instagram hikâyeleri için 30’dan fazla yapay zekâ efektine güç veriyor. Belirli ülkelerde WhatsApp üzerindeki Meta AI sohbetlerinde de görsel üretilebiliyor.
Meta, Muse Image’ı ilerleyen dönemde Facebook ve Messenger’a genişletmeyi planlıyor. Modelin reklamverenlere Meta Advantage+ üzerinden sunulması da hedefleniyor.
Son geri adım, şirketin yapay zekâ yatırımlarını durdurduğu anlamına gelmiyor. Ancak kamuya açık sosyal medya içeriklerinin kullanımında açık onay, kişilik hakları ve yapay zekâ görsellerinin güvenilir biçimde tespit edilmesi Meta’nın önündeki başlıca sorunlar olarak kalmaya devam ediyor.
