Uluslararası denetim ve danışmanlık firması KPMG’nin, yapay zekanın dünya genelinde şirketler tarafından nasıl kullanıldığına ilişkin yayımladığı raporda, teknolojinin benimsenme düzeyini abartan ve yapay zeka halüsinasyonlarına dayandığı değerlendirilen gerçek dışı vaka örneklerine yer verildiği ortaya çıktı.
Ekim ayında yayımlanan “Ajan tabanlı yapay zeka çağında mükemmelliği yeniden tanımlamak” başlıklı raporda, İsviçreli banka UBS, İngiltere Ulusal Sağlık Hizmeti (NHS), İsviçre Federal Demiryolları ve Londra ulaşım sistemi Transport for London gibi kuruluşların yapay zeka kullanımına ilişkin çok sayıda yanlış iddia yer aldı.
Araştırma grubu GPTZero tarafından yapay zeka halüsinasyonları olarak tespit edilen hatalar, Financial Times tarafından da doğrulandı. Konudan haberdar edilmesinin ardından UBS, KPMG’den yanlış iddiaların kaldırılmasını isteyeceğini açıkladı. KPMG ise önceki gün raporu bazı internet sitelerinden kaldırdı.
Söz konusu tespit, profesyonel hizmet şirketlerinin raporlarında görülen yapay zeka kaynaklı hatalara ilişkin son örnek oldu. Geçen ay EY de GPTZero tarafından sahte dipnotlar ve başka hatalar tespit edilen bir çalışmasını geri çekmişti.
UBS: İDDİALAR GERÇEĞİ YANSITMIYOR
KPMG raporunda, küresel varlık yönetimi şirketi UBS’nin “yatırım danışmanlığı, risk yönetimi ve uyum takibi alanlarında yapay zeka ajanlarını entegre ettiği” öne sürüldü.
Raporda, “Bu ajanlar Microsoft ile birlikte geliştirilen bir platform içinde çalışarak kişiselleştirilmiş, verimli ve mevzuata uygun finansal yolculuklar sağlıyor” ifadeleri yer aldı.
UBS sözcüsü ise Financial Times’a yaptığı açıklamada bu iddiaların “gerçeğe aykırı” olduğunu söyledi.
ULAŞIM SİSTEMLERİYLE İLGİLİ İDDİALAR DA YALANLANDI
KPMG’nin çalışmasında, İsviçre Federal Demiryolları’nın kullanıcıların tercihlerine, gerçek zamanlı koşullara ve karbon etkisine göre yolculuk planlamasına, rezervasyon yapmasına ve seyahatlerini optimize etmesine yardımcı olan yapay zeka ajanları sunduğu iddia edildi.
Demiryolu şirketinin sözcüsü, bu ifadenin “doğru olmadığını” teyit etti.
Raporda ayrıca Transport for London’ın “trafik yoğunluğunu öngörmek ve yönetmek, yolculara kişiselleştirilmiş bilgilendirmeler sunmak ve çok modlu ulaşımı koordine etmek” için yapay zeka ajanları kullandığı ileri sürüldü.
Transport for London sözcüsü ise bu iddianın “yanıltıcı” olduğunu belirtti.
NHS İDDİASI BASIN AÇIKLAMASIYLA ÖRTÜŞMEDİ
KPMG raporunda, NHS Greater Manchester’ın hastaneye yeniden yatışları öngörmek, hastaları triyajdan geçirmek ve sevkleri otomatikleştirmek için yapay zeka ajanları kullandığı da iddia edildi.
Bir sözcü, bu iddianın dayandırıldığı basın açıklamasıyla “pek örtüşmediğini” söyledi.
Dipnotlara göre söz konusu ifade, akciğer kanseriyle mücadele için tasarlanmış bir yapay zeka aracına ilişkin duyurudan alınmıştı. Ancak bu duyuruda ajan tabanlı yapay zekanın bu tür görevleri yerine getirdiğine dair herhangi bir ifade bulunmuyordu.
KPMG RAPORU İNCELEMEYE ALDI
KPMG International sözcüsü, şirketin “yayımlanan içeriklerinin doğruluğunu ve bütünlüğünü ciddiye aldığını” belirtti. Sözcü, raporun yayımlanma sürecine ilişkin koşullar incelenirken çalışmanın internet sitelerinden kaldırıldığını açıkladı.
Sözcü, “Tüm çalışanlarımızın, içeriğin doğrulanması ve bağımsız kaynakların teyit edilmesi için insan denetimi de dahil olmak üzere sorumlu yapay zeka kullanımına ilişkin yönergelerimize uymasını bekliyoruz” dedi.
‘BİLGİ HAVUZUNU ZEHİRLİYOR’
GPTZero Üst Yöneticisi Edward Tian, Big Four olarak bilinen büyük denetim ve danışmanlık şirketlerinin hatalarla dolu yayınlarının “bilgi havuzunu zehirlediğini” söyledi.
GPTZero’nun araştırmasına göre KPMG’nin bulgularına şimdiden birçok sektör yayınının yanı sıra büyük bir Çek gazetesi de atıfta bulundu.
Tian, KPMG ve EY gibi büyük danışmanlık şirketlerinin son derece güvenilir görüldüğünü, bu nedenle yanlış bilgilere dayanmalarının “ikinci el halüsinasyon” riskini artırdığını ifade etti.
DANIŞMANLIK ŞİRKETLERİ YAPAY ZEKA HİZMETLERİNİ PAZARLIYOR
KPMG gibi danışmanlık şirketleri, şirketlere yapay zekayı nasıl benimseyecekleri, teknolojiyi sorumlu şekilde nasıl kullanacakları ve hataları önlemek için hangi politikaları uygulamaları gerektiği konusunda yoğun biçimde danışmanlık hizmeti pazarlıyor.
Bu şirketler son birkaç yılda müşteri çekmek amacıyla yapay zeka üzerine yüzlerce “düşünce liderliği” içeriği yayımladı.
“Redefining excellence in the age of agentic AI” başlıklı rapor, KPMG’nin farklı ülkelerdeki danışmanlık grupları tarafından yerel pazarlama iletişim bilgileriyle birlikte dağıtıldı.
Yapay zeka halüsinasyonları, profesyonel hizmetler alanında giderek büyüyen bir sorun haline geliyor. Seçkin hukuk firması Sullivan & Cromwell de nisan ayında bir iflas davasında sunduğu dosyada, ABD iflas kanununun yanlış yorumlanması da dahil olmak üzere çok sayıda yapay zeka kaynaklı hata bulunduğunu kabul etmişti.
