Dünyanın en büyük denetim ve danışmanlık şirketlerinden biri olan KPMG, geçen yıl ekim ayında Total Experience: Redefining Excellence in the Age of Agentic AI başlıklı bir rapor yayımladı. Şirketlerin müşteri ihtiyaçlarını karşılamak için yapay zekayı nasıl kullandığını anlatan bu rapor, görünüşe göre baştan aşağı yapay zeka halüsinasyonlarıyla dolu.
Var Olmayan Örnekler
KPMG; Deloitte, PricewaterhouseCoopers ve Ernst & Young ile birlikte sektörün “Dört Büyükler” olarak anılan firmalarından biri. Ancak raporun, ya hiç var olmayan ya da KPMG’nin iddia ettiği yeteneklere sahip olmayan ajan tabanlı yapay zeka örnekleri içerdiği ortaya çıktı. Yapay zeka içerik tespit aracı geliştiren GPTZero‘nun araştırmacıları, rapor boyunca yanlışlıklar ve sahte dipnotlar tespit etti. Bu bulgular Financial Times tarafından da doğrulandı.
45 Kaynaktan Yalnızca 5’i Gerçek
GPTZero’nun incelemesine göre, rapordaki 45 atıftan yalnızca 5’i gerçek kaynaklara doğru biçimde işaret ediyordu. Toplam 28 atıf, gerçek kaynakların başlıklarını çarpıtmış ya da onlara uydurma bileşenler eklemişti; 12 atıf ise var olup olmadığı anlaşılamayacak kadar muğlaktı. GPTZero, yapay zeka modellerinin uydurma kaynaklar üretmesini “vibe citing” (havasına göre kaynak gösterme) olarak adlandırdı.
Sahte ya da hatalı atıfların yanı sıra, araştırmacılar rapordaki iddiaların yaklaşık yarısının da uydurma veya yanlış atfedilmiş olduğunu buldu. Bunların, bir yapay zeka araştırma aracının “gerçek dünyadan ajan tabanlı yapay zeka örnekleri bul” talebine aşırı uyum sağlamasının sonucu olduğu belirtiliyor.
Benzer Haberler
Yapay Zeka Yeni Fizik Kuralları Bulabilir – Ama Bir Bedeli Var
Coinbase, Kullanıcılar Adına İşlem Yapabilen Yapay Zeka Ajanını Tanıttı
Bezos’un Yapay Zeka Girişimi Prometheus 12 Milyar Dolar Yatırım Aldı
Meta, WhatsApp Business için Yapay Zeka Ajanı Aktif
Siber Güvenlik Uzmanları, Anthropic Modellerine Getirilen Yasağı Protesto Etti
OpenAI, Eyalet Başsavcılarının Oluşturduğu Koalisyonun Soruşturmasıyla Karşı Karşıya
Emirates, UBS ve İsviçre Demiryolları
Bir örnekte KPMG, Emirates‘in yolcularla konuşabilen ve onların uçuşlarını değiştirebilen “Sara” adlı bir mobil sohbet botu kullanıma sunduğunu öne sürdü. Oysa Sara, 2023’te tanıtılan bir mobil asistandı; yapay zeka destekli bir bot değildi ve yolcuların rezervasyonlarını değiştirme yetkisi yoktu. KPMG ayrıca İsviçreli yatırım bankası UBS‘in ajan tabanlı yapay zekayı yatırım danışmanlığı, risk yönetimi ve uyum denetimi süreçlerine entegre ettiğini iddia etti. Banka bu bilginin “olgusal olarak yanlış” olduğunu bildirdi. Benzer şekilde, İsviçre Federal Demiryolları’nın (SBB) yolculara seyahat planlamada yardımcı olan yapay zeka ajanlarına sahip olduğu iddiası da bir SBB sözcüsü tarafından “doğru değil” şeklinde yanıtlandı.
“Kuyuyu Zehirleyebilir”
KPMG gibi şirketlerin raporları, güvenilir kaynaklar sayıldığı için başka araştırma ve makalelerde de sıklıkla alıntılanıyor. GPTZero’nun CEO’su Edward Tian, Dört Büyükler tarafından yayımlanan hatalarla dolu raporların “bilgi kuyusunu zehirleyebileceğini” ve ikinci el yapay zeka halüsinasyonlarına yol açabileceğini söyledi. KPMG sözcüsü ise şirketin “yayımladığı içeriğin doğruluğunu ve bütünlüğünü ciddiye aldığını” belirtti. Şirket o tarihten bu yana raporu yayından kaldırdı ve yayımlanma sürecini incelediğini açıkladı.
Kaynak: Engadget
Ne düşünüyorsun?