Dört büyük yapay zeka (AI) sohbet botu, haber hikayelerini yanlış özetliyor, BBC’nin yaptığı araştırmaya göre.
BBC, OpenAI’nin ChatGPT’si, Microsoft’un Copilot’u, Google’ın Gemini’si ve Perplexity AI içeriğini BBC web sitesinden aldı ve onlara haberler hakkında sorular sordu.
Sonuçta, cevapların “önemli yanlışlıklar” ve çarpıtmalar içerdiğini söyledi.
Bir blogda, BBC Haber ve Güncel İşler CEO’su Deborah Turness, AI’nin “sonsuz fırsatlar” getirdiğini ancak şirketlerin “ateşle oynadığını” söyledi.
“Çalkantılı zamanlarda yaşıyoruz ve bir AI çarpıtılmış başlığın gerçek dünyada önemli zarar vermeye ne kadar sürecek?”, diye sordu.
OpenAI sözcüsü: “Yayıncıları ve yaratıcıları, 300 milyon haftalık ChatGPT kullanıcılarının kaliteli içeriği keşfetmesine yardımcı oluyoruz.” dedi.
Diğer teknoloji şirketleri, sahip oldukları sohbet botları için yorum istenmiştir.
Makale konusuyla ilgili uzman gazetecilerin AI asistanlarının cevaplarının kalitesini derecelendirmesini istedi.
Çalışma, AI cevaplarının %51’inin önemli sorunları olduğunu buldu.
Ayrıca, BBC içeriğini alıntılayan AI cevaplarının %19’u gerçeği yanlış aktardı, yanlış ifadeler, sayılar ve tarihler içerdi.
Blogunda, Bayan Turness, BBC’nin AI teknoloji sağlayıcılarıyla “yeni bir konuşma açmak” istediğini ve “birlikte çözüm bulmak” istediğini söyledi.
Tech şirketlerine, haber özetlerini geri çekmelerini istedi, Apple’ın yaptığı gibi, BBC’nin Apple Intelligence’in haber hikayelerini yanlış aktardığı şikayetinden sonra.
BBC tarafından bulunan bazı yanlışlıklar örnekleri şunlardır:
Genel olarak, Microsoft’un Copilot’u ve Google’ın Gemini’si, OpenAI’nin ChatGPT’si ve Perplexity’den daha fazla önemli sorunlara sahipti, Jeff Bezos’un yatırımcılarından biri olarak.
Normalde, BBC, AI sohbet botlarından içeriğini engelliyor, ancak Aralık 2024’te test süresince web sitesini açtı.
Rapor, sohbet botlarının “faktör yanlışlıklarına sahip olduğunu, görüş ve gerçeği ayırt edemediğini, editöryalize ettiğini ve genellikle gerekli bağlamı eksik bıraktığını” söyledi.
BBC’nin Jeneratif AI Program Direktörü Pete Archer, “yayıncıların içeriğinin nasıl ve ne zaman kullanıldığını kontrol etmesi gerektiğini ve AI şirketlerinin haber işlemesini ve hatalarını göstermesi gerektiğini” söyledi.
OpenAI sözcüsü, BBC Haber’e: “Ortaklarımızla birlikte, in-line alıntı doğruluğunu geliştirmek ve yayıncı tercihlerini saygı göstermek için çalışıyoruz, ayrıca robots.txt’de OAI-SearchBot’u yöneterek arama sonuçlarını geliştiriyoruz.” dedi.
Robots.txt, bir web sayfasının kodunda bulunan bir talimat olup, botun o sayfayı arama sonuçlarında kullanmamasını istiyor.