Vier große künstliche Intelligenz-Chatbots (KI) fassen Nachrichtenstorys ungenau zusammen, laut einer Forschung des BBC.
Die BBC gab OpenAI’s ChatGPT, Microsoft’s Copilot, Google’s Gemini und Perplexity AI-Inhalt von der BBC-Website und stellte ihnen Fragen zu den Nachrichten.
Es sagte, dass die resultierenden Antworten „signifikante Ungenauigkeiten“ und Verzerrungen enthielten.
In einem Blog, sagte Deborah Turness, die CEO von BBC News und Current Affairs, dass KI „endlose Möglichkeiten“ bringe, aber die Unternehmen, die die Tools entwickeln, „mit Feuer spielen“.
„Wir leben in schwierigen Zeiten, und wie lange wird es dauern, bis ein AI-verzerrter Titel bedeutenden Schaden in der realen Welt verursacht?“, fragte sie.
Ein Sprecher von OpenAI sagte: „Wir unterstützen Verleger und Ersteller, indem wir 300 Millionen wöchentliche ChatGPT-Nutzer dabei helfen, qualitativ hochwertigen Inhalt durch Zusammenfassungen, Zitate, klare Links und Attribution zu entdecken.“
Die anderen Tech-Unternehmen, die die Chatbots besitzen, wurden um einen Kommentar gebeten.
In der Studie, bat die BBC ChatGPT, Copilot, Gemini und Perplexity, 100 Nachrichtenstorys zusammenzufassen, und bewertete jede Antwort.
Es holte Journalisten, die relevante Experten in dem Thema des Artikels waren, um die Qualität der Antworten von den KI-Assistenten zu bewerten.
Es fand heraus, dass 51% aller KI-Antworten auf Fragen zu den Nachrichten signifikante Probleme irgendwelcher Art hatten.
Darüber hinaus führten 19% der KI-Antworten, die BBC-Inhalt zitierten, faktische Fehler ein, wie falsche faktische Aussagen, Zahlen und Daten.
In ihrem Blog sagte Ms Turness, dass die BBC versuche, „eine neue Konversation mit KI-Technikanbietern“ zu eröffnen, damit wir „gemeinsam in Partnerschaft Lösungen finden können“.
Sie forderte die Tech-Unternehmen auf, ihre KI-Nachrichtenzusammenfassungen „zurückzuziehen“, wie Apple nach Beschwerden von der BBC, dass Apple Intelligence Nachrichtenstorys missverständlich darstellte.
Einige Beispiele für Ungenauigkeiten, die die BBC fand, waren:
Im Allgemeinen hatten Microsoft’s Copilot und Google’s Gemini mehr signifikante Probleme als OpenAI’s ChatGPT und Perplexity, an dem Jeff Bezos als einer der Investoren beteiligt ist.
Normalerweise blockiert die BBC ihren Inhalt vor KI-Chatbots, aber sie öffnete ihre Website für die Dauer der Tests im Dezember 2024.
Der Bericht sagte, dass die Chatbots neben faktischen Ungenauigkeiten „stritten, zwischen Meinung und Fakten zu unterscheiden, editorisierten und oft wesentlichen Kontext ausließen“.
Der Programmleiter der BBC für generative KI, Pete Archer, sagte, dass Verleger „Kontrolle darüber haben sollten, ob und wie ihr Inhalt verwendet wird, und KI-Unternehmen sollten zeigen, wie Assistenten Nachrichten verarbeiten, zusammen mit dem Umfang und der Reichweite von Fehlern und Ungenauigkeiten, die sie produzieren“.
Ein Sprecher von OpenAI sagte der BBC News: „Wir haben mit Partnern zusammengearbeitet, um die Genauigkeit von Inline-Zitaten zu verbessern und die Präferenzen von Verlegern zu respektieren, einschließlich der Steuerung, wie sie in Suchergebnissen erscheinen, indem wir OAI-SearchBot in ihrem robots.txt verwalten. Wir werden die Suche weiter verbessern.“
Robots.txt ist eine Anweisung in einem Webseiten-Code, die einem Bot sagt, diese Seite nicht in Suchergebnissen zu verwenden.