Quattro importanti chatbot di intelligenza artificiale (AI) stanno riassumendo in modo inaccurato le storie di notizie, secondo una ricerca condotta dalla BBC.
La BBC ha fornito a OpenAI’s ChatGPT, Microsoft’s Copilot, Google’s Gemini e Perplexity AI contenuti dal sito web della BBC e ha chiesto loro domande sulla notizia.
Ha detto che le risposte risultanti contenevano “inaccurateze significative” e distorsioni.
In un blog, Deborah Turness, CEO di BBC News e Current Affairs, ha detto che l’AI porta “opportunità infinite” ma le aziende che sviluppano gli strumenti stanno “giocando con il fuoco”.
“Viviamo in tempi difficili, e quanto tempo passerà prima che un titolo distorto da AI causi un danno significativo nel mondo reale?”, ha chiesto.
Un portavoce di OpenAI ha detto: “Sosteniamo gli editori e i creatori aiutando 300 milioni di utenti settimanali di ChatGPT a scoprire contenuti di qualità attraverso riassunti, citazioni, link chiari e attribuzione.”
Le altre aziende tecnologiche che possiedono i chatbot sono state avvicinate per un commento.
Nello studio, la BBC ha chiesto a ChatGPT, Copilot, Gemini e Perplexity di riassumere 100 storie di notizie e ha valutato ogni risposta.
Ha ottenuto giornalisti che erano esperti rilevanti nel soggetto dell’articolo per valutare la qualità delle risposte degli assistenti AI.
Ha trovato che il 51% di tutte le risposte AI alle domande sulla notizia aveva problemi significativi di qualche forma.
Inoltre, il 19% delle risposte AI che citavano contenuti della BBC introduceva errori fattuali, come affermazioni fattuali errate, numeri e date.
Nel suo blog, la signora Turness ha detto che la BBC stava cercando di “aprire una nuova conversazione con i provider di tecnologia AI” in modo da poter “lavorare insieme in partnership per trovare soluzioni”.
Ha chiamato le aziende tecnologiche a “tirare indietro” le loro riassuntive di notizie AI, come ha fatto Apple dopo le lamentele della BBC che Apple Intelligence stava rappresentando in modo errato le storie di notizie.
Alcuni esempi di inaccurazeze trovate dalla BBC includevano:
In generale, Microsoft’s Copilot e Google’s Gemini avevano problemi più significativi rispetto a OpenAI’s ChatGPT e Perplexity, che conta Jeff Bezos come uno dei suoi investitori.
Normalmente, la BBC blocca il suo contenuto dagli chatbot AI, ma ha aperto il suo sito web per la durata dei test in dicembre 2024.
Il rapporto ha detto che, oltre a contenere inaccurazeze fattuali, i chatbot “lottavano per differenziare tra opinione e fatto, editorializzavano e spesso non includevano contesto essenziale”.
Il direttore del programma della BBC per l’AI generativa, Pete Archer, ha detto che gli editori “dovrebbero avere il controllo su come e se il loro contenuto viene utilizzato e le aziende AI dovrebbero mostrare come gli assistenti elaborano le notizie insieme alla scala e all’ambito degli errori e delle inaccurazeze che producono”.
Un portavoce di OpenAI ha detto a BBC News: “Abbiamo collaborato con i partner per migliorare l’accuratezza delle citazioni in linea e rispettare le preferenze degli editori, incluso abilitare come essi appaiono nei risultati di ricerca gestendo OAI-SearchBot nel loro robots.txt. Continueremo a migliorare i risultati di ricerca.”
Robots.txt è un’istruzione nel codice di una pagina web che chiede a un bot di non utilizzare quella pagina nei risultati di ricerca.