Google hat einen Werbespot für sein führendes KI-Tool Gemini nachbearbeitet, nachdem es die globale Nachfrage nach Gouda überschätzt hatte.
Der Werbespot, der während des Super Bowl ausgestrahlt werden sollte, zeigte das Tool, das einem Käsemonger in Wisconsin half, eine Produktbeschreibung zu schreiben, indem es ihm mitteilte, dass Gouda „50 bis 60 Prozent des globalen Käsekonsums“ ausmache.
Ein Blogger wies jedoch darauf hin, dass diese Statistik „unequivokal falsch“ sei, da der niederländische Käse nirgendwo so beliebt sei.
In seiner Antwort behauptete Google-Manager Jerry Dischler, dass dies kein „Halluzination“ – wo KI-Systeme unwahre Informationen erfinden – sei, sondern dass die Websites, die Gemini abgerufen habe, die falsche Information geliefert hätten.
„Gemini basiert auf dem Web – und Benutzer können immer die Ergebnisse und Referenzen überprüfen“, schrieb er.
„In diesem Fall enthalten mehrere Websites im Web die 50-60%-Statistik.“
Der Werbespot wurde jetzt nachbearbeitet, um den Fehler zu entfernen.
Google hat ihn auf YouTube – das es besitzt – hochgeladen, und er enthält jetzt keine Referenz mehr auf den Prozentsatz, den die Welt Gouda konsumiert.
In einer Erklärung sagte Google der BBC, dass es den Werbespot nach einem Gespräch mit dem Käsemonger, der in dem Werbespot auftrat, und nachdem er gefragt wurde, was er tun würde, neu erstellt habe.
„Nach seinem Vorschlag, Gemini die Produktbeschreibung ohne die Statistik neu zu schreiben, haben wir die Benutzeroberfläche aktualisiert, um zu zeigen, was das Unternehmen tun würde“, fügte die Erklärung hinzu.
Genauere Zahlen zum Käse sind schwierig zu ermitteln – jedoch wird angenommen, dass Cheddar tatsächlich die beliebtester Sorte auf der Welt ist, obwohl die Vorlieben von Land zu Land variieren. Ein weiterer großer Konkurrent ist Mozzarella, aufgrund seiner Verwendung in Pasta und Pizza.
Der Vorfall ist peinlich für Google, angesichts des extrem hohen Profils des Super Bowl und der extra Aufmerksamkeit, die Werbespots für ihn erhalten.
Blogger Nate Hake – der den Fehler bemerkte – nannte es ein Beispiel für „KI-Schlamperei“.
Aber es ist nicht das erste Mal, dass der Technologieriese sich über seine KI-Produkte in Schwierigkeiten befindet.
Ein Jahr zuvor wurde Gemini „angehalten“, nachdem Kritik an den „woken“ Bildern aufkam, die es generierte, wie zum Beispiel ein Bild der US-Gründerväter, das einen schwarzen Mann fälschlicherweise einschloss.
Es hatte sogar vorherige Probleme mit Käse.
Im Mai letzten Jahres wurde seine AI-Übersicht-Suche kritisiert, nachdem sie einige Benutzer aufforderte, „nicht-toxisches Klebstoff“ zu verwenden, wenn sie nach „Wie kann ich Käse besser auf Pizza kleben“ suchten.
Die von der Suchmaschine generierten Antworten sagten auch, dass Geologen empfehlen, täglich einen Stein zu essen.
Probleme mit KI-Werkzeugen sind nicht auf Google beschränkt – im Januar wurde Apple gezwungen, seinen Nachrichten-Alert-Summarizer nachdem es eine Reihe von ungenauen Headlines erfunden hatte, zu suspendieren.
Werbespots während des Super Bowl selbst sind auch keine Fremden in Kontroversen.
Im letzten Jahr machte Uber Eats letzte Minute Änderungen an seinem Werbespot, nachdem Kritik aufkam, dass er unangemessen leicht über Lebensmittelallergien machte.