Seit Israel letzte Woche Luftangriffe auf den Iran gestartet hat, ist eine Flut von Online-Desinformationen aufgetaucht. BBC Verify hat zahlreiche Beiträge geprüft und dabei eine konzertierte Aktion zur Übertreibung der Auswirkungen der Vergeltungsmaßnahmen Teherans aufgedeckt.
Analysen enthüllten zahlreiche KI-generierte Videos, die Irans militärische Fähigkeiten präsentieren, zusammen mit gefälschten Aufnahmen, die israelische Ziele unter Beschuss zeigen. Drei prominente gefälschte Videos erreichten über 100 Millionen Aufrufe auf verschiedenen Plattformen.
Umgekehrt verbreiteten pro-israelische Accounts Desinformationen, indem sie veraltetes Filmmaterial von iranischen Protesten erneut verbreiteten und fälschlicherweise eine weitverbreitete anti-regierungale Stimmung und Unterstützung für Israels Kampagne darstellten.
Die ersten israelischen Angriffe begannen am 13. Juni und lösten eine Reihe iranischer Raketen- und Drohnenangriffe auf Israel aus.
Eine Open-Source-Intelligence-Organisation bezeichnete das Volumen der Desinformationen als „erschreckend“ und beschuldigte „Engagement-Farmer“, den Konflikt für Online-Aufmerksamkeit und Profit auszunutzen.
Geoconfirmed, eine Online-Verifizierungsgruppe, berichtete auf X: „Wir sehen alles, von nicht zusammenhängendem Filmmaterial aus Pakistan bis hin zu wiederverwerteten Videos von Angriffen im Oktober 2024 – einige mit über 20 Millionen Aufrufen – zusammen mit Spielclips und KI-generierten Inhalten, die als echte Ereignisse dargestellt werden.“
Bestimmte Accounts verstärkten diese Desinformationen schnell und erhöhten damit ihre Follower-Zahlen erheblich. Ein pro-iranischer Account, „Daily Iran Military“, ohne offensichtliche Verbindungen zu Teherans Behörden, verzeichnete zwischen dem 13. und 19. Juni ein 100%iges Follower-Wachstum auf X, von 700.000 auf 1,4 Millionen.
Zahlreiche ähnliche Accounts, viele mit verifiziertem Status, haben sich verbreitet, was Bedenken hinsichtlich ihrer Authentizität und Herkunft aufwirft.
Emmanuelle Saliba, Chief Investigative Officer bei Get Real, beschrieb dies in Kommentaren an BBC Verify als „das erste Mal, dass wir generative KI in großem Umfang während eines Konflikts eingesetzt sehen.“
BBC Verify überprüfte Accounts, die häufig KI-generierte Bilder teilten, welche die Wirksamkeit der iranischen Reaktion übertrieben. Ein Bild, das 27 Millionen Mal angesehen wurde, zeigte zahlreiche Raketen, die Tel Aviv treffen.
Ein anderes Video behauptete, einen nächtlichen Raketenangriff auf ein israelisches Gebäude zu zeigen; Frau Saliba bemerkte die Schwierigkeit, solche Clips zu verifizieren.
KI-generierte Fälschungen konzentrierten sich auch auf Behauptungen über zerstörte israelische F-35-Kampfjets. Wenn dies zutreffen würde, würde die Anzahl der angeblich zerstörten Jets 15 % von Israels Flotte ausmachen, so Lisa Kaplan, CEO von Alethea. Es wurden jedoch keine solchen Aufnahmen verifiziert.
Ein weit verbreiteter Beitrag, der angeblich einen abgeschossenen F-35 zeigt, wies deutliche KI-Manipulationen auf: unverhältnismäßige Objektgrößen und fehlende Aufprallspuren.
Ein TikTok-Video (mit 21,1 Millionen Aufrufen), das angeblich einen abgeschossenen F-35 zeigt, wurde als Filmmaterial aus einem Flugsimulator-Spiel identifiziert und nach Intervention von BBC Verify von TikTok entfernt.
Frau Kaplan verband einige der F-35-Desinformationen mit Netzwerken, die zuvor mit russischen Einflussaktionen in Verbindung gebracht wurden, was auf eine Verlagerung des Fokus von der Untergrabung der Unterstützung für den Ukraine-Krieg hin zur Diskreditierung westlicher Waffen hinweist.
„Russland fehlt eine Antwort auf die F-35. Wie kontert es sie also? Indem es ihre Unterstützung in bestimmten Ländern untergräbt“, erklärte Frau Kaplan.
Etablierte Accounts mit einer Geschichte der Beteiligung an Konflikten, einschließlich des Israel-Gaza-Konflikts, verbreiteten ebenfalls Desinformationen. Ihre Motivationen waren unterschiedlich, aber oft mit potenzieller Monetarisierung durch Plattform-Anreize verbunden.
Pro-israelische Beiträge konzentrierten sich hauptsächlich auf die angeblich zunehmende Unzufriedenheit im Iran.
Dazu gehört ein weit verbreitetes, KI-generiertes Video, das fälschlicherweise Iraner zeigt, die in Teheran „Wir lieben Israel“ rufen.
Vor kurzem, angesichts von Spekulationen über mögliche US-Angriffe auf iranische Nuklearanlagen, sind KI-generierte Bilder von B-2-Bombern über Teheran aufgetaucht. Die Fähigkeit der B-2, unterirdische Nuklearanlagen anzugreifen, hat diese Erzählung befeuert.
Offizielle Quellen sowohl im Iran als auch in Israel haben einige dieser gefälschten Bilder geteilt. Teherans staatliche Medien verbreiteten gefälschte Aufnahmen von Angriffen und ein KI-generiertes Bild eines abgeschossenen F-35, während ein IDF-Beitrag auf X wegen der Verwendung nicht zusammenhängenden älteren Filmmaterials gekennzeichnet wurde.
Ein Großteil der von BBC Verify überprüften Desinformationen erschien auf X, wo Benutzer häufig Grok, den KI-Chatbot von X, zur Verifizierung nutzten. Grok bestätigte jedoch bestimmte KI-Videos fälschlicherweise als echt.
Ein Beispiel ist ein Video von Lastwagen, die Raketen aus einem Bergkomplex transportieren. Trotz offensichtlicher KI-Manipulation (sich unabhängig bewegende Felsen) bestätigte Grok wiederholt seine Authentizität und verwies auf Berichte von Newsweek und Reuters.
X antwortete nicht auf die Anfrage von BBC Verify zu diesem Chatbot-Verhalten.
Ähnliche Videos erschienen auf TikTok und Instagram. TikTok erklärte, dass sie Richtlinien zur Verhinderung falscher Inhalte proaktiv durchsetzen und mit Faktenprüfern zusammenarbeiten. Meta antwortete nicht auf die Anfrage von BBC Verify nach einem Kommentar.
Während die Motivationen unterschiedlich sind, werden viele Desinformationen von durchschnittlichen Social-Media-Nutzern geteilt. Matthew Facciani von der University of Notre Dame weist darauf hin, dass die binären Entscheidungen, die von Konflikten präsentiert werden, die Verbreitung solcher Inhalte beschleunigen, angetrieben von emotionalen Reaktionen und der Übereinstimmung mit politischen Identitäten.
Was soll BBC Verify untersuchen?
Dies geschah, nachdem US-Präsident Donald Trump gesagt hatte, sie habe „Unrecht“, als sie sagte, der Iran baue keine Atomwaffen.
Israel und der Iran tauschen einen Tag nachdem Teheran erklärt hat, es werde nicht über sein Atomprogramm verhandeln, neue Angriffe aus.
Der Technologie-Tycoon sagte, seine Kinder hätten 30 Jahre lang keinen Zugang zu ihrem Erbe.
Es bricht Rekorde für Online-Gaming – was steckt hinter seiner wachsenden Attraktivität?
Tate, 36, ist der jüngere Bruder des umstrittenen Influencers Andrew Tate.