Nachdem das Potenzial KI-generierter Bilder in den letzten Monaten mit modischen Papst-Darstellungen oder erfundenen Verhaftungen des Ex-US-Präsidenten Donald Trump spielerisch erprobt wurde, hat nun ein gefälschtes Bild mit viel Reichweite (Behauptung auf Twitter bzw. weitere Behauptung auf Twitter) eventuell sogar die Aktienmärkte beeinflusst. Das Bild einer mutmaßlichen Explosion vor dem Pentagon weist klare KI-typische Merkmale auf, auf die man als User achten sollte.

  • Einschätzung: Vor dem Pentagon hat es keine Explosion gegeben. Das Bild wurde mithilfe einer Künstlichen Intelligenz (KI) generiert.

  • Überprüfung: Am 22. Mai soll es, glaubt man den Beiträgen in sozialen Medien, in den USA zu einer Explosion vor dem Hauptsitz des US-Verteidigungsministeriums Pentagon gekommen sein. Dies stellte sich allerdings schnell als Falschmeldung heraus.

Die Feuerwehr von Arlington County, wo auch das Pentagon zu finden ist, stellte auf Twitter klar (Tweet der Feuerwehr in Arlington), dass es keine Explosion oder vergleichbare Vorfälle beim Pentagon gegeben habe. Obwohl der Tweet sogar vom offiziellen, aber nicht verifizierten Twitter-Account der Bundesbehörde Pentagon Force Protection Agency (PFPA) weitergeleitet worden ist (Account der PFPA), wurde die Klarstellung bis dato nur etwas mehr als hundertmal geteilt.

Befeuert durch Twitter-Accounts

Befeuert durch zahlreiche Twitter-Accounts mit dem blauen ehemaligen Verifizierungshäkchen, das heute alleine durch ein Twitter-Blue-Abonnement ("Süddeutsche Zeitung" über Twitter) erworben werden kann, und russische Medien, gelangte die Falschinformation schließlich zu größerer Reichweite ("Washington Post" über Vorfall). Dies hatte eventuell auch zur Folge, dass der Aktienindex S&P 500 am Montagvormittag (Ortszeit) kurzzeitig eingebrochen ist. Zumindest war im täglichen Kursverlauf innerhalb des Zeitrahmens der Verbreitung der Falschbehauptung ein rasanter Sturzflug zu beobachten ("Tech Crunch" über den Vorfall), den viele mit den Gerüchten über eine Explosion beim Pentagon in Verbindung brachten ("Washington Post" über den Vorfall und israelischer Artikel).

Tatsächlich gibt es mehrere Hinweise im Bild selbst, die darauf hindeuten, dass es von einer KI erzeugt worden ist. So ist am Bild etwa gar nicht das Pentagon zu sehen. Bei einem Abgleich mit Aufnahmen von Kartendiensten zeigt sich, dass es in Wirklichkeit anders aussieht (Pentagon-Fotos bei Google Maps). Die "Washington Post" zitiert einen Feuerwehrmann von Arlington County, der sagte, dass es kein derartiges Gebäude dort gebe ("Washington Post" über den Vorfall).

Bei KI-generierten Bildern gilt es derzeit, vor allem auf Symmetrie, Einheitlichkeit, Parallelität und Logik zu achten. Mit bloßem Auge lässt sich so etwa erkennen, dass der Zaun vor dem abgebildeten Gebäude nicht einheitlich verläuft, sondern auf der linken Seite plötzlich zu einer Art Absperrgitter übergeht, wie sie auf Demonstrationen eingesetzt werden. Auch die Höhe des Gehsteigs senkt sich immer weiter ab, je weiter man nach rechts blickt.

Am Gebäude selbst fällt auf, dass weder Fenster noch Säulen einheitlich sind. Die Säulen in der Mitte des Bauwerks wirken sogar, als wären sie Vorhänge, die vom Dach runterhängen. Auch dies deutet auf ein typisches Merkmal von KI im derzeitigen Stadium hin, da mehrmals unterschiedliche Elemente miteinander verschmolzen werden.

Noch lange nicht perfekt

KI-generierte Bilder sind derzeit noch nicht perfekt, daher gibt es noch zahlreiche Hinweise, auf die man achten kann. In einem anderen APA-Faktencheck wurden bereits zahlreiche Tipps zur Überführung von KI-Bildern gegeben, insbesondere, wenn sie Personen enthalten (APA-Faktencheck zu KI-Bildern).

Darüber hinaus gelten Grundsätze klassischer journalistischer Recherche. So ließen sich etwa keine weiteren Aufnahmen des angeblichen Vorfalls finden, die bei einer solchen Rauchwolke mit hoher Wahrscheinlichkeit existieren müssten. Außerdem gibt es sogar Aufnahmen von Menschen, die angaben, vor Ort zu sein, auf denen keinerlei Schäden oder Rauchspuren zu sehen waren – etwa bei mehreren Aufnahmen eines selbstständigen Fotografen auf Youtube und Twitter (Video auf Youtube und Foto auf Twitter).