Dall-E, Midjourney, Firefly oder der Imagine AI Generator von Meta: Unzählige Anwendungen helfen mittlerweile, per Künstlicher Intelligenz Bilder aus Text zu generieren. Weil sich die Tools sukzessive verbessern, wird es für Betrachterinnen und Betrachter immer komplizierter, ein KI-generiertes Bild von einem normalen Bild zu unterscheiden. Außer, man verwendet auch für die Differenzierung Technologie.
Meta, Mutterkonzern von Facebook, Instagram oder WhatsApp, will jetzt genau diesen Weg gehen. Einerseits verspricht das US-Unternehmen, schon in den kommenden Monaten sämtliche KI-generierten Fotos, die auf Facebook, Instagram oder Threads hochgeladen werden, als solche zu kennzeichnen. Zugleich will Meta Nutzer bestrafen, die mit KI hergestellte Videos oder Audios uploaden, ohne diese zu kennzeichnen. Von den diesbezüglichen Plänen berichtete zunächst das Technologieportal The Verge.
Metadaten und Wasserzeichen
Eine Herausforderung ist es, die KI-Bilder technisch zu erkennen. Dafür arbeitet Meta an einem Tool, das KI-generierte Bilder selbst dann auffindet, wenn Metadaten verändert wurden, um das Zustandekommen zu verschleiern. Beim Aufspüren von Videos und Audios sei man technologisch ins Hintertreffen geraten, sagt Meta-Manager Nick Clegg, quasi Außenminister des Unternehmens. Deswegen könne man bei diesen Kategorien noch kein automatisches Auffinden garantieren. Man werde jedenfalls, verspricht der Manager, besonders „aufmerksam“ sein. Im Superwahljahr scheint das ohnehin eine Notwendigkeit.
Bei anderen Unternehmen ist die „Kenntlichmachung von KI-Inhalten“ ebenfalls auf der Agenda angekommen. Adobe etwa, das Unternehmen hinter Firefly, stellte jüngst ein System vor, das Informationen zur Herkunft von Bildern in deren Metadaten einpflegt. Google wiederum weitet das SynthID-Wasserzeichen auf Audiodateien aus.
Zugleich tritt Meta in Form von Nick Clegg auch beruhigend auf. Er halte es für „sehr unwahrscheinlich“, dass Facebook ein von KI-generiertes Video- oder Audiofile übersehe, das von wirklich „großer politischer Bedeutung sei“.
