Kulturstaatsminister Wolfram Weimer hat an die Europäische Union (EU) appelliert, der Verbreitung KI-generierter Holocaust-Bilder und -Videos auf sozialen Medien entschiedener Einhalt zu gebieten. „Das große Leid der Opfer des Holocaust darf nicht verfälscht und verzerrt werden“, sagte Weimer der Nachrichtenagentur Reuters. Der parteilose Politiker sieht die Plattformbetreiber auf Grundlage des Digital Services Act (DSA) in der Pflicht, mithilfe von Künstlicher Intelligenz (KI) hergestellte Bilder eindeutig zu kennzeichnen und „wenn nötig“ zu entfernen. Der DSA ist eine EU-Verordnung, die seit 2024 rechtskräftig ist. Sie soll digitale Grundrechte von Verbrauchern schützen und verpflichtet große Online-Plattformen, angemessen gegen illegale Inhalte vorzugehen.
Weimer unterstützt damit einen Vorstoß von Gedenkstätten, Archiven, Museen und Erinnerungsinitiativen aus ganz Deutschland: Etwa 30 Einrichtungen hatten in der vergangenen Woche vor den Folgen einer massenhaften Geschichtsverzerrung auf sozialen Medien gewarnt. In einem offenen Brief hatten sie die Plattformbetreiber aufgefordert, konsequenter bei KI-generierten Holocaust-Fälschungen einzuschreiten.
„Mit jedem dieser Postings wird die Arbeit von Gedenkstätten, Archiven, Museen und Forschungseinrichtungen entwertet und ihre Glaubwürdigkeit untergraben“, heißt es in dem Brief. Diese Inhalte würden gezielt eingesetzt, „um historische Fakten zu verwässern, Opfer- und Täterrollen zu verschieben oder revisionistische Narrative zu verbreiten.“ Sie würden zudem die Sehgewohnheiten der Nutzer und Nutzerinnen verändern, „die zunehmend auch authentische historische Dokumente anzweifeln“.
Mit KI erstellte Bilder und Videos, die vorgeben, Szenen aus Konzentrations- und Vernichtungslagern zu zeigen, fluten seit Monaten die Nachrichtenfeeds auf Facebook, Tiktok oder X. In den meisten Fällen fehlt der Hinweis, dass es sich dabei um frei erfundene Inhalte handelt. Experten sehen darin eine „neue Dimension der Fake History“.
Es ist ein makabres Geschäft um Klicks und Aufmerksamkeit auf Kosten historischer Fakten. Die Accounts, die diese KI-Inhalte verbreiten, erreichen damit teilweise Zehntausende Menschen nur mit einem Beitrag. Einige schlagen auch Profit daraus. In einer aufwendigen Recherche hat die BBC viele der KI-generierten Bilder, die auf Facebook im Umlauf sind, zu den Konten eines Netzwerkes aus pakistanischen Content-Erstellern zurückverfolgen können. Demnach nutzen diese die falschen historischen Aufnahmen für ein Monetarisierungsprogramm von Meta, das Nutzer für Beträge mit vielen Aufrufen bezahlt.
„Die Verbreitung manipulierter Bilder führt dazu, dass Geschichte umgeschrieben wird“
Weimer fordert jetzt die EU-Kommission auf, Maßnahmen gegen die Plattformbetreiber zu ergreifen. „Wir müssen verhindern, dass mit solchen KI-generierten Bildern oder Videos in sozialen Medien Geld verdient wird“, so Weimer zu Reuters. Das gebiete der Respekt vor Millionen Menschen, die unter der nationalsozialistischen Terrorherrschaft getötet und verfolgt wurden. „Die Verbreitung manipulierter Bilder führt dazu, dass Geschichte umgeschrieben und letztlich relativiert wird. Der DSA nimmt die Plattformanbieter in die Pflicht“, betonte der Kulturstaatsminister in Richtung EU-Kommission.
Zuletzt hatte Meta, der Mutterkonzern von Facebook und Instagram, auf SZ-Anfrage nur allgemein auf „Gemeinschaftsstandards“ verwiesen, die festlegen würden, welche Inhalte auf Facebook und Instagram erlaubt seien. Es sei bisher technisch nicht möglich, alle KI-generierten Inhalte zu identifizieren, hieß es. Zusammen mit anderen Unternehmen der Branche arbeite man aktuell an einheitlichen Standards, um KI-Content zu erkennen.