Meta will mit KI erstellte Videos und Audio-Dateien markieren

Meta-Nutzer sollen KI-generierte Inhalte markieren
Bild: Meta Beim Face­book-Konzern Meta sollen Nutzer künftig vorwarnen, wenn sie täuschend echt wirkende KI-Videos oder -Audio­dateien veröf­fent­lichen.

Versäumen sie dies, könnten ihnen Konse­quenzen drohen, warnte Metas Politik-Chef Nick Clegg diese Woche in einem Blog­ein­trag. Auf Grund­lage der Hinweise will der Konzern in seinen Diensten solche mit Hilfe Künst­licher Intel­ligenz erstellte Inhalte kenn­zeichnen. Zu Meta gehören neben Face­book unter anderem auch Insta­gram und WhatsApp.

Konzern hat auch selbst KI-Soft­ware zum Erstellen von Bildern

Die Auffor­derung an die Nutzer sei erfor­der­lich, weil es in KI-Soft­ware zum Erstellen von Videos und Ton-Dateien noch nicht so üblich wie bei Fotos sei, unsicht­bare Wasser­zei­chen zu inte­grieren, erläu­terte Clegg. Zugleich schränkte er ein, dass es Wege gebe, diese Wasser­zei­chen zu entfernen. Meta arbeite aber daran, dies zu erschweren. Die Idee dabei sei, die Wasser­zei­chen direkt in die Erstel­lung der Dateien zu inte­grieren, so dass sie nicht deak­tiviert werden könnten. Auch entwi­ckele der Konzern Tech­nologie, um mit KI gene­rierte Inhalte auto­matisch zu erkennen.

Meta-Nutzer sollen KI-generierte Inhalte markieren
Bild: Meta In den USA hatten vor wenigen Wochen auto­mati­sierte Anrufe mit einer täuschend echt klin­genden Nach­ahmung der Stimme von Präsi­dent Joe Biden für Alarm­stim­mung gesorgt. Die Botschaft der Anrufe war, nicht an der Vorwahl der Demo­kra­tischen Partei im Bundes­staat New Hamp­shire teil­zunehmen. Der Vorfall schürte die Sorge, in den kommenden Monaten könnte es Versuche geben, den Ausgang der Präsi­den­ten­wahl im November mit der Verbrei­tung täuschend echter KI-Fälschungen zu beein­flussen.

Meta ist Teil einer Bran­chen-Koali­tion, die Stan­dard-Tech­nolo­gien für die Auszeich­nung der mit Hilfe von KI gene­rierten Dateien etablieren will. Meta wolle auf dieser Grund­lage KI-Bilder in den Apps Face­book, Insta­gram und Threads in allen unter­stützten Spra­chen auszeichnen. Der Konzern hat auch selbst KI-Soft­ware zum Erstellen von Bildern über Text-Vorgaben im Angebot. Diese Dateien enthalten sowohl sicht­bare Markie­rungen als auch unsicht­bare Wasser­zei­chen.

Meta stellt für Face­book und Insta­gram werbe­freie Versionen der Netz­werke bereit. Bei der Umset­zung des Bestell­vor­gangs online hat der US-Konzern aber Details des deut­schen Rechts nicht beachtet.