Ein Gesetz für AI-Transparenz
Die kalifornischen Gesetzgeber haben einen Gesetzentwurf zum Thema KI eingebracht. Dieser zielt darauf ab, Transparenz in digitalen und sozialen Medien zu schaffen. Unter anderem sieht er vor, dass grosse Online-Plattformen sichtbare Wasserzeichen für AI-Inhalte in Kalifornien einführen müssen.
Gesetzesentwurf
Die rasante Entwicklung von Videogeneratoren wirft eine entscheidende Frage auf: Wie stellen wir sicher, dass wir AI generierte Inhalte von echtem Filmmaterial unterscheiden können? Der Gesetzentwurf AB-3211 könnte eine Lösung bieten.
Die Herausforderungen
Der Gesetzentwurf AB-3211 sieht vor, dass Bilder, Fotos, Videos und Audioclips, die von künstlicher Intelligenz erstellt wurden, mit einem Wasserzeichen versehen werden. Dieses muss von Technologieunternehmen in die Metadaten eingefügt werden. Einige KI-Firmen erfüllen diese Anforderungen bereits, doch es besteht noch keine allgemeine Verpflichtung dazu.
Ein weiteres Problem ist, dass viele Menschen Metadaten nicht lesen können. Der Gesetzentwurf besagt, dass grosse Online-Plattformen wie Instagram oder X Inhalte, die von einem generativen AI-System erstellt oder wesentlich verändert wurden, in einer für den Durchschnittsnutzer verständlichen Weise kennzeichnen müssen. Der vollständige Text des Gesetzentwurfs kann hier eingesehen werden.
Missbrauchspotenzial generativer AI
Ein Problem bei generativer AI ist, dass sie für falsche Inhalte, Fehlinformationen und Meinungsmanipulation missbraucht werden kann. Die AI lernt zwar noch, aber es ist schon jetzt schwierig, gefälschte Audioclips oder Videos von echten zu unterscheiden.
Als Beispiel einige Szenen, die von Sora generiert wurden. Hierbei handelt es sich um den realistischen Videogenerator von OpenAI, der Anfang dieses Jahres eine hitzige Diskussion ausgelöst hat:
Adobe, OpenAI und Microsoft sind mit an Bord
Die grossen AI-Marktteilnehmer OpenAI, Adobe und Microsoft unterstützen den Gesetzesentwurf, weil sie verantwortungsvolle Technologien fördern möchten.
Von den drei Unternehmen hat Adobe von Anfang an darauf geachtet, ethisch zu handeln. Bei der Veröffentlichung von Firefly gaben die Verantwortlichen zu Protokoll, dass das Programm ausschliesslich mit Adobe Stock-Bildern, frei lizenziertem Filmmaterial und Inhalten, deren Urheberrecht bereits abgelaufen war, trainiert wurde.
Adobe, OpenAI und Microsoft sind zudem Teil der «Coalition for Content Provenance and Authenticity». Diese hat einen Standard für C2PA-Metadaten entwickelt. Darin wird ein AI-Symbol verwendet, um generierte Inhalte zu kennzeichnen und ihre Inhaltsnachweise einzubetten. Die Nutzung dieses Symbols ist jedoch nicht verpflichtend.
Abstimmung über den Gesetzesentwurf AB 3211
Willst du ein AI-Profi werden?
Mit unseren Kursen zu allen Themen in der Videoproduktion kannst du dich fit machen für professionelle Videos!
Kommentare
Corinne Waldmeier ist seit 25 Jahren multimedial tätig: vor der Kamera, auf der Bühne und hinter dem Mikrofon – als Moderatorin, Sprecherin, Sängerin und Coach. Ihr Werdegang führte von der Morgenshow bei Radio Z übers Theater in die Werbe- und TV-Welt, in der sie heute noch als Redaktorin und Produzentin im Einsatz ist. Nebst diversen Fernsehformaten (Lifestyle-, Mittags-, Bildungsmagazine) präsentierte sie während fünf Jahren die Live-Sendung «PULS» auf SRF1. Corinne ist ein Auftrittsprofi und ausgebildete Coachin.