EU-Verordnung in Kraft: KI-Inhalt muss gekennzeichnet werden
Gebäude der EU in Brüssel | Foto: Gregor Meier
Seit dem 2. August müssen Unternehmen Videos, Bilder oder Texte kennzeichnen, wenn diese mit künstlicher Intelligenz (KI) erstellt wurden. Die Transparenzpflichten nach Artikel 50 der EU-KI-Verordnung (AI Act) sollen sicherstellen, dass Verbraucher erkennen können, ob sie es mit KI zu tun haben – etwa im Gespräch mit einem Chatbot. Ziel ist nicht, den Einsatz von KI einzuschränken, sondern Vertrauen zu schaffen und Manipulation einzudämmen. Ob das gelingt, ist offen: Ausgerechnet Österreich hat es bis zum Stichtag verabsäumt, eine eigene Aufsichtsbehörde einzurichten.
In erster Linie betreffen die neuen Pflichten Anbieter von KI-Systemen wie OpenAI, Google oder Anthropic: Sie müssen ihren KI-Output künftig durch eine maschinenlesbare Markierung als künstlich erzeugt kennzeichnen. Andere Unternehmen sind vor allem bei Deepfakes in der Pflicht – also bei täuschend echten Bildern, Videos oder Audioaufnahmen, die reale Personen oder Ereignisse künstlich darstellen oder wesentlich verändern. Auch künstlich generierte Texte von öffentlichem Interesse, die ohne menschliche Prüfung veröffentlicht werden, müssen ausgewiesen werden. Wer KI-Bilder lediglich auf einem privaten Profil postet, muss dagegen nichts kennzeichnen. Für „künstlerische, satirische, fiktionale oder kreative“ Werke gelten Ausnahmen: Eine Kennzeichnung ist zwar Pflicht, sie muss das Werk aber nicht sichtbar beeinträchtigen.
Ein einheitliches Label gibt es nicht. Die EU-Kommission hat lediglich einen unverbindlichen Praxisleitfaden vorgelegt: Videos und Fotos sollen etwa durch ein Etikett in einer Bildecke als „KI generiert“ oder „KI modifiziert“ markiert werden, bei Videos möglichst durchgehend oder in regelmässigen Abständen sichtbar. KI-generierte Audioinhalte, etwa Podcasts, sollen gleich zu Beginn einen gesprochenen Hinweis enthalten, Texte ein Etikett nahe der Überschrift.
Bei Verstössen drohen happige Sanktionen: bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ausfällt. Wie oft solche Strafen tatsächlich verhängt werden, ist – ähnlich wie bei der Datenschutz-Grundverordnung – noch offen. Erschwerend kommt hinzu, dass KI-Anwendungen laufend leistungsfähiger werden und ihre Ergebnisse kaum noch als generiert erkennbar sind. Für neue Systeme gilt die Pflicht ab sofort, bestehende Systeme haben bis 2. Dezember Zeit zur Umsetzung.
