Wer mit Künstlicher Intelligenz arbeitet, muss das in vielen Fällen offenlegen: Ein wesentlicher Baustein der KI-Verordnung (AI Act bzw. KI-VO) ist die Transparenzpflicht bei Nutzung („betreiben“) von Hochrisiko-KI-Systemen und den „bestimmten“ KI-Systemen. Was diese Transparenz bedeutet, schauen wir uns in diesem Beitrag an – zunächst betreffend nur Fotos und Videos (zu Texten schreiben wir einen eigenen Beitrag).

In Art. 50 Absatz 4 Satz 1 KI-VO ist der Grundsatz formuliert:

Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.“

Was bedeutet „offenlegen“?

Vom Wortlaut her muss also nur gesagt werden, dass KI verwendet wurde, aber bspw. nicht welches KI-System.

Wie muss diese Offenlegung erfolgen? Bisher gibt es in der KI-VO nur einen Hinweis in Art. 50 Absatz 5:

Die in den Absätzen 1 bis 4 genannten Informationen werden den betreffenden natürlichen Personen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt. Die Informationen müssen den geltenden Barrierefreiheitsanforderungen entsprechen.“

„Klar und eindeutig“ einerseits, auf der anderen Seite muss der Hinweis für Menschen mit Behinderungen in entsprechend barrierefrei zugänglicher Form bereitgestellt werden.

Das sog. „Büro für Künstliche Intelligenz“, das die EU einrichtet, soll die Ausarbeitung von Praxisleitfäden fördern, um die wirksame Umsetzung der Pflichten in Bezug auf die Feststellung und Kennzeichnung künstlich erzeugter oder manipulierter Inhalte zu erleichtern. Hier wird man also auch zusammen mit der Rechtswissenschaft und Gerichtsurteilen erst nach und nach die konkreten Anforderungen wissen.

Ausnahme

Dann gibt es aber in Satz 3 eine Abschwächung von dem Grundsatz der Offenlegung:

(…) Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die in diesem Absatz festgelegten Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.“

Das bedeutet, dass es einen Unterschied gibt bzw. geben muss, wenn/ob das Werk „Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks“ oder nicht ist.

Der Grund liegt auf der Hand: Liegt offensichtlich ein solches Werk vor, in das KI-Content integriert wurde, ist das Manipulationsrisiko nicht so hoch, als bei Fotos zu Presseberichten.

Relevant dürften hier zwei Parameter sein:

  • Wann ist ein Werk „offensichtlich“ künstlerisch, kreativ, satirisch oder fiktional?
  • Wie hoch sind die Anforderungen insbesondere an „künstlerisch“, „kreativ“, aber auch an „satirisch“ und „fiktional“?

Dabei könnte auf den durchschnittlichen angesprochenen Verkehrskreis abzustellen sein, den man mit dem Werk erreichen will, vergleichbar mit ähnlichen Fragestellungen aus dem Wettbewerbsrecht u.a. Auf der anderen Seite könnten die Anforderungen auch etwas strenger sein, wenn man berücksichtigt, wie fast schon panisch die KI-VO den Bürger vor dem Risiko der KI-Systeme schützen will.

Diese Fragen werden die Gerichte sicherlich die kommenden Jahre beschäftigen, wie das bei allen anderen Rechtsgebieten auch der Fall ist.

D.h. aber auch: Wer auch Nummer sicher gehen will, sollte eher etwas restriktiver mit der Ausnahme umgehen.

Vorsicht bei Werbung

Das Thema „Werbung“ ist hier m.E. kritisch: Denn ein Werbeplakat wird man schnell als „künstlerisch“ oder „kreativ“ einordnen können, und natürlich könnte nun der Werbetreibende durch geschickte Platzierung des KI-Hinweises mit dem Argument, man wollte ja nicht das tolle Werbeplakat „beeinträchtigen“, einen Leser täuschen.

Dann aber könnte wiederum das Lauterkeitsrecht greifen, das eine Täuschung der angesprochenen Personenkreise verbietet. Dennoch wäre es m.E. aber sinnvoll gewesen, hier nicht unnötig einen Konflikt entstehen zu lassen, aber die KI-VO ist nunmal so in der Welt.

Was bedeutet die Abschwächung?

Die Abschwächung des Art. 50 Absatz 4 Satz 3 KI-VO besteht darin, dass der Transparenzhinweise sich nicht mehr über Gebühr aufdrängen muss; er darf nicht komplett wegfallen, er muss auffindbar und lesbar sein, aber die Deutlichkeit des Hinweises darf hinter dem „Kunstwerk“ zurücktreten. In den Details wird es dazu in den kommenden Jahren sicherlich auch reihenweise Gerichtsprozesse geben, denn es liegt auf der Hand, dass bei derart schwammigen Formulierungen Streit vorprogrammiert ist.