Künstliche Intelligenz wird immer mehr eine Rolle spielen. Umso wichtiger ist, dass sich Nutzer von KI im Klaren sind, worauf sie achten müssen, damit sich nicht vor lauter freudiger Aufregung unbemerkt über Jahre hinweg Risiken auftürmen. Zum Thema KI haben wir deshalb auch eine eigene Unterseite.

Zum 01.08.2024 ist der EU-AI Act (= KI-Verordnung = KI-VO) in Kraft getreten. Davon betroffen sind nicht nur Hersteller, sondern auch „Betreiber“, also Nutzer.

Auch „Betreiber“ verantwortlich!

Bemerkenswert ist die in der KI-Verordnung ausdrücklich normierte Pflicht, dass KI-Betreiber bzw. KI-nutzende Unternehmen dafür sorgen muss, dass die KI-nutzenden Personen hinreichend kompetent sind:

Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.“ (Art. 4 KI-VO „KI-Kompetenz“)

In der KI-VO gibt es eine Definition von KI-Kompetenz, die in Art. 4 gefordert wird: „KI-Kompetenz“ bezeichnet demnach

die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.“ (Art. 3 Nr. 56 KI-VO)

Normalerweise ist eine Vorschrift einzuhalten, ohne dass der Gesetzgeber extra darauf hinweisen müsste. Umso bemerkenswerter ist, dass die KI-Verordnung doch einen eigenen Artikel dafür hernimmt, um auf das eigentlich ohnehin Notwendige nochmals explizit hinzuweisen.

Wir unterstützen Sie bei der Sensibilisierung der Beschäftigten, bei der Ausarbeitung einer hausinternen KI-Richtlinie und bei Schulungen. Schreiben Sie uns einfach eine kurze Mail an info@eventfaq.de!

Ein Verstoß gegen Art. 4 KI-VO ist nicht unmittelbar bußgeldbewehrt; d.h. wenn ein Unternehmer die KI von inkompetentem Personal bedienen lässt, löst das per se noch kein Bußgeld aus.

Wenn aber die Inkompetenz zu Verstößen anderer bußgeldbewehrter Pflichten aus der KI-VO führt, dann wird die Nichtbeachtung des Art. 4 KI-VO Einfluss auf die Höhe der Bußgelder haben. Und sicherlich wird ein Versicherer – wenn denn überhaupt eine geeignete Versicherung abgeschlossen wurde – in der Nichtbeachtung des Art. 4 KI-VO einen Grund finden, die Versicherungsleistung zu verweigern.

Nutzen Sie die Zeit! Zwar sind heute noch nicht alle Vorschriften der KI-VO anwendbar, aber die Zeit vergeht schnell.