Checkliste für die
Nutzung Künstlicher Intelligenz

Künstliche Intelligenz findet vielfach Verwendung bei Veranstaltungen, bspw. in der Werbung, bei Verträgen, bei der Sicherheit, bei der Konzeptionierung, bei Analysen zum Besucherverhalten usw. Allerdings gibt es auch eine Reihe von möglichen Stolpersteinen und Risiken, die man aber durch einfache Maßnahmen verhindern oder reduzieren kann:

1. Eigene Rolle definieren? Anbieter und/oder Betreiber von KI-Systemen?
   1. „Betreiber“ sind Unternehmen, Verbände, Kommunen usw., die KI-Systeme im Einsatz haben (bspw. wenn Mitarbeiter mit KI Fotos bearbeiten oder Texte generieren) – also nahezu jedes Unternehmen. Der Betreiber muss ein paar Pflichten aus der KI-Verordnung beachten. mehr erfahren
   2. „Anbieter“ sind Unternehmen, Verbände, Kommunen usw., die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich. Man denke hier bspw. an entwickelte KI-gestützten Plattformen zur Auswertung von Teilnehmer-Feedback. Den Anbieter treffen verstärkte Pflichten aus der KI-Verordnung. mehr erfahren
2. Ist-Zustand feststellen: Prüfen Sie, ob und welche KI-Systeme Sie bzw. Mitarbeiter bereits im Einsatz haben. Achtung: Vergleichbar mit den sich ständig verändernden Datenverarbeitungen bei der DSGVO wird auch bei KI-Systemen ein ständiger Wandel und Austausch sein, wenn Mitarbeiter „einfach mal so“ ein neues KI-System verwenden.
   • „KI-System“ ist ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können (Art. 3 Nr. 1 KI-VO).
   • Bekannte Beispiele: Canva, DeepL, ChatGPT, Copilot…
3. Feststellung der Personen, die mit KI arbeiten inklusive deren Ausbildung, Wissensstand, Tätigkeitsbereiche.
4. Feststellung der Zwecke, warum bzw. für was KI eingesetzt wird.
5. Bewertung der Risiken:
   • Jedes KI-System muss klassifiziert und in eine der Risikogruppen zugeordnet werden. Diese Klassifizierung sollte dokumentiert und regelmäßig auf Aktualität überprüft werden (und auch, ob ggf. die EU oder Gerichte ein konkretes System ggf. explizit einer Risikogruppe zuordnen).
   • Bewertung der Risiken, die sich aus der Nutzung ergeben (im Verhältnis zum KI-System, zur Person, die damit arbeitet und den damit verfolgten Zwecken.
6. Feststellung, wann & wo weitere Beteiligte eingebunden werden müssen: Der Datenschutzbeauftragte, der Compliance-Officer, der IT-Sicherheitsbeauftragte, der Betriebsrat o.a.
7. Anbieter (s.o.) und Betreiber (s.o.) müssen gemäß Art. 4 KI-VO dafür sorgen, dass eigene Beschäftigte und Beauftragte, die mit KI arbeiten, eine ausreichende KI-Kompetenz haben.
   • Unter KI-Kompetenz versteht man die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden (siehe Art. 3 Nr. 56 KI-VO).
   • Dabei kann eine KI-Richtlinie, die Geschäftsleitung und Mitarbeitern klare Regeln an die Hand gibt. Ggf. kann es sinnvoll sein, einen KI-Beauftragten zu benennen. Wir erstellen bereits solche KI-Richtlinien für Mandanten; zwar erscheint die Zeit „noch 2 Jahre“ viel, aber wer alle notwendigen Maßnahmen pünktlich umsetzen und implementieren will, muss sich bereits jetzt beeilen. Sie haben Interesse an einer KI-Richtlinie? Schreiben Sie uns eine kurze Mail an info@eventfaq.de!
8. Wenn Sie dann KI nutzen, schauen Sie unbedingt vorab in die Nutzungsbedingungen des jeweiligen Anbieters. Passen diese Nutzungsbedingungen zu dem Zweck des Einsatzes der KI? Beispiel: Dürfen Sie gemäß diesen Nutzungsbedingungen die von der KI erstellten Inhalte so nutzen, wie Sie es planen?
9. Dürfen fremde Inhalte kopiert und in ein KI-System eingespeist werden? Bspw. könnten Bildagenturen in ihren Nutzungsbedingungen eine Verwendung in KI verbieten. Ist dies den eigenen Mitarbeitern bekannt?
10. Prüfen Sie Ihre Verträge: Gibt es dort Regelungen zum Einsatz von KI? Prüfen Sie insbesondere Klauseln zur Verschwiegenheit bzw. Geheimhaltung: Denn wer bspw. Chatbots mit vertrauenswürdigen Informationen füttert, verstößt ggf. gegen seine vertragliche Geheimhaltungspflicht.
11. KI-generierte Inhalte müssen vom Menschen geprüft werden: Inhaltliche Richtigkeit, aber auch auf ggf. fremde Urheberrechte, das Äußerungsrecht, Persönlichkeitsrechte, den Datenschutz…

Fragen? Kontaktieren Sie uns direkt!

Sie können uns eine Mail schreiben an info@eventfaq.de, anrufen unter 0721 120500, oder füllen Sie das folgende Formular aus: