Die Welt verändert sich in einem rasenden Tempo und Technologien künstlicher Intelligenz (KI) spielen eine immer größere Rolle in unserem Leben und in der Arbeitswelt. Es gibt kaum eine Branche, die nicht massiv von ihr beeinflusst ist – so auch die Versicherungsbranche.
Setzen Sie in Ihrem Unternehmen ChatGPT, Copilot oder vielleicht ein anderes KI-System ein? Oder bieten Sie ein solches Programm an? Dann gelten für Sie Vorgaben im Umgang mit künstlicher Intelligenz. Die EU-Verordnung über künstliche Intelligenz (KI-VO), die am 13. Juni 2024 verkündet wurde, bringt ab dem 2. Februar 2025 neue Pflichten für Sie mit. Sie müssen einen Führerschein machen: den „KI-Führerschein“.
Der KI-Führerschein – Nachweis der KI-Kompetenz
Die KI-VO verlangt von Unternehmen, die mit KI-Systemen arbeiten, den Nachweis der KI-Kompetenz. Wer die Vorgaben missachtet, riskiert hohe Bußgelder.
So heißt es wörtlich in Artikel 4 KI-VO
- „Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.“
Nach Art. 3 Ziff. 3 KI-VO ist ein Anbieter eine natürliche oder juristische Person, Behörde oder sonstige Stelle, die ein KI-System oder ein KI-Modell entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt oder in Verkehr bringt. Dabei spielt es keine Rolle, ob dies entgeltlich oder unentgeltlich geschieht.
Nach Art. 3 Ziff. 4 KI-VO ist ein Betreiber eine natürliche oder juristische Person, Behörde oder sonstige Stelle, die ein KI-System in eigener Verantwortung im Rahmen einer beruflichen Tätigkeit verwendet. Private Betreiber von KI-Systemen sind von der KI-VO nicht betroffen.
Eine Definition der KI-Kompetenz ergibt sich aus Art. 3 Nr. 56 KI-VO. Danach beschreibt der Ausdruck KI-Kompetenz
- „die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden“.
Die Verordnung schreibt also explizit vor, dass alle Organisationen, unabhängig von ihrer Größe, sicherstellen müssen, dass ihr Personal „über ein ausreichendes Maß an KI-Kompetenz“ verfügt. Gefordert wird damit nicht nur die Schulung und Qualifizierung des Personals, sondern auch die Berücksichtigung des spezifischen Einsatzkontexts der unternehmensseitig genutzten KI-Systeme sowie der Zielgruppen, für die diese Systeme genutzt werden. Oder kurz: Das Personal muss in der Lage sein, KI-Systeme sachkundig einzusetzen und sich gleichzeitig der Chancen und Risiken bewusst sein. Die Schulungsinhalte müssen technische, rechtliche und ethische Aspekte beinhalten. Solche Schulungen können z.B. durch interne oder externe Workshops absolviert werden. Teilweise werden solche Schulungen auch von der IHK angeboten (vgl. z.B. hier). Die Schulungen müssen darüber hinaus dokumentiert werden und nachweisbar sein (z.B. durch Zertifikate), um den gesetzlichen Anforderungen zu entsprechend.
