Mit dem Inkrafttreten von Artikel 4 der KI-Verordnung (KI-VO) am 2. Februar 2025 stehen öffentliche Arbeitgeber vor der Herausforderung, die KI-Kompetenz aller Mitarbeiter sicherzustellen, die mit dem Betrieb und der Nutzung von KI-Systemen befasst sind.
Art. 4 KI-VO mit der Überschrift „KI-Kompetenz“ lautet:
„Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.“
Gefordert ist damit nicht nur die Schulung und Qualifizierung von Mitarbeitern, sondern auch die Berücksichtigung des spezifischen Einsatzkontexts der genutzten KI-Systeme sowie der Zielgruppen, für die diese Systeme genutzt werden. Er beschränkt sich nicht auf Hochrisiko-KI-Systeme, die sich insbesondere im Personalbereich auch in der öffentlichen Verwaltung finden.
Was versteht man unter KI-Kompetenz?
Laut Artikel 3 Nr. 56 KI-VO umfasst KI-Kompetenz die Fähigkeiten, Kenntnisse und das Verständnis, die es ermöglichen, KI-Systeme sachkundig einzusetzen und sich der damit verbundenen Chancen und Risiken bewusst zu sein. Dies betrifft nicht nur technische Aspekte, sondern auch soziale, ethische und rechtliche Fragestellungen – insbesondere mit Blick auf die öffentliche Daseinsvorsorge, den Datenschutz und die Wahrung des Vertrauens der Bürger und Mitarbeiter.
Maßnahmen zur Förderung der KI-Kompetenz im öffentlichen Dienst
Öffentliche Arbeitgeber sind verpflichtet, geeignete Maßnahmen und Strukturen zur Kompetenzentwicklung zu etablieren. Wichtige Ansätze sind:
1) Entwicklung dienstlicher Richtlinien und Standards
- Festlegung von Best Practices zur Nutzung von KI im öffentlichen Sektor unter Berücksichtigung von Transparenz, Datenschutz und Ethik
2) Regelmäßige Fortbildungen und Schulungen
- Vermittlung technischer Grundlagen sowie ethischer und rechtlicher Fragestellungen im Kontext der öffentlichen Verwaltung.
- Förderung eines kritischen Umgangs mit KI-Anwendungen, insbesondere in sensiblen Bereichen wie Bürgerdiensten oder Recht.
Risiken bei Nichteinhaltung von Artikel 4 KI-VO
Ein Verstoß gegen Artikel 4 KI-VO ist nicht straf- oder bußgeldbewährt. Dennoch kann es zu rechtlichen Konsequenzen kommen:
- Haftungsrisiken: Im Falle von Fehlentscheidungen oder Schäden durch KI-Systeme könnte das Fehlen von Qualifizierungsmaßnahmen als Sorgfaltspflichtverletzung gewertet werden.
- Arbeits- und dienstrechtliche Folgen: Fragen zur Fortbildungspflicht, die Verantwortung der Beschäftigten sowie Mitbestimmungsrechte der Personalvertretungen sind zu berücksichtigen.
Fazit: KI-Kompetenz als Erfolgsfaktor für den öffentlichen Sektor
Artikel 4 KI-VO fordert öffentliche Arbeitgeber auf, die Kompetenzen ihrer Beschäftigten systematisch auszubauen und dies auch nachweisen zu können. Dies erfordert nicht nur technische Schulungen, sondern auch eine Verwaltungskultur, die einen bewussten und verantwortungsvollen KI-Einsatz fördert. Grundsätzlich sollte deshalb sichergestellt sein, dass die Nutzung von KI-Systemen nicht ohne Kenntnis und mit Erlaubnis des Arbeitgebers erfolgt.
1.2 Rau/Hö/Ju
