20 Tage nach ihrer Veröffentlichung am 12.07.2024 tritt die vom Europäischen Parlament verabschiedete EU-Verordnung über künstliche Intelligenz in Kraft (KI-Verordnung). Sie stellt den weltweit ersten umfassenden Rechtsrahmen künstlicher Intelligenz dar. Im Vordergrund stehen einerseits die Förderung des Einsatzes menschenzentrierter und vertrauenswürdiger Künstlicher Intelligenz sowie ein hohes Maß an Schutz für öffentliche Güter und Grundrechte andererseits. Über die KI-Verordnung soll hier vor regulatorischem Hintergrund ein Gleichgewicht hergestellt werden.
Auch Behörden gelten gemäß Art. 3 Nr. 4 der KI-Verordnung als Nutzer, sofern sie ein KI-System in eigener Verantwortung verwenden. Damit fallen auch öffentliche Arbeitgeber unter die Verordnung.
Die KI-Verordnung verfolgt einen risikobasierten Ansatz und knüpft dabei an KI-Systeme in verschiedenen Risikoklassen unterschiedliche Pflichten. Unterschieden werden KI-Systeme mit unannehmbarem Risiko, hohem Risiko und geringem oder minimalem Risiko. Entsprechend der Risikoklassen gelten unterschiedliche Übergangsfristen.
Im Personalbereich werden häufig Hochrisiko-KI-Systeme relevant werden, für die eine Übergangsfrist zur Umsetzung bis 24 Monate nach dem Inkrafttreten gilt.
Unter Hochrisiko-KI-Systeme fallen beispielsweise Systeme, die für die Einstellung, Bewertung und Überwachung von Arbeitnehmern genutzt werden können: KI-Systeme, die gezielt Stellenanzeigen schalten, Bewerbungen vorab sichten, filtern oder bewerten, die Bedingungen oder die Beendigung von Arbeitsverhältnisses beeinflussen, die die Leistung und das Verhalten von Mitarbeitern beobachten oder bewerten oder Abrechnungen selbständig erstellen.
Beim Einsatz von Künstlicher Intelligenz im Personalbereich werden also vielfach Hochrisiko-Systeme relevant, an die die Richtlinie strenge Anforderungen stellt. Es muss stets zum einen sichergestellt sein, dass ein Gebrauch gemäß den Gebrauchsanweisungen des Anbieters der Künstlichen Intelligenz stattfindet sowie eine menschliche Aufsicht sichergestellt wird. Hierfür müssen entsprechende technische und organisatorische Maßnahmen sichergestellt werden.
Letztendlich gilt aber, was bereits vorher galt: Die Begleitung des Weges zur Entscheidungsfindung durch die Künstliche Intelligenz sowie die Letztentscheidung müssen stets menschlich sein. Wie bereits die blinde Übernahme von Artikeln, Meinungen oder Bewertungen aus dem Internet, ist die einfache Übernahme einer Entscheidung durch eine Künstliche Intelligenz nicht ohne mindestens finale Überprüfung durch einen Menschen möglich.
Abteilung 1.2 Rau/Hö/Ju
