Am 1. August tritt der EU AI Act in Kraft. Er regelt die Verwendung von künstlicher Intelligenz innerhalb der Europäischen Union. Als Verordnung gilt der AI Act unmittelbar ohne weiteren Umsetzungsakt. Auswirkungen seiner Regelungen können sich auch auf die Personalabteilungen erstrecken. Der HR-Bereich hat sowohl arbeitsrechtliche, als auch weitere gesetzliche Vorgaben zu berücksichtigen, wenn KI im Unternehmen eingesetzt wird.
Die Anwendungsmöglichkeiten von künstlicher Intelligenz im HR-Bereich sind vielfältig. Per KI kann ein Personalbedarf analysiert und eine bedarfsgerechte Stellenausschreibung geschrieben werden. Im Wege eines automatisierten Kandidaten-Screenings sichtet und filtert KI Bewerbungen. Ein Recruiting Bot führt erste Vorstellungsgespräche. Ein HR Service Bot kann Interessent:innen eine bedarfsgerechtes Stellenangebot im Unternehmen unterbreiten. So könnte der Einstellungsprozess schon bald ablaufen. KI kann außerdem beim personalisierten Onboarding und als digitaler Mentor oder Coach unterstützen. Ob und wie gut neue Mitarbeitende die Anforderungen erfüllen, könnte ebenfalls eine künstliche Intelligenz beurteilen und auf dieser Basis eine Empfehlung für das Bestehen der Probezeit, für Beförderungen und Gehaltserhöhungen geben. Auch die Kündigungswahrscheinlichkeit der einzelnen Mitarbeitenden könnte theoretisch eine KI ermitteln. Reportings, Skillmanagement, Gefährdungsbeurteilungen und viele weitere HR-Prozesse bieten Einsatzmöglichkeiten für künstliche Intelligenz. Der Einsatz ist ebenfalls für einen Abgleich von geschlechtsneutraler Vergütung oder im Zielvereinbarungsprozess bei Mitarbeitenden vorstellbar. Doch was erlaubt das Arbeitsrecht und welche gesetzlichen Vorgaben sind dabei noch zu beachten?
AI Act: KI im HR-Bereich ist oft Hochrisiko-KI
Maßgeblich ist vor allem der AI Act. Die KI-Verordnung teilt KI-Systeme in Risikoklassen ein. Je nachdem gelten strengere oder weniger strenge Anforderungen. Künstliche Intelligenz, die ein unannehmbares Risiko mit sich bringt, ist verboten. Artikel 5 AI Act listet einige KI-Systeme auf, die unter diese Kategorie fallen. Erfasst ist zum Beispiel eine KI zur Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz.
Viele der oben genannten KI-Systeme im HR-Bereich dürften Hochrisikosysteme sein. Das sind Systeme, die die Sicherheit oder Grundrechte gefährden. Hochrisiko-KI-Systeme werden in Anhang III des AI Acts ergänzt. Ziff. 4 des Anhangs III erfasst ausdrücklich KI-Systeme zur Personalauswahl sowie Systeme, die Entscheidungen treffen im Zusammenhang mit den Bedingungen von Arbeitsverhältnissen, der Förderung oder Beendigung von Arbeitsvertragsverhältnissen. Genannt sind auch KI-Systeme, die Aufgaben auf der Grundlage von individuellem Verhalten oder persönlichen Eigenschaften oder Merkmalen zuweisen oder die Leistung und das Verhalten von Personen in solchen Verhältnissen überwachen oder bewerten.
Für Hochrisiko-KI gelten strenge Anforderungen
Hochrisiko-KI-Systeme müssen die nach dem AI Act festgelegte Anforderungen erfüllen, die rechtlich zu überprüfen sind. Für sie gilt unter anderem: Das Unternehmen muss ein angemessenes Risikomanagement-System über den gesamten Lebenszyklus der KI gewährleisten. Außerdem muss es angemessene Daten-Governance- und Datenverwaltungsverfahren sicherstellen.
Dabei müssen die Unternehmen die Einhaltung der Pflichten technisch dokumentieren und die Ergebnisse protokollieren. Zu protokollieren sind auch Verwendungen, Daten und Mitarbeiterkennung.
Hochrisiko-KI-Systeme sind in einer EU-Datenbank von Anbietern und Betreibern zu registrieren.
Einfache Chatbots müssen Transparenzanforderungen erfüllen
Setzen Arbeitgeber Chatbots ein, zählen diese normalerweise zu KI mit begrenztem Risiko. Aber auch hier sind Transparenzpflichten zu beachten. Insbesondere muss das Unternehmen offenlegen, dass mit einer KI kommuniziert wird. Deep-Fake-Inhalte müssen gekennzeichnet werden. Die Implementierung sollte jedoch in jedem Einzelfall gemeinsam mit der IT rechtlich geprüft werden.
Vorsicht vor Datenschutzverletzungen
Die HR-Abteilung arbeitet mit vielen personenbezogenen Daten, teilweise sogar mit sensiblen Daten. Sollen diese mit künstlicher Intelligenz verarbeitet werden, ist sicherzustellen, dass die Daten die IT-Umgebung des Unternehmens nicht verlassen können und dass keine unberechtigten Personen innerhalb des Unternehmens auf die Daten zugreifen können.
Auch muss der Arbeitgeber dafür Sorge tragen, dass die KI keine Daten erhebt, die das Unternehmen nicht benötigt. Das gilt auch dann, wenn die HR-Abteilung gar nicht vorhat, die Daten auszuwerten. Denn nach der DSGVO gilt das Gebot der Datensparsamkeit.
Bei der Einführung von KI ist der Betriebsrat zu beteiligen
Möchten Arbeitgeber künstliche Intelligenz im Unternehmen nutzen, sollten sie in jedem Fall den Betriebsrat beteiligen. Bereits bei der Planung des Einsatzes von KI muss das Unternehmen den Betriebsrat nach § 90 Abs. 1 Nr. 3 BetrVG unterrichten.
Der Einsatz von KI ist zudem in der Regel nach § 87 Abs. 1 Nr. 6 BetrVG mitbestimmungspflichtig. Zumindest dann, wenn der Arbeitgeber die Nutzung vorschreibt oder aber eigene KI-Systeme zur Verfügung stellt. Das gilt auch für Richtlinien über die Nutzung einer KI. Lediglich die freiwillige Nutzung von ChatGPT über private Accounts ist nach Ansicht des Arbeitsgerichts Hamburg nicht mitbestimmungspflichtig.
Mitarbeitende könnten versehentlich gegen den Datenschutz verstoßen oder Urheberrechte verletzen, wenn sie KI bei der Arbeit nutzen. Regelmäßig wird der Arbeitgeber im Außenverhältnis dafür haften. Schon deswegen sollten Unternehmen für die Nutzung von KI immer Regeln aufstellen.
KI-Sprachmodelle haben ein hohes Diskriminierungspotenzial
KI wird oft als objektiv wahrgenommen. Jedoch basiert die Entscheidung, die sie trifft, auf dem jeweiligen Language Model. Dieses orientiert sich in der Regel nicht am deutschen Arbeitsrecht und die getroffenen Entscheidungen könnten Personen diskriminieren und gegen das Allgemeine Gleichbehandlungsgesetz (AGG) verstoßen. Wer KI in HR-Prozessen einsetzt, muss dafür sorgen, dass das eingesetzte Language Model an arbeitsrechtlichen Bestimmungen angepasst wird. Das gilt sowohl für das Recruiting, insbesondere Stellenausschreibungen und die Bewerberauswahl, als auch bei der Analyse von geschlechtsneutraler Vergütung. Ein Verstoß gegen das Benachteiligungsverbot kann zu Schadensersatzansprüchen führen.
Fazit
Die Liste der zu beachtenden Vorschriften war auch bisher schon lang. Mit dem AI Act sind nun noch zahlreiche Verpflichtungen hinzugekommen, die Arbeitgeber zu beachten haben, wenn sie KI im Unternehmen nutzen möchten. Die Umsetzungsfristen variieren je nach KI; Unternehmen sollten sich allerdings jetzt schon vorbereiten. In jedem Fall sollte aus arbeitsrechtlicher Sicht der Betriebsrat frühzeitig an Bord geholt werden, wenn der Einsatz von KI geplant ist. Eine enge Zusammenarbeit zwischen IT-Abteilung, Rechtsabteilung und HR-Bereich ist wichtig, damit die für die Regulatorik relevanten Fragestellungen fachgerecht beurteilt werden können. Interne Schulungen zu KI-Systemen oder die Konzeption von Anwendungsbeispielen können für die Akzeptanz im Unternehmen förderlich sein.
