Suche
Contact
Symbolbild zu KI-Compliance: Roboter
07.07.2023 | KPMG Law Insights

Warum KI-Compliance zu jeder Due-Diligence-Prüfung gehört

Künstliche Intelligenz (KI) ist in den meisten Unternehmen bereits im Einsatz. Nicht nur Anwendungen wie ChatGPT und andere Generative AI Tools werden genutzt, um Texte, Präsentationen und Konzepte zu verfassen. KI automatisiert auch Prozesse und analysiert Daten. Sie kann Geschäftsmodelle revolutionieren und Wachstum beschleunigen. Deswegen ist es wichtig, dass potenzielle Unternehmenskäufer und Investoren KI-Technologien im Rahmen der Due-Diligence-Prüfung berücksichtigen. Denn KI birgt Risiken und Herausforderungen, nicht zuletzt in Bezug auf rechtliche und regulatorische Aspekte.

Der AI Act wird Unternehmen zur KI-Compliance zwingen

Die wahrscheinlich größte regulatorische Herausforderung sind die erwartete KI-Verordnung der EU, auf Englisch AI Act, und die zugehörige Richtlinie über KI-Haftung. Die Verordnung wird voraussichtlich Ende 2023 in Kraft treten. Sie soll die Risiken von KI minimieren. Verstöße gegen die Vorschriften der Verordnung könnten dabei viel Geld kosten: Bis zu 40 Millionen Euro oder 7% des gesamten weltweiten Jahresumsatzes sollen die Bußgelder betragen können – mehr als nach der DSGVO.

Der geplante AI Act hat sowohl Befürworter als auch Gegner. In den letzten Monaten warnten einige prominente Stimmen vor den Gefahren der KI. Diesen dürfte die Regulierung dieser Technologien entgegenkommen. Hingehen brachten kürzlich mehr als 100 Führungskräfte renommierter Unternehmen Bedenken gegen den AI Act zum Ausdruck. Sie befürchten eine Gefährdung der Wettbewerbsfähigkeit und technologischen Souveränität Europas. Dennoch könnte es sein, dass sich andere Länder die EU zum Vorbild nehmen und es auch auf internationaler Ebene zur Regulierung von KI kommt.

Der bislang vorliegende Entwurf der EU-Kommission teilt KI-Systeme in verschiedene Risikoklassen ein. Diese reichen von minimalem Risiko bis zum Hochrisiko sowie unzulässiger KI mit als inakzeptabel eingeschätzten Risiken. Der Entwurf sieht verschiedene Maßnahmen vor, um künstliche Intelligenz und insbesondere die Hochrisiko-KI zu regulieren. Beispiele für Maßnahmen der Verordnung sind Transparenzvorschriften, ein Katalog verbotener Maßnahmen, insbesondere durch den diskriminierenden Einsatz von KI, und Informationspflichten gegenüber Nutzern von KI.

Neben dem AI Act gibt es eine Reihe weiterer Gesetze, die im Zusammenhang mit KI zu beachten sind. Darunter fallen zum Beispiel die DSGVO und andere geplante Verordnungen im Rahmen der europäischen Digitalstrategie. Auch Fragen der Haftung, des Urheberrechts und des geistigen Eigentums sind im Zusammenhang mit KI gesondert zu betrachten und zu beantworten.

Diese Themen sollten Bestandteil der KI-Due-Diligence sein

Eine KI einbeziehende Legal Due Diligence wird abhängig von Nutzungsgrad und Art der Tätigkeit des Zielunternehmens (Nutzer oder Anbieter von KI) stets auf den Einzelfall angepasst sein, typischerweise aber die folgenden Themen adressieren:

  • Nutzungsstatus: Umfang der systematisch eingesetzten KI-Systeme des Unternehmens als Nutzer oder als Anbieter
  • Haftung: Haftung als Nutzer und insbesondere als Anbieter von KI-Systemen
  • Verträge und Lizenzen: Umfang der Verträge und Lizenzen, die das Unternehmen in Bezug auf seine KI-Systeme hat, einschließlich Softwarelizenzen, Datenlizenzen und Serviceverträge
  • Urheberrecht und geistiges Eigentum: Geistiges Eigentum an den von der KI erstellten Werken besitzt und Wahrung von Drittrechten durch das Zielunternehmen
  • Fehlfunktionen: Reaktionsplan bei (meldepflichtigen) Vorfällen und Fehlfunktionen
  • Qualitätsmanagement & Konformitätsbewertung: Qualitätsmanagementsystem hinsichtlich der als Nutzer oder Anbieter eingesetzten KI-Systeme sowie Dokumentation zu beabsichtigten Konformitätsbewertungsverfahren
  • Transparenz: Transparenz des Unternehmens in Bezug auf genutzte oder angebotene KI-Systeme
  • KI & Datenschutz/-sicherheit: Status der Sammlung, Speicherung und Verwendung personenbezogener Daten durch das Zielunternehmen bei der Nutzung oder beim Angebot von KI-Systemen, Beachtung der Anforderungen der DSGVO und anderer relevanter Datenschutzgesetze durch das Zielunternehmen, Datensicherheitspraktiken des Unternehmens im Zusammenhang mit KI-Systemen sowie die Fähigkeit des Zielunternehmens, Cyberbedrohungen zu bewältigen.

Was bei der Due Diligence in Bezug auf KI unbedingt beachtet werden sollte

Nutzung und Angebot von KI im Zielunternehmen sollten im Rahmen rechtlicher Due-Diligence-Prüfungen genau und spezialisiert untersucht werden.

Dabei ist es wichtig, sowohl die KI in technischer Hinsicht zu verstehen als auch die rechtlichen Risiken einordnen zu können, die mit der Nutzung bzw. dem Anbieten der KI verbunden sind. Nur dann ist die Legal Due Diligence eine angemessen belastbare Grundlage für die unternehmerische Entscheidung über das Für und Wider der geplanten Transaktion. Sofern ein vorhandenes KI-System als rechtlich riskant eingestuft wird, muss das nicht das Aus des Deals bedeuten. Vielmehr kann jetzt geprüft werden, inwiefern die KI-Anwendung an rechtliche Bestimmungen angepasst werden kann.

Fazit

KI sollte heute ein eigenes Prüfungsthema bei einer Legal Due Diligence sein. Denn Rechtsverstöße durch die Nutzung künstlicher Intelligenz werden spätestens nach Inkrafttreten des AI Act hohe Bußgelder zur Folge haben können. Aber auch schon heute birgt KI Risiken, deren richtige rechtliche Einschätzung für eine fundierte Kauf- oder Investitionsentscheidung essenziell ist.

 

 

Explore #more

23.04.2025 | KPMG Law Insights

Klimaschutz und Nachhaltigkeit im Koalitionsvertrag 2025

Der Klimaschutz hat es im Koalitionsvertrag zu einer Bedeutung geschafft, mit der nicht zu rechnen war. Im Wahlkampf hatte er keine nennenswerte Rolle gespielt. Auch…

17.04.2025 | KPMG Law Insights

Das bedeutet der Koalitionsvertrag für den Finanzsektor

Der Koalitionsvertrag der CDU/CSU und SPD hat auch Auswirkungen auf den Finanzsektor. Hier ein Überblick. Die Erhöhung des Energieangebots Die Koalitionspartner möchten das Energieangebot vergrößern…

17.04.2025 | KPMG Law Insights

AWG-Novelle sieht härtere Strafen für Sanktionsverstöße vor

Aufgrund des anhaltenden russischen Angriffskriegs gegen die Ukraine möchte die EU die Strafverfolgung von Verstößen gegen EU-Sanktionen erleichtern. Die entsprechende Richtlinie (EU) 2024/1226 war im…

16.04.2025 | KPMG Law Insights

Was die neuen Digitalisierungspläne im Koalitionsvertrag bedeuten

Der Koalitionsvertrag zeigt, wie die künftige Regierung Deutschlands digitale Zukunft gestalten will. Was bedeuten die Pläne konkret für Unternehmen? Hier die wichtigsten Auswirkungen: Digitale Souveränität:…

14.04.2025 | KPMG Law Insights

So will die neue Koalition Investitionen in die Infrastruktur beschleunigen

Der Koalitionsvertrag zwischen CDU/CSU und SPD markiert einen grundlegenden Neubeginn in der deutschen Infrastrukturpolitik. Angesichts eines erheblichen Investitionsstaus setzen die Koalitionspartner auf ein umfassendes Maßnahmenpaket,…

14.04.2025 | KPMG Law Insights

Koalitionsvertrag 2025 und NKWS: Booster fürs Umwelt- und Planungsrecht?

Im aktuellen Koalitionsvertrag wird das Umwelt- und Planungsrecht übergreifend an verschiedenen Stellen im Koalitionsvertrag genannt und verdeutlicht dessen großen Stellenwert. In der Vereinbarung erfolgt aber…

14.04.2025 | Dealmeldungen

KPMG Law berät Athagoras Holding GmbH beim Erwerb der MIGx AG

Die KPMG Law Rechtsanwaltsgesellschaft mbH (KPMG Law) hat die Athagoras Holding GmbH, eine Plattform des Münchener PE Hauses Greenpeak Partners, beim Erwerb der schweizerischen Gesellschaft…

11.04.2025 | In den Medien

KPMG Law Interview im Legal Tech-Magazin: Legal Tech-Trends im Praxis Check

Die Legal Tech-Branche entwickelt sich in den letzten Jahren in rasantem Tempo weiter. Neue Trends bieten immer weitreichendere Möglichkeiten der Unterstützung in der Rechtsbranche. Doch…

11.04.2025 | KPMG Law Insights

Wie geht es mit der Außenwirtschaft weiter? Die Pläne im Koalitionsvertrag 2025

Die Außenwirtschaft und der Außenhandel haben angesichts der neuen US-Zölle eine besondere Brisanz bekommen. Im Koalitionsvertrag haben sich Union und SPD auf folgende Maßnahmen geeinigt:…

11.04.2025 | In den Medien

Gastbeitrag im Online Magazin Das Investment: Spar- und Investitionsunion: Europas Anlegerwende

Geld anlegen schmackhafter machen und Europas Kapitalmärkte neu gestalten – KPMG Law Experte Philippe Lorenz analysiert die Ziele der neuen Spar- und Investitionsunion der EU.…

Kontakt

Dr. Daniel Kaut, LL.M.

Partner
Solution Line Head Legal Corporate Services

Bahnhofstraße 30
90402 Nürnberg

Tel.: +49 911 800929952
dkaut@kpmg-law.com

Francois Heynike, LL.M. (Stellenbosch)

Partner
Leiter Technologierecht

THE SQUAIRE Am Flughafen
60549 Frankfurt am Main

Tel.: +49-69-951195770
fheynike@kpmg-law.com

© 2025 KPMG Law Rechtsanwaltsgesellschaft mbH, assoziiert mit der KPMG AG Wirtschaftsprüfungsgesellschaft, einer Aktiengesellschaft nach deutschem Recht und ein Mitglied der globalen KPMG-Organisation unabhängiger Mitgliedsfirmen, die KPMG International Limited, einer Private English Company Limited by Guarantee, angeschlossen sind. Alle Rechte vorbehalten. Für weitere Einzelheiten über die Struktur der globalen Organisation von KPMG besuchen Sie bitte https://home.kpmg/governance.

KPMG International erbringt keine Dienstleistungen für Kunden. Keine Mitgliedsfirma ist befugt, KPMG International oder eine andere Mitgliedsfirma gegenüber Dritten zu verpflichten oder vertraglich zu binden, ebenso wie KPMG International nicht autorisiert ist, andere Mitgliedsfirmen zu verpflichten oder vertraglich zu binden.

Scroll