Suche
Contact
Symbolbild zu KI-Compliance: Roboter
07.07.2023 | KPMG Law Insights

Warum KI-Compliance zu jeder Due-Diligence-Prüfung gehört

Künstliche Intelligenz (KI) ist in den meisten Unternehmen bereits im Einsatz. Nicht nur Anwendungen wie ChatGPT und andere Generative AI Tools werden genutzt, um Texte, Präsentationen und Konzepte zu verfassen. KI automatisiert auch Prozesse und analysiert Daten. Sie kann Geschäftsmodelle revolutionieren und Wachstum beschleunigen. Deswegen ist es wichtig, dass potenzielle Unternehmenskäufer und Investoren KI-Technologien im Rahmen der Due-Diligence-Prüfung berücksichtigen. Denn KI birgt Risiken und Herausforderungen, nicht zuletzt in Bezug auf rechtliche und regulatorische Aspekte.

Der AI Act wird Unternehmen zur KI-Compliance zwingen

Die wahrscheinlich größte regulatorische Herausforderung sind die erwartete KI-Verordnung der EU, auf Englisch AI Act, und die zugehörige Richtlinie über KI-Haftung. Die Verordnung wird voraussichtlich Ende 2023 in Kraft treten. Sie soll die Risiken von KI minimieren. Verstöße gegen die Vorschriften der Verordnung könnten dabei viel Geld kosten: Bis zu 40 Millionen Euro oder 7% des gesamten weltweiten Jahresumsatzes sollen die Bußgelder betragen können – mehr als nach der DSGVO.

Der geplante AI Act hat sowohl Befürworter als auch Gegner. In den letzten Monaten warnten einige prominente Stimmen vor den Gefahren der KI. Diesen dürfte die Regulierung dieser Technologien entgegenkommen. Hingehen brachten kürzlich mehr als 100 Führungskräfte renommierter Unternehmen Bedenken gegen den AI Act zum Ausdruck. Sie befürchten eine Gefährdung der Wettbewerbsfähigkeit und technologischen Souveränität Europas. Dennoch könnte es sein, dass sich andere Länder die EU zum Vorbild nehmen und es auch auf internationaler Ebene zur Regulierung von KI kommt.

Der bislang vorliegende Entwurf der EU-Kommission teilt KI-Systeme in verschiedene Risikoklassen ein. Diese reichen von minimalem Risiko bis zum Hochrisiko sowie unzulässiger KI mit als inakzeptabel eingeschätzten Risiken. Der Entwurf sieht verschiedene Maßnahmen vor, um künstliche Intelligenz und insbesondere die Hochrisiko-KI zu regulieren. Beispiele für Maßnahmen der Verordnung sind Transparenzvorschriften, ein Katalog verbotener Maßnahmen, insbesondere durch den diskriminierenden Einsatz von KI, und Informationspflichten gegenüber Nutzern von KI.

Neben dem AI Act gibt es eine Reihe weiterer Gesetze, die im Zusammenhang mit KI zu beachten sind. Darunter fallen zum Beispiel die DSGVO und andere geplante Verordnungen im Rahmen der europäischen Digitalstrategie. Auch Fragen der Haftung, des Urheberrechts und des geistigen Eigentums sind im Zusammenhang mit KI gesondert zu betrachten und zu beantworten.

Diese Themen sollten Bestandteil der KI-Due-Diligence sein

Eine KI einbeziehende Legal Due Diligence wird abhängig von Nutzungsgrad und Art der Tätigkeit des Zielunternehmens (Nutzer oder Anbieter von KI) stets auf den Einzelfall angepasst sein, typischerweise aber die folgenden Themen adressieren:

  • Nutzungsstatus: Umfang der systematisch eingesetzten KI-Systeme des Unternehmens als Nutzer oder als Anbieter
  • Haftung: Haftung als Nutzer und insbesondere als Anbieter von KI-Systemen
  • Verträge und Lizenzen: Umfang der Verträge und Lizenzen, die das Unternehmen in Bezug auf seine KI-Systeme hat, einschließlich Softwarelizenzen, Datenlizenzen und Serviceverträge
  • Urheberrecht und geistiges Eigentum: Geistiges Eigentum an den von der KI erstellten Werken besitzt und Wahrung von Drittrechten durch das Zielunternehmen
  • Fehlfunktionen: Reaktionsplan bei (meldepflichtigen) Vorfällen und Fehlfunktionen
  • Qualitätsmanagement & Konformitätsbewertung: Qualitätsmanagementsystem hinsichtlich der als Nutzer oder Anbieter eingesetzten KI-Systeme sowie Dokumentation zu beabsichtigten Konformitätsbewertungsverfahren
  • Transparenz: Transparenz des Unternehmens in Bezug auf genutzte oder angebotene KI-Systeme
  • KI & Datenschutz/-sicherheit: Status der Sammlung, Speicherung und Verwendung personenbezogener Daten durch das Zielunternehmen bei der Nutzung oder beim Angebot von KI-Systemen, Beachtung der Anforderungen der DSGVO und anderer relevanter Datenschutzgesetze durch das Zielunternehmen, Datensicherheitspraktiken des Unternehmens im Zusammenhang mit KI-Systemen sowie die Fähigkeit des Zielunternehmens, Cyberbedrohungen zu bewältigen.

Was bei der Due Diligence in Bezug auf KI unbedingt beachtet werden sollte

Nutzung und Angebot von KI im Zielunternehmen sollten im Rahmen rechtlicher Due-Diligence-Prüfungen genau und spezialisiert untersucht werden.

Dabei ist es wichtig, sowohl die KI in technischer Hinsicht zu verstehen als auch die rechtlichen Risiken einordnen zu können, die mit der Nutzung bzw. dem Anbieten der KI verbunden sind. Nur dann ist die Legal Due Diligence eine angemessen belastbare Grundlage für die unternehmerische Entscheidung über das Für und Wider der geplanten Transaktion. Sofern ein vorhandenes KI-System als rechtlich riskant eingestuft wird, muss das nicht das Aus des Deals bedeuten. Vielmehr kann jetzt geprüft werden, inwiefern die KI-Anwendung an rechtliche Bestimmungen angepasst werden kann.

Fazit

KI sollte heute ein eigenes Prüfungsthema bei einer Legal Due Diligence sein. Denn Rechtsverstöße durch die Nutzung künstlicher Intelligenz werden spätestens nach Inkrafttreten des AI Act hohe Bußgelder zur Folge haben können. Aber auch schon heute birgt KI Risiken, deren richtige rechtliche Einschätzung für eine fundierte Kauf- oder Investitionsentscheidung essenziell ist.

 

 

Explore #more

20.09.2023 |

Beitragsserie zum Modell „Employer of Record“: Fragen im Arbeitnehmerüberlassungsrecht in der EFAR

Das Modell des „Employer of Record“ rückt immer mehr in den Fokus der Unternehmen. In einer Beitragsserie in der Zeitschrift „Expertenforum Arbeitsrecht“ beleuchten…

20.09.2023 | KPMG Law Insights

BGH erweitert Aufklärungspflicht von Immobilienverkäufern

Mit einem für die Transaktionspraxis höchst relevanten Urteil hat der Bundesgerichtshof (BGH) am 15. September 2023 (Az. V ZR 77/22) die Rechte von…

19.09.2023 |

Gastbeitrag von Isabelle Knoché und Jasmin Runge zum Thema Greenwashing in W&V

Greenwashing wird zunehmend zum Image- und Rechts-Problem. Wo sind die Grenzen und wie sollten Marken ihre Kommunikation zu Nachhaltigkeit aufstellen? Isabelle Knoché und Jasmin Runge…

19.09.2023 | Dealmeldungen

KPMG Law und KPMG AG Wirtschaftsprüfungsgesellschaft beraten EURO-Leasing GmbH bei Verkauf der Mehrheitsanteile an Euromobil GmbH

Die KPMG Law Rechtsanwaltsgesellschaft mbH (KPMG Law) und die KPMG AG Wirtschaftsprüfungsgesellschaft (KPMG) haben die EURO-Leasing GmbH bei der Ausgliederung des Pkw-Vermiet-Geschäfts auf die Euromobil…

18.09.2023 | Dealmeldungen

KPMG Law berät Klüh beim Verkauf des luftseitigen Airport-Service- Geschäfts am Flughafen Frankfurt am Main an WISAG

KPMG Law hat die Klüh Cleaning GmbH aus Düsseldorf beim Verkauf ihres luftseitigen Airport-Service-Geschäfts am Flughafen Frankfurt am Main an WISAG Ground Service Rhein-Main GmbH…

18.09.2023 |

Statement von Stefan Kimmel im Handelsblatt zur neuen Rechtsform Flexible Company

Mit einer neuen Rechtsform will der österreichische Gesetzgeber Start-ups den Einstieg erleichtern. Österreich bietet Gründern mit der „Flexible Company“ eine neue Option, die insbesondere Start-ups…

14.09.2023 | KPMG Law Insights

Podcast-Serie „KPMG Law on air“: Generative KI

Generative KI hat erst vor wenigen Monaten Einzug in die Arbeitswelt gehalten und schon steht fest: Sie wird viele Berufsbilder deutlich verändern. Der technische Fortschritt…

13.09.2023 | KPMG Law Insights

eForms: Neue Standardformulare für Vergabestellen

Ab dem 25. Oktober 2023 dürfen Vergabestellen öffentlicher Auftraggeber für Veröffentlichungen nur noch die neuen eForms verwenden. Das sieht die Durchführungsverordnung (EU) 2019/1780 vor, die…

11.09.2023 | Pressemitteilungen

KPMG Law auf dem European General Counsel Forum

Die European Company Lawyers Association (ECLA) feiert ihr 40-jährigen Bestehen. Um das zu feiern, findet am 18. und 19. September in Frankfurt ein Event statt,…

08.09.2023 | Dealmeldungen

KPMG Law und KPMG beraten die Mainova AG beim Erwerb der Mehrheitsbeteiligung an der SOLEA AG

Die KPMG Law Rechtsanwaltsgesellschaft mbH (KPMG Law) und die KPMG AG Wirtschaftsprüfungsgesellschaft (KPMG) haben die Mainova AG beim Erwerb der Mehrheitsbeteiligung an der SOLEA AG…

Kontakt

Dr. Daniel Kaut, LL.M.

Partner
Solution Line Head Legal Deal Advisory
Leiter Gesellschaftsrecht, M&A

Bahnhofstraße 30
90402 Nürnberg

tel: +49 911 800929952
dkaut@kpmg-law.com

Francois Heynike, LL.M. (Stellenbosch)

Partner
Leiter Technologierecht

THE SQUAIRE Am Flughafen
60549 Frankfurt am Main

tel: +49-69-951195770
fheynike@kpmg-law.com

© 2023 KPMG Law Rechtsanwaltsgesellschaft mbH, assoziiert mit der KPMG AG Wirtschaftsprüfungsgesellschaft, einer Aktiengesellschaft nach deutschem Recht und ein Mitglied der globalen KPMG-Organisation unabhängiger Mitgliedsfirmen, die KPMG International Limited, einer Private English Company Limited by Guarantee, angeschlossen sind. Alle Rechte vorbehalten. Für weitere Einzelheiten über die Struktur der globalen Organisation von KPMG besuchen Sie bitte https://home.kpmg/governance.

KPMG International erbringt keine Dienstleistungen für Kunden. Keine Mitgliedsfirma ist befugt, KPMG International oder eine andere Mitgliedsfirma gegenüber Dritten zu verpflichten oder vertraglich zu binden, ebenso wie KPMG International nicht autorisiert ist, andere Mitgliedsfirmen zu verpflichten oder vertraglich zu binden.

Scroll