Suche
Contact
Symbolbild zu KI-Compliance: Roboter
07.07.2023 | KPMG Law Insights

Warum KI-Compliance zu jeder Due-Diligence-Prüfung gehört

Künstliche Intelligenz (KI) ist in den meisten Unternehmen bereits im Einsatz. Nicht nur Anwendungen wie ChatGPT und andere Generative AI Tools werden genutzt, um Texte, Präsentationen und Konzepte zu verfassen. KI automatisiert auch Prozesse und analysiert Daten. Sie kann Geschäftsmodelle revolutionieren und Wachstum beschleunigen. Deswegen ist es wichtig, dass potenzielle Unternehmenskäufer und Investoren KI-Technologien im Rahmen der Due-Diligence-Prüfung berücksichtigen. Denn KI birgt Risiken und Herausforderungen, nicht zuletzt in Bezug auf rechtliche und regulatorische Aspekte.

Der AI Act wird Unternehmen zur KI-Compliance zwingen

Die wahrscheinlich größte regulatorische Herausforderung sind die erwartete KI-Verordnung der EU, auf Englisch AI Act, und die zugehörige Richtlinie über KI-Haftung. Die Verordnung wird voraussichtlich Ende 2023 in Kraft treten. Sie soll die Risiken von KI minimieren. Verstöße gegen die Vorschriften der Verordnung könnten dabei viel Geld kosten: Bis zu 40 Millionen Euro oder 7% des gesamten weltweiten Jahresumsatzes sollen die Bußgelder betragen können – mehr als nach der DSGVO.

Der geplante AI Act hat sowohl Befürworter als auch Gegner. In den letzten Monaten warnten einige prominente Stimmen vor den Gefahren der KI. Diesen dürfte die Regulierung dieser Technologien entgegenkommen. Hingehen brachten kürzlich mehr als 100 Führungskräfte renommierter Unternehmen Bedenken gegen den AI Act zum Ausdruck. Sie befürchten eine Gefährdung der Wettbewerbsfähigkeit und technologischen Souveränität Europas. Dennoch könnte es sein, dass sich andere Länder die EU zum Vorbild nehmen und es auch auf internationaler Ebene zur Regulierung von KI kommt.

Der bislang vorliegende Entwurf der EU-Kommission teilt KI-Systeme in verschiedene Risikoklassen ein. Diese reichen von minimalem Risiko bis zum Hochrisiko sowie unzulässiger KI mit als inakzeptabel eingeschätzten Risiken. Der Entwurf sieht verschiedene Maßnahmen vor, um künstliche Intelligenz und insbesondere die Hochrisiko-KI zu regulieren. Beispiele für Maßnahmen der Verordnung sind Transparenzvorschriften, ein Katalog verbotener Maßnahmen, insbesondere durch den diskriminierenden Einsatz von KI, und Informationspflichten gegenüber Nutzern von KI.

Neben dem AI Act gibt es eine Reihe weiterer Gesetze, die im Zusammenhang mit KI zu beachten sind. Darunter fallen zum Beispiel die DSGVO und andere geplante Verordnungen im Rahmen der europäischen Digitalstrategie. Auch Fragen der Haftung, des Urheberrechts und des geistigen Eigentums sind im Zusammenhang mit KI gesondert zu betrachten und zu beantworten.

Diese Themen sollten Bestandteil der KI-Due-Diligence sein

Eine KI einbeziehende Legal Due Diligence wird abhängig von Nutzungsgrad und Art der Tätigkeit des Zielunternehmens (Nutzer oder Anbieter von KI) stets auf den Einzelfall angepasst sein, typischerweise aber die folgenden Themen adressieren:

  • Nutzungsstatus: Umfang der systematisch eingesetzten KI-Systeme des Unternehmens als Nutzer oder als Anbieter
  • Haftung: Haftung als Nutzer und insbesondere als Anbieter von KI-Systemen
  • Verträge und Lizenzen: Umfang der Verträge und Lizenzen, die das Unternehmen in Bezug auf seine KI-Systeme hat, einschließlich Softwarelizenzen, Datenlizenzen und Serviceverträge
  • Urheberrecht und geistiges Eigentum: Geistiges Eigentum an den von der KI erstellten Werken besitzt und Wahrung von Drittrechten durch das Zielunternehmen
  • Fehlfunktionen: Reaktionsplan bei (meldepflichtigen) Vorfällen und Fehlfunktionen
  • Qualitätsmanagement & Konformitätsbewertung: Qualitätsmanagementsystem hinsichtlich der als Nutzer oder Anbieter eingesetzten KI-Systeme sowie Dokumentation zu beabsichtigten Konformitätsbewertungsverfahren
  • Transparenz: Transparenz des Unternehmens in Bezug auf genutzte oder angebotene KI-Systeme
  • KI & Datenschutz/-sicherheit: Status der Sammlung, Speicherung und Verwendung personenbezogener Daten durch das Zielunternehmen bei der Nutzung oder beim Angebot von KI-Systemen, Beachtung der Anforderungen der DSGVO und anderer relevanter Datenschutzgesetze durch das Zielunternehmen, Datensicherheitspraktiken des Unternehmens im Zusammenhang mit KI-Systemen sowie die Fähigkeit des Zielunternehmens, Cyberbedrohungen zu bewältigen.

Was bei der Due Diligence in Bezug auf KI unbedingt beachtet werden sollte

Nutzung und Angebot von KI im Zielunternehmen sollten im Rahmen rechtlicher Due-Diligence-Prüfungen genau und spezialisiert untersucht werden.

Dabei ist es wichtig, sowohl die KI in technischer Hinsicht zu verstehen als auch die rechtlichen Risiken einordnen zu können, die mit der Nutzung bzw. dem Anbieten der KI verbunden sind. Nur dann ist die Legal Due Diligence eine angemessen belastbare Grundlage für die unternehmerische Entscheidung über das Für und Wider der geplanten Transaktion. Sofern ein vorhandenes KI-System als rechtlich riskant eingestuft wird, muss das nicht das Aus des Deals bedeuten. Vielmehr kann jetzt geprüft werden, inwiefern die KI-Anwendung an rechtliche Bestimmungen angepasst werden kann.

Fazit

KI sollte heute ein eigenes Prüfungsthema bei einer Legal Due Diligence sein. Denn Rechtsverstöße durch die Nutzung künstlicher Intelligenz werden spätestens nach Inkrafttreten des AI Act hohe Bußgelder zur Folge haben können. Aber auch schon heute birgt KI Risiken, deren richtige rechtliche Einschätzung für eine fundierte Kauf- oder Investitionsentscheidung essenziell ist.

 

 

Explore #more

28.05.2024 |

Veröffentlichungen in der ESGZ im Mai

Die KPMG Law Expertinnen Isabelle Knoché und Denise Spinnler-Weimann haben einen Beitrag über „Die zweite Reform des KSG“ in der Mai Ausgabe der ESGZ veröffentlicht.…

27.05.2024 | KPMG Law Insights

BImSchG-Novelle soll Genehmigungsverfahren beschleunigen

Am 17.05.2024 haben sich die Ampel-Fraktionen auf die Novelle des Bundes-Immissionsschutzgesetzes (BImSchG) geeinigt. Mit dem Gesetz sollen schnellere und unbürokratischere Verfahren geschaffen und so Genehmigungsverfahren…

27.05.2024 | KPMG Law Insights

Ökodesign-Verordnung: Produkte sollen nachhaltiger werden

Das Europäische Parlament hatte am 23. April 2024 der neuen EU-Ökodesign-Verordnung zugestimmt; am 27. Mai 2024 gaben auch die EU-Mitgliedsstaaten grünes Licht. Die Verordnung legt…

27.05.2024 | KPMG Law Insights

Podcast-Serie „KPMG Law on air“: M&A-Ausblick 2024

Immer noch sind viele potenzielle Unternehmenskäufer in Wartestellung. Die Hoffnung: fallende Zinsen und eine damit verbundene leichtere Finanzierung. Zinssenkungen werden vermutlich einen regelrechten Boost für…

22.05.2024 | PR-Veröffentlichungen

Gastbeitrag in der WiWo: Warum die Klage der Schweizer Klimaseniorinnen deutsche Unternehmen interessieren muss

Der Europäische Gerichtshof für Menschenrechte hat der Klage des Vereins Klimaseniorinnen gegen die Schweiz stattgegeben: Die Schweiz muss mehr für den Klimaschutz tun. Weltweit sind…

22.05.2024 | KPMG Law Insights

High im Job? Das bedeutet die Cannabis-Legalisierung für Arbeitgeber

Seit dem 1. April 2024 sind der Besitz und der Konsum von Cannabis unter Berücksichtigung der Vorschriften des viel diskutierten Cannabisgesetzes legal. Seit Inkrafttreten wird…

22.05.2024 | KPMG Law Insights

Der AI Act kommt: EU möchte Risiken von KI in den Griff bekommen

Am 21. Mai 2024 haben die EU-Staaten dem AI Act zugestimmt. Das weltweit erste Gesetz zur Regulierung künstlicher Intelligenz (KI) kann nun in Kraft treten.…

22.05.2024 | PR-Veröffentlichungen

Gastbeitrag in der KlimaRZ zum Thema EU-Verpackungsverordnung

In der KlimaRZ Ausgabe 3/2024 (S. 67 ff.) ist ein Gastbeitrag von den KPMG Law Experten Simon Meyer und Sandro Köpper zum Thema “ EU-Verpackungsverordnung…

17.05.2024 | KPMG Law Insights

Podcast-Serie „KPMG Law on air“: Wenn das Familienunternehmen verkauft werden soll

Circa 38.000 Familienunternehmen werden momentan pro Jahr übergeben. In den meisten Fällen findet der Inhaberwechsel innerhalb der Familie statt. Doch immer häufiger entschließen sich Familien…

14.05.2024 | KPMG Law Insights

So können Rechtsabteilungen KI im Vertragsmanagement nutzen

Der Einsatz künstlicher Intelligenz ermöglicht es Rechtsabteilungen, manuelle Prozesse im Vertragsmanagement zu automatisieren. Dies steigert die Effizienz über den gesamten Lebenszyklus eines Vertrags hinweg und…

Kontakt

Dr. Daniel Kaut, LL.M.

Partner
Solution Line Head Legal Deal Advisory
Leiter Gesellschaftsrecht, M&A

Bahnhofstraße 30
90402 Nürnberg

tel: +49 911 800929952
dkaut@kpmg-law.com

Francois Heynike, LL.M. (Stellenbosch)

Partner
Leiter Technologierecht

THE SQUAIRE Am Flughafen
60549 Frankfurt am Main

tel: +49-69-951195770
fheynike@kpmg-law.com

© 2024 KPMG Law Rechtsanwaltsgesellschaft mbH, assoziiert mit der KPMG AG Wirtschaftsprüfungsgesellschaft, einer Aktiengesellschaft nach deutschem Recht und ein Mitglied der globalen KPMG-Organisation unabhängiger Mitgliedsfirmen, die KPMG International Limited, einer Private English Company Limited by Guarantee, angeschlossen sind. Alle Rechte vorbehalten. Für weitere Einzelheiten über die Struktur der globalen Organisation von KPMG besuchen Sie bitte https://home.kpmg/governance.

KPMG International erbringt keine Dienstleistungen für Kunden. Keine Mitgliedsfirma ist befugt, KPMG International oder eine andere Mitgliedsfirma gegenüber Dritten zu verpflichten oder vertraglich zu binden, ebenso wie KPMG International nicht autorisiert ist, andere Mitgliedsfirmen zu verpflichten oder vertraglich zu binden.

Scroll