Künstliche Intelligenz – Haftungsfalle für Manager?
Die Diskussion um Künstliche Intelligenz (KI) ist allgegenwärtig: Man begegnet ihr beim autonomen Fahren, trifft sie bei der Kundenkommunikation und auch vor der Unternehmensleitung macht sie nicht halt. Dort verspricht KI, Geschäftsleiter bei komplexen Prognoseentscheidungen zu unterstützen und Effizienzen zu heben. Gleichzeitig birgt die Künstliche Intelligenz aber auch gewisse Haftungsrisiken für Geschäftsleiter, sowohl bei ihrer Anwendung als auch beim Verzicht auf ihre Anwendung in der Unternehmensleitung, wie Mario Pofahl und Maximilian Mann, Gesellschaftsrechtler bei Linklaters, erläutern.
Ihren Ausgangspunkt nimmt die rechtliche Bewertung der Haftungsrisiken bei den hergebrachten Geschäftsleiterpflichten, insbesondere der Pflicht, die Gesellschaft unter eigener Verantwortung zu leiten, sowie der Pflicht, die Sorgfalt eines ordentlichen und gewissenhaften Geschäftsleiters anzuwenden. Bezüglich Letzterer besteht ein weiter Ermessensspielraum des Geschäftsleiters. Hierbei spielt die „Business Judgment Rule“ eine Rolle. Sie bietet dem Geschäftsleiter Sicherheit, wenn er bei einer unternehmerischen Entscheidung vernünftigerweise annehmen durfte, auf der Grundlage angemessener Information zum Wohle der Gesellschaft zu handeln. Besondere Bedeutung haben daneben die hergebrachten Grundsätze zur Aufgabendelegation; denn, jedenfalls im übertragenen Sinne, findet eine solche statt, wenn Geschäftsleiter gewisse Aufgaben an eine KI abgeben, insbesondere, wenn sie komplexe Informationen aufbereiten oder strategische Entscheidungen vorbereiten lassen. Delegiert der Geschäftsleiter Aufgaben, behält er nach allgemeinen Grundsätzen die Letztverantwortung für Leitungsentscheidungen. Außerdem muss er die Auswahl-, Einweisungs- und Überwachungssorgfalt beachten.
Haftung bei Anwendung von Künstlicher Intelligenz
Bei der Anwendung von KI darf der Geschäftsleiter diese nach den allgemeinen Grundsätzen nicht letztverantwortlich über Leitungsentscheidungen bestimmen lassen, was allerdings einer Unterstützung im Vorbereitungsstadium nicht im Wege steht. Zudem muss der Geschäftsleiter (selbst oder durch Mitarbeiter) darauf achten, dass die verwendete KI für die konkrete Aufgabe geeignet ist und die verwendeten Daten eine hinreichende Qualität haben. Diesbezüglich muss er sich gegebenenfalls Sachverständigenrats bedienen. Zudem ist die Funktionsfähigkeit des Algorithmus laufend zu überwachen. Gerade das stellt den Geschäftsleiter jedoch vor ein technologiespezifisches Problem: Ist die Überwachung einer KI überhaupt möglich?
Problematisch ist die Überwachung einer KI deshalb, weil ihr Output nicht erklärbar ist. Sie wird deswegen auch als Blackbox bezeichnet. Das Ergebnis ist bekannt, es ist aber objektiv unmöglich nachzuvollziehen, wie es zustande gekommen ist. Es ist jedoch nicht notwendig, den Entscheidungsprozess des Algorithmus nachzuvollziehen, um sein Ergebnis zu plausibilisieren. So kann das Ergebnis mit anderen Erkenntnissen abgeglichen werden. Zudem ist auch der Entscheidungsprozess von Menschen nicht offen einsehbar, nach Erkenntnissen der Psychologie in vielen Fällen sogar nicht einmal für den Betroffenen selbst. Dennoch ist eine Delegation auf Mitarbeiter grundsätzlich möglich. Es liegt daher nahe zu akzeptieren, dass sich auch die Entscheidungsprozesse einer KI rückblickend nicht erklären lassen.
Haftung bei Verzicht auf die Anwendung von KI
Beim Verzicht auf KI in der Unternehmensleitung haben Geschäftsleiter bei der unternehmerischen Entscheidung, ob und auf welche Weise sie eine KI einsetzen, einen breiten Ermessensspielraum. Um in den Genuss der Business Judgment Rule zu kommen, müssen sie allerdings ihre Entscheidung auf der Grundlage angemessener Informationen treffen. Geschäftsleiter sollten also einen Blick auf die weitere Entwicklung dieser Technologie haben. Sollte sich in Zukunft die Anwendung von KI in bestimmten Bereichen und bei bestimmten Entscheidungen als Standard etablieren, könnte es im Hinblick auf das Ob des Einsatzes zudem zu einer Ermessensreduktion auf null kommen und der Einsatz von KI daher geboten sein.
Der Verzicht auf die Anwendung von KI kann nicht nur mit Blick auf die Sorgfaltspflicht des Geschäftsleiters rechtliche Relevanz entfalten, sondern auch bezüglich der Wissenszurechnung im Unternehmen. Es besteht unter bestimmten Voraussetzungen eine Pflicht zur Weiterleitung und Abfrage von Informationen, bei deren Verletzung die Kenntnis fingiert wird. Künstliche Intelligenz verspricht, große Mengen an Informationen auswerten zu können. Beim Verzicht auf ihre Anwendung könnte daher womöglich die Kenntnis dieses Wissens im Unternehmen fingiert werden. Das scheint aber noch Zukunftsmusik zu sein, da die Anwendung von KI in der Unternehmensleitung derzeit nicht state of the art ist.
Fazit
Sowohl die Anwendung als auch der Verzicht auf KI in der Unternehmensleitung werfen rechtliche Fragen auf. Auf manche gibt es bereits Antworten, für andere Lösungsansätze. Es liegt an Rechtsberatern, Unternehmensjuristen und Wissenschaftlern, die Lösungsansätze gemeinsam im Dialog fortzuentwickeln, um das Potenzial von KI für die Unternehmensleitung in Zukunft ausschöpfen zu können.
ARTIKEL DIESER AUSGABE
Wegzugsteuer – Deutscher Gesetzgeber muss nachbessern
Beim Wegzug ins Ausland kann die Beteiligung an einer Kapitalgesellschaft zu einer so genannten Wegzugsteuer führen: Natürliche Personen, die mit mindestens 1% an einer in- oder ausländischen... mehr
Noerr und Schultze & Braun bringen Condor mit LOT zusammen
Für die durch die Thomas Cook-Pleite in Mitleidenschaft gezogene Condor ist ein Zukunftskonzept gefunden. Die Polish Aviation Group – Eigentümerin der polnischen Fluglinie LOT –... mehr
Wasseraufbereitung – Hogan Lovells begleitet PPP-Projekt in Kuwait
Ein Konsortium aus WTE Wassertechnik GmbH und dem Investor International Financial Advisors Holding (IFA) hat den Zuschlag für das Abwasserprojekt Umm Al-Hayman in Kuwait erhalten und... mehr
ZF erhält mit Gleiss Lutz Freigabe für Wabco-Übernahme
Am 23.1.20 hat die EU-Kommission grünes Licht für die Übernahme des Nutzfahrzeugeherstellers Wabco durch den Automobilzulieferer ZF Friedrichshafen gegeben. Die Freigabe in Phase 1... mehr
Von Innovationen zu staatlichen Interventionen
Noch vor wenigen Jahren standen offene Märkte und freier Wettbewerb im Vordergrund deutscher Wirtschaftspolitik. Die „Industriestrategie 2030“ des Bundeswirtschaftsministeriums (BMWi)... mehr
Allen & Overy holt neue Leiterin für deutsche Schiedsrechtspraxis an Bord
Zum 1.2.20 hat Allen & Overy die deutsche Schiedsverfahrenspraxis mit einem Neuzugang auf Partnerebene gestärkt. mehr
Bird & Bird verkündet Wechsel im Management und gewinnt neuen Of Counsel im Kartellrecht
Die Kanzlei Bird & Bird hat ihr Management zum Jahreswechsel teilweise neu aufgestellt. Nach fünf Jahren verlässt Partner Michael Alt (Gewerblicher Rechtsschutz) planmäßig die Geschäftsführung,... mehr
KPMG Law stärkt IP-Praxis mit weiterem Partner
Seit dem 1.1.20 verstärkt ein weiterer Neuzugang die Berliner IP-Praxis von KPMG Law. Thomas Beyer kommt von Preu Bohlig & Partner und ist künftig als Senior Manager – entspricht dem... mehr
Infinus-Anleger erzielen weiteren Etappensieg im Rechtsstreit mit Insolvenzverwalter
Im Rechtsstreit um die Rückzahlung von Zinsen aus Genussrechten haben die Anleger der insolventen Infinus-Gruppe einen weiteren Sieg errungen. Das OLG Koblenz wies am 22.1.20 die Berufung... mehr