ChatGPT – Teil 13: Verantwortung und Sorgfaltspflichten

Die Nutzung generativer Künstlicher Intelligenz (KI) betrifft neben urheberrechtlichen Fragen eine Vielzahl weiterer Rechtsgebiete. In diesem Teil meiner KI-Reihe geht es um die Frage, welche Verantwortung und Pflichten sich aus dem konkreten Einsatz generativer KI ergeben. Dabei werfe ich einen Blick auf das Vertragsrecht und die außervertragliche Haftung sowie auf die Sorgfaltspflichten von Anbietern und Nutzern der Technologie.

Pflichten von Anbietern und Nutzern

Durch den Einsatz von KI entstehen Sorgfaltspflichten sowohl für Anbieter als auch für Nutzer der Technologien. Im vertraglichen Kontext haftet der Schuldner grundsätzlich für die Erfüllung seiner Leistungspflichten. Wenn eine KI eingesetzt wird, um diese Pflichten zu erfüllen, bleibt der Nutzer der KI rechtlich verantwortlich für das Ergebnis dieser Leistung. Das bedeutet, dass jede Pflichtverletzung, die durch die KI entsteht, dem Nutzer zugerechnet wird, als hätte er die Pflichtverletzung selbst begangen.

Höchstpersönliche Leistungen

Im Vertragsrecht stellt sich die Frage, ob und in welchem Umfang eine generative KI selbst Leistungen erbringen darf. Nach § 613 BGB ist eine Leistung höchstpersönlich vom Vertragspartner zu erbringen, wenn sie aufgrund ihrer Natur oder nach dem Inhalt des Vertrages nicht von Dritten durchgeführt werden kann. Dies bezieht sich typischerweise auf kreative, intellektuelle oder besonders vertrauensabhängige Tätigkeiten. Solange eine KI dabei lediglich unterstützend tätig wird und nicht die Leistung selbstständig erbringt, kann ihr Einsatz nicht ausgeschlossen werden. Einfache Formen von KI wie etwa die Rechtschreibkorrektur und automatische Übersetzungen können sogar durchaus als Standard für vertragliche Leistungen betrachtet werden.

Transparenz und Offenlegung

Daraus folgt die Frage, wie transparent der Einsatz von KI gemacht werden muss. Je nach Vertragsbedingungen kann es erforderlich sein, den Einsatz von KI gegenüber dem Vertragspartner offenzulegen. Dies könnte beispielsweise aus Spezialregelungen folgen oder als Nebenpflicht aus § 241 II BGB erwachsen. Die Offenlegung ist insbesondere dann von Bedeutung, wenn die KI wesentliche Teile der Leistung übernimmt und dies Einfluss auf die Qualität oder die Erwartungen des Vertragspartners hat.

Datenschutz und Produkthaftung

Weitere Pflichten ergeben sich aus dem Datenschutz: Der Einsatz von KI muss mit den geltenden Datenschutzvorschriften vereinbar sein. Dies betrifft neben den allgemeinen Grundsätzen für die Verarbeitung personenbezogener Daten (Art. 5ff. DSGVO) insbesondere das Verbot automatisierter Entscheidungen (Art. 22 DSGVO).

Auch Fragen der Produkthaftung spielen beim Einsatz von generativer KI eine Rolle. Der aktuelle Entwurf der Produkthaftungsrichtlinie umfasst erstmals ausdrücklich auch Software und digitale Produktionsdateien. Damit können Hersteller von KI-Systemen in weiterem Umfang für Rechtsgutsverletzungen bei Verbrauchern zur Verantwortung gezogen werden.

Anpassung von Verträgen

Die Nutzung von KI kann das Verhältnis zwischen Leistung und Gegenleistung beeinflussen, insbesondere bei Verträgen, bei denen der Leistungserfolg im Vordergrund steht, wie z.B. bei Werkverträgen. In solchen Fällen könnte eine Anpassung der Verträge erforderlich sein, um neue Realitäten und technische Möglichkeiten zu berücksichtigen. Zum Beispiel könnte ein Filmemacher, der generative KI zum Erstellen von Videos nutzt, möglicherweise schneller liefern, was wiederum Fragen nach der Vergütung oder der Vertragsdauer aufwerfen könnte.

Wenn der Einsatz von KI zu einer wesentlichen Veränderung der geschuldeten Leistung führt, könnten sich Fragen nach einer möglichen Störung der Geschäftsgrundlage gemäß § 313 BGB stellen. Hier ist entscheidend, inwieweit die ursprünglich vereinbarte Äquivalenz von Leistung und Gegenleistung durch den Einsatz von KI verschoben wird.

Problem der Zurechnung

Komplex wird es bei der Zurechnung von Fehlern oder Pflichtverletzungen, die direkt auf Entscheidungen oder Handlungen der KI zurückzuführen sind. Gemäß § 278 BGB ist der Schuldner auch für das Verschulden seiner Erfüllungsgehilfen verantwortlich. Da eine KI jedoch nicht als juristische oder natürliche Person gilt und somit nicht die klassischen Kriterien eines Erfüllungsgehilfen erfüllt, müssen die herkömmlichen Haftungsregelungen neu interpretiert werden, um dem technologischen Fortschritt Rechnung zu tragen.

Weiterer Klärungsbedarf

Die Entwicklung und Nutzung generativer KI ist bereits durch eine Reihe bestehender Gesetze geregelt und wird durch die neuen europäischen Regelungsvorschläge weiter präzisiert. Die sich rasch weiterentwickelnden Technologien werfen jedoch neue Fragen auf und machen es erforderlich, bestehende Regelungen zu konkretisieren und weiterzuentwickeln, um sowohl Herstellern als auch Nutzern von KI klare Richtlinien an die Hand zu geben.

Vertragsgestaltung im Fokus

Um die Risiken bei der Nutzung generativer KI einzugrenzen, spielt die Vertragsgestaltung eine wichtige Rolle. Sie ermöglicht es, flexibel und schnell auf neue technologische Entwicklungen und Herausforderungen zu reagieren.

Bei Vertragsverhandlungen empfiehlt es sich, den Einsatz von KI explizit zu regeln. So lässt sich sicherstellen, dass beide Vertragsparteien über die Verwendung und die Grenzen des Einsatzes von KI im Klaren sind. Dies schließt eine Prüfung der Zulässigkeit nach bestehendem und zukünftigem Recht mit ein und minimiert die Risiken in der vertraglichen Abwicklung.

Bisher erschienen:

Dr. Daniel Kögel,
Fachanwalt für Urheber- und Medienrecht
koegel@web-partner.de