Unternehmen, die ihre Prozesse optimieren, Entscheidungen fundierter treffen oder innovative Geschäftsmodelle entwickeln wollen, setzen bekanntlich zunehmend auf KI-Systeme. Doch mit den technologischen Chancen gehen auch erhebliche rechtliche Herausforderungen einher, insbesondere im Hinblick auf das Gewährleistungsrecht. Wer ein KI-System für sein Unternehmen erwerben oder auf Plattformen wie Azure oder AWS ein eigenes neuronales Netz trainieren möchte, sollte die rechtlichen Rahmenbedingungen sorgfältig prüfen.
Die besondere Natur von KI-Systemen im Gewährleistungsrecht
Das deutsche Gewährleistungsrecht basiert grundsätzlich auf den Regelungen des Kauf- oder Werkvertragsrechts. Hier steht die Frage im Vordergrund, ob die gelieferte Ware oder das erstellte Werk frei von Mängeln sind. Bei klassischen Produkten ist dies vergleichsweise leicht zu beurteilen. Doch KI-Systeme stellen eine ganz eigene Kategorie dar. Sie zeichnen sich dadurch aus, dass sie dynamisch sind und sich kontinuierlich durch das Verarbeiten neuer Daten weiterentwickeln. Diese Lernfähigkeit kann zu unerwartetem Verhalten führen und macht die Bewertung eines Mangels deutlich komplexer.
Ein Kauf- oder Werkvertrag macht jedoch nur dann Sinn, wenn eine quasi fertige Lösung beschafft wird, die ohne größere Anpassungen oder fortlaufende Modifikationen in das Unternehmen integriert werden kann. Davon abzugrenzen ist der Fall, wenn ein Unternehmen ein neuronales Netzwerk betreiben und es fortlaufend trainieren möchte, um die Ergebnisse mittels eigener Skripte in betriebliche Abläufe zu integrieren. Hier liegt der Schwerpunkt der Leistung nicht in der Lieferung eines fertigen Produkts, sondern im Training und der fortlaufenden Kalibrierung des Netzwerks. Diese kontinuierliche Anpassung stellt eine Dienstleistung dar, deren rechtliche Bewertung anders erfolgt als bei einem Werkvertrag.
Bei mangelhaften Dienstleistungen bestehen verschiedene Möglichkeiten für Schadensersatzansprüche. Gemäß § 280 Abs. 1 BGB kann der Gläubiger Schadensersatz verlangen, wenn der Schuldner eine Pflicht aus dem Schuldverhältnis verletzt hat und diese Pflichtverletzung zu vertreten hat. Darüber hinaus kann unter den Voraussetzungen des § 281 BGB Schadensersatz statt der Leistung verlangt werden, wenn der Schuldner eine fällige Leistung nicht oder nicht wie geschuldet erbringt und eine angemessene Frist zur Nacherfüllung erfolglos abgelaufen ist. Sollte die Leistungspflicht nach § 275 BGB ausgeschlossen sein, ist Schadensersatz nach § 283 BGB möglich. Zudem kann der Gläubiger gemäß § 284 BGB Ersatz für vergebliche Aufwendungen verlangen, die im Vertrauen auf den Erhalt der Leistung gemacht wurden und durch die mangelhafte Dienstleistung nutzlos geworden sind.
Integration von KI in bestehende Systeme
Viele Unternehmen erwerben KI-Systeme als fertige Lösungen, die in die bestehende IT-Landschaft integriert werden müssen. Dies wirft nicht nur technische, sondern auch rechtliche Fragen auf. Ein zentraler Aspekt ist dabei die Definition der Beschaffenheit des KI-Systems. Hierbei geht es darum, welche konkreten Anforderungen an die Leistung der KI gestellt werden. Wie präzise sollen Vorhersagen sein? Wie schnell muss das System reagieren? Solche Fragen sollten im Vertrag eindeutig geregelt werden, um spätere Streitigkeiten zu vermeiden.
Auch die Umgebung, in der das KI-System betrieben wird, spielt eine entscheidende Rolle. Die Leistung einer KI kann erheblich davon abhängen, ob sie auf geeigneter Hardware läuft und mit kompatibler Software zusammenarbeitet. Werden solche Anforderungen nicht klar definiert, besteht das Risiko, dass die Verantwortung für mögliche Funktionsprobleme unklar bleibt. Unternehmen sollten darauf achten, dass solche Aspekte im Vertrag berücksichtigt werden.
Ein weiterer zentraler Punkt betrifft die Daten, die das KI-System verarbeiten soll. Oftmals ist es notwendig, die Daten vor der Verwendung aufzubereiten, da unstrukturierte oder fehlerhafte Daten die Leistung der KI erheblich beeinträchtigen können. Es empfiehlt sich, vertraglich festzulegen, wer für die Datenaufbereitung verantwortlich ist und welche Qualitätsstandards dabei eingehalten werden müssen.
Training neuronaler Netze mit eigenen Daten
Wer sich dafür entscheidet, ein eigenes neuronales Netz auf Plattformen wie Azure oder AWS zu trainieren, steht vor weiteren rechtlichen Herausforderungen. Eine zentrale Frage betrifft die Verantwortlichkeit für die Trainingsdaten. Sind diese unvollständig oder von minderer Qualität, kann dies die Leistungsfähigkeit des fertigen Modells erheblich beeinträchtigen. Unternehmen sollten daher klare Vereinbarungen darüber treffen, wie die Daten aufbereitet und bereitgestellt werden.
Ein weiteres wichtiges Thema ist das Eigentum an den Ergebnissen. Bei der Nutzung von Cloud-Plattformen ist oft nicht eindeutig geregelt, wem die Rechte an den trainierten Modellen oder den verwendeten Daten gehören. Anbieter wie AWS behalten sich mitunter das Recht vor, die Daten weiterzuverwenden. Dies kann insbesondere dann problematisch werden, wenn es sich um sensible oder wettbewerbsrelevante Informationen handelt. Hier sind eindeutige vertragliche Regelungen essenziell.
Weiterhin stellt sich die Frage, wie Fehler im Trainingsprozess oder Mängel im fertigen Modell rechtlich zu bewerten sind. Da der Erfolg des Trainingsprozesses von vielen Faktoren abhängt, sollte der Vertrag klare Garantien enthalten, welche Ergebnisse erwartet werden können und wer im Falle von Abweichungen haftet. Bei Dienstleistungen wie dem Training neuronaler Netze können die oben genannten Vorschriften der §§ 280, 281, 283 und 284 BGB einschlägig sein, um bei Schlechtleistung rechtliche Ansprüche durchzusetzen.
KI in der Beschaffung: Es ist nicht so einfach
Seien Sie sich im Klaren, was Sie als Unternehmen einkaufen wollen: Soll es eine eigenständige Lösung sein, die „out of the box“ gekauft wird – oder geht es eher darum, dass auf vorhandener und ggf. zugekaufter Infrastruktur (etwa bei AWS) trainiert wird? Und wenn trainiert wird: Haben Sie vertraglich die fortlaufende Kalibrierung mit vereinbart?
Anders dagegen der Anbieter, der eine Lösung entwickeln bzw. verkaufen möchte: So ziemlich jeder mir bekannte IT-Dienstleister will unbedingt in die Dienstleistung (oder manchmal noch Mietlösung). Das ist aber nicht immer das ideale Szenario und gerade bei KI-Systemen, wenn „nur“ das Training geschuldet ist, wird es haarig bei dysfunktionalem Verhalten: Wann ist ein Training technisch korrekt erfolgt und fehlerhafte Ergebnisse wirklich unvorhersehbar? Dazu kommen massenhafte Belehrungspflichten gegenüber dem Kunden, die ideal schon im Vertrag erfüllt werden. Die Streitigkeiten der Zukunft können hier undankbar und sehr teuer werden.
Datenschutz und Haftung
Ein weiterer zentraler Aspekt bei der Nutzung von KI-Systemen ist der Umgang mit Daten. Insbesondere, wenn personenbezogene Daten verarbeitet werden, müssen Unternehmen sicherstellen, dass alle gesetzlichen Vorgaben, insbesondere die Datenschutz-Grundverordnung (DSGVO), eingehalten werden. Dies betrifft nicht nur die Einholung von Einwilligungen und die Zweckbindung der Datenverarbeitung, sondern auch die Frage, wie lange die Daten gespeichert werden und wer Zugang zu ihnen hat.
Gleichzeitig sollten Unternehmen klären, wie Haftungsfragen geregelt werden, falls die KI Fehlentscheidungen trifft. Solche Fehler können weitreichende Folgen haben, etwa wenn sie zu falschen Diagnosen oder fehlerhaften Finanzprognosen führen. Hier ist es wichtig, im Vertrag festzulegen, wer für solche Fehler haftet und welche Konsequenzen daraus folgen.
Es ist ein Stück weit verwunderlich, wenn man sich die juristische Literatur ansieht: Die Mangelhaftigkeit von KI-Systemen wird da facto derzeit kaum thematisiert und wenn, dann in jahrealten Aufsätzen. Dabei wird derzeit verkannt, dass die in der Praxis eigentlich stattfindende Leistung eher als Dienstleistung denn als Kauf-/Werkvertrag zu qualifizieren ist – mit erheblichen Auswirkungen auf zu gestaltende Verträge!
Fazit
Die Implementierung von KI-Systemen bietet große Chancen, birgt jedoch auch erhebliche rechtliche Risiken. Unternehmen, die in KI investieren, sollten darauf achten, dass alle relevanten Aspekte – von der Beschaffenheit des Systems über die Integration in die IT-Landschaft bis hin zur Nutzung und Verarbeitung von Daten – vertraglich klar geregelt sind. Nur so lassen sich potenzielle Konflikte vermeiden und die Leistungsfähigkeit der Systeme sicherstellen. Eine fundierte rechtliche Beratung ist dabei unverzichtbar, um die vielfältigen rechtlichen Herausforderungen zu bewältigen und das Potenzial von KI-Systemen voll auszuschöpfen.
- Gewährleistungsrecht bei KI-Systemen: Worauf Unternehmen achten sollten - Januar 5, 2025
- Datenschutz und Künstliche Intelligenz - Dezember 23, 2024
- Künstliche Intelligenz und Vertragsrecht - Dezember 21, 2024
