Richtlinie – Seite 3 – Softwarerecht

Haftung für Chatbot?

Haften Unternehmen für Auskünfte, die ein Ihnen installierter Chatbot gibt? Nachdem in Kanada eine Airline zum Schadensersatz auf Grund einer falschen Chatbot-Auskunft verurteilt wurde, stellt sich die Frage, ob so etwas in Deutschland denkbar ist. Und tatsächlich ist schon zu lesen, dass „vermutlich auch deutsche Gerichte nicht anders entscheiden würden“ (so in BC 2024, 95). Doch bei genauem Blick fragt sich: Auf welcher Rechtsgrundlage soll das geschehen.

Ethik und KI

Im Folgenden möchte ich kurz das Kapitel „Approaches to Ethical AI“ aus dem Open-Access-Buch „Introduction to Digital Humanism“ von Erich Prem vorstellen. Das lesenswerte Kapitel bietet eine umfassende Analyse ethischer Fragestellungen in Bezug auf Künstliche Intelligenz (KI) und legt dar, wie diese Herausforderungen im Rahmen ethischer Rahmenwerke und Leitlinien angegangen werden.

Der Missbrauch von Generativer KI und großen Sprachmodellen (LLM)

Generative KI verlangt unserer Gesellschaft viel ab: Schon jetzt ist immer weniger das, wonach es aussieht. Man darf (und sollte) weder seinen Ohren noch seinen Augen trauen – und es wird immer einfacher, selbst ohne erhebliche eigene Ressourcen oder technische Fertigkeiten, Angriffsszenarien mithilfe von KI aufzubauen.

Die Analyse „GenAI against humanity: nefarious applications of generative artificial intelligence and large language models“ bietet eine tiefgreifende Analyse der missbräuchlichen Anwendungen von Generativer Künstlicher Intelligenz (GenAI) und Großen Sprachmodellen (LLMs). Diese Studie, verfasst von Emilio Ferrara, betrachtet die dunkle Seite dieser Technologien, indem sie verschiedene schädliche Szenarien und deren potenzielle Auswirkungen auf Gesellschaft und Individuen aufzeigt.

Generative Künstliche Intelligenz für Korruptionsbekämpfung und Integrität in der Regierung

Generative Künstliche Intelligenz (GenAI) hat das Potenzial, den Kampf gegen Korruption zu revolutionieren und die Integrität in der Regierung zu stärken. Der OECD-Bericht „Generative AI for Anti-Corruption and Integrity in Government“ beleuchtet die Chancen und Herausforderungen der Nutzung von GenAI und großen Sprachmodellen (LLMs) durch Regierungsakteure, die sich der Integrität und Korruptionsbekämpfung widmen. In diesem Beitrag werden die wichtigsten Erkenntnisse des Berichts vorgestellt.

Die neue EU-Produkthaftungsrichtlinie: Meilenstein für die Haftung bei Software (?)

Die neu geplante EU-Produkthaftungsrichtlinie markiert eine entscheidende Wende in der Behandlung von Software im Rahmen der Produkthaftung: Zukünftig wird Software ausdrücklich als Produkt definiert und es knüpfen sich sehr starke Rechte an Fehler von Software.

Durch die Einbeziehung von Software in den Anwendungsbereich der Richtlinie wird nun ein Schutzstandard für Verbraucher bei Softwarefehlern und damit verbundenen Schäden etabliert, der mit der Haftung für physische Produkte vergleichbar ist.

Entscheidung des Arbeitsgerichts Hamburg zum Einsatz von KI-Systemen wie ChatGPT im Arbeitsumfeld

Rechtsstreit um KI-Nutzung in der Arbeitswelt: In einem bemerkenswerten Beschluss (Aktenzeichen 24 BVGa 1/24) vom 16. Januar 2024 hat das Arbeitsgericht Hamburg eine Entscheidung zur Nutzung von künstlicher Intelligenz, speziell von Systemen wie ChatGPT, am Arbeitsplatz getroffen. Der Fall wirft ein Licht auf die rechtlichen Herausforderungen und Auswirkungen der KI-Nutzung in der Arbeitswelt.

Neue Forschungserkenntnisse zur Autonomen Website-Hackfähigkeit von LLMs

Eine bahnbrechende Forschungsarbeit mit dem Titel „LLM Agents can Autonomously Hack Websites“ offenbart, wie fortgeschrittene große Sprachmodelle (LLMs), insbesondere GPT-4, autonom Websites hacken können. Dieses Potenzial wird durch die Fähigkeit der Modelle unterstrichen, ohne menschliches Feedback komplexe Aufgaben wie Blinddatenbankschema-Extraktion und SQL-Injections durchzuführen.

KI in der weltweiten Politik

Es ist sinnvoll, sich zunächst mit der aktuellen globalen politischen Landschaft im Bereich Künstliche Intelligenz (KI) zu befassen – insbesondere mit den Entwicklungen in den USA, da viele marktbeherrschende Lösungen von dort stammen. In vielen Ländern wird an eigenen Lösungen gearbeitet, etwa schon länger in Brasilien, während manche Länder wie die Schweiz oder Japan von eigenständigen Gesetzen absehen wollen und auf einen Mix von Richtlinien und punktuell angepassten, bestehenden Gesetzen setzen.

KI-Haftungsrichtlinie: Richtlinie zur KI-Haftung

Richtlinie zur KI-Haftung („KI-Haftungsrichtlinie“): Der Entwurf für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (KI-Haftung) zielt darauf ab, einheitliche Anforderungen für die Haftung bei Schäden, die durch KI-Systeme verursacht werden, zu schaffen.

Generative Künstliche Intelligenz im Finanzwesen

Die rasante Entwicklung der Künstlichen Intelligenz (KI) hat in den letzten Jahren zu bedeutenden Fortschritten in verschiedenen Bereichen geführt, einschließlich des Finanzwesens. Besonders bemerkenswert ist die Entstehung generativer Künstlicher Intelligenz (GenAI), die Inhalte wie Texte, Bilder und sogar Audio erzeugen kann.

Das OECD-Papier „Generative Artificial Intelligence in Finance“ beleuchtet die Anwendungsmöglichkeiten von GenAI im Finanzsektor, analysiert die damit verbundenen Risiken und diskutiert politische Implikationen. In diesem Beitrag werden die wesentlichen Punkte des Berichts vorgestellt.