Künstliche Intelligenz – Seite 10

Entscheidung des Verwaltungsgerichts München zur Täuschung durch KI-Essays

Ein bedeutendes Urteil – das Fragen aufwirft: Das Verwaltungsgericht München hat in seinem Beschluss vom 28. November 2023 (Aktenzeichen M 3 E 23.4371) einen wegweisenden Fall in Bezug auf die Nutzung von künstlicher Intelligenz (KI) bei der Erstellung von Hochschulbewerbungsunterlagen entschieden.

Beachten Sie dazu auch meine Beiträge auf Linked-In: Die KI-Paranoide Gesellschaft sowie „Was machen die KI-textlichen Fertigkeiten mit uns und unserer Gesellschaft„.

Neue Forschungserkenntnisse zur Autonomen Website-Hackfähigkeit von LLMs

Eine bahnbrechende Forschungsarbeit mit dem Titel „LLM Agents can Autonomously Hack Websites“ offenbart, wie fortgeschrittene große Sprachmodelle (LLMs), insbesondere GPT-4, autonom Websites hacken können. Dieses Potenzial wird durch die Fähigkeit der Modelle unterstrichen, ohne menschliches Feedback komplexe Aufgaben wie Blinddatenbankschema-Extraktion und SQL-Injections durchzuführen.

Der Wert von Opensource-Software

Ein Überblick über die neuesten Erkenntnisse zum Thema des Wertes von Open Source Software (OSS) – diese spielt in der modernen Wirtschaft bekanntlich eine fundamentale Rolle. Eine Studie von Manuel Hoffmann, Frank Nagle und Yanuo Zhou bietet nun erstmals umfassende Einblicke in den ökonomischen Wert von OSS.

OSS, deren Quellcode öffentlich zugänglich ist, taucht in 96 Prozent aller Codebasen auf und bildet häufig die Grundlage für Spitzentechnologien in Bereichen wie KI oder Big Data.

KI in der weltweiten Politik

Es ist sinnvoll, sich zunächst mit der aktuellen globalen politischen Landschaft im Bereich Künstliche Intelligenz (KI) zu befassen – insbesondere mit den Entwicklungen in den USA, da viele marktbeherrschende Lösungen von dort stammen. In vielen Ländern wird an eigenen Lösungen gearbeitet, etwa schon länger in Brasilien, während manche Länder wie die Schweiz oder Japan von eigenständigen Gesetzen absehen wollen und auf einen Mix von Richtlinien und punktuell angepassten, bestehenden Gesetzen setzen.

KI-Haftungsrichtlinie: Richtlinie zur KI-Haftung

Richtlinie zur KI-Haftung („KI-Haftungsrichtlinie“): Der Entwurf für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (KI-Haftung) zielt darauf ab, einheitliche Anforderungen für die Haftung bei Schäden, die durch KI-Systeme verursacht werden, zu schaffen.

Die Kehrseite der KI-gestützten Softwareentwicklung

Die rasante Entwicklung von KI-Werkzeugen wie GitHub Copilot hat die Art und Weise, wie Code geschrieben wird, revolutioniert. Entwickler können dank dieser Tools schneller codieren, was laut GitHub die Codierung um 55% beschleunigt und zu einer enormen Steigerung der Codeproduktion führt.

Diese Entwicklung scheint auf den ersten Blick nur Vorteile zu bringen, darunter eine massive Zeitersparnis und eine Erhöhung des geschriebenen Codes um 46%. Doch eine aktuelle Studie von GitClear wirft nun ein kritisches Licht auf die langfristigen Auswirkungen dieser Technologien auf die Codequalität und Wartbarkeit.

Rechtliche Herausforderungen durch künstliche Intelligenz

Die rechtlichen Herausforderungen im Bereich der Künstlichen Intelligenz (KI) sind vielfältig und betreffen nahezu alle Rechtsgebiete. Sie umfassen sowohl rechtsgebietsspezifische Fragen als auch Probleme, die durch den Einsatz von KI in verschiedenen Lebensbereichen entstehen können.

Dabei stellt sich grundsätzlich die Frage, wie das Rechtssystem auf die durch KI verursachten Veränderungen der Lebenswelt reagieren kann und soll. Dabei lassen sich drei grundsätzlich unterschiedliche Konstellationen unterscheiden: (1) die Anwendung bestehender Rechtsnormen auf neue Sachverhalte, (2) die notwendige Fortentwicklung bestehender Rechtsnormen und (3) die Notwendigkeit rechtspolitischer Veränderungen, wenn eine Fortentwicklung des geltenden Rechts nicht ausreicht.

Cyberkriminalität in Nordkorea und die Bedrohung der Kryptowährungsindustrie

Nordkorea ist einer der Hauptverantwortlichen für die zunehmende Bedrohung der Cybersicherheit. Spätestens seit dem Angriff auf Sony Pictures im Jahr 2014 wird das Land als wichtiger Cyber-Akteur auf der internationalen Bühne wahrgenommen. Seitdem hat Pjöngjang seine Hackerfähigkeiten genutzt, um internationale Sanktionen zu umgehen und Gelder zu stehlen.

Mit den erbeuteten Geldern konnte Pjöngjang die Entwicklung seines Atom- und Raketenprogramms finanzieren. Nordkorea nutzt Cyberoperationen auch zur (digitalen) Spionage. Die Ziele sind breit gefächert: Sie richten sich unter anderem gegen Universitäten, Menschenrechtsorganisationen und Medienunternehmen, erzeugen Unzufriedenheit oder Misstrauen durch Wahlbetrug und greifen kritische nationale Infrastrukturen an. Die zunehmende Bedeutung Nordkoreas im Bereich Cybercrime und Cybersecurity ist auch der Grund, warum wir hier einen eigenen Blog-Post zu dem Thema pflegen.

Als Beispiel sei hier eine Studie der Insikt Group von Recorded Future aufgegriffen, die ein alarmierendes Bild der nordkoreanischen Cyberkriminalität zeichnet. Diese Aktivitäten, die seit 2017 zugenommen haben, zielen auf die Kryptowährungsindustrie ab und haben es Nordkorea ermöglicht, geschätzte 3 Milliarden Dollar an Kryptowährungen zu stehlen.

Kollektives Handeln für verantwortungsvolle KI im Gesundheitswesen

Künstliche Intelligenz (KI) verändert die Welt und hat auch im Gesundheitswesen ein enormes Potenzial. Der Bericht der OECD „Collective Action for Responsible AI in Health“ bietet einen umfassenden Überblick über die aktuellen Entwicklungen, Chancen und Herausforderungen von KI im Gesundheitsbereich. Ziel des Berichts ist es, politische Entscheidungsträger dabei zu unterstützen, verantwortungsvolle KI-Strategien zu entwickeln, die die Gesundheitsversorgung verbessern und gleichzeitig ethische und sicherheitstechnische Bedenken adressieren.

Generative Künstliche Intelligenz im Finanzwesen

Die rasante Entwicklung der Künstlichen Intelligenz (KI) hat in den letzten Jahren zu bedeutenden Fortschritten in verschiedenen Bereichen geführt, einschließlich des Finanzwesens. Besonders bemerkenswert ist die Entstehung generativer Künstlicher Intelligenz (GenAI), die Inhalte wie Texte, Bilder und sogar Audio erzeugen kann.

Das OECD-Papier „Generative Artificial Intelligence in Finance“ beleuchtet die Anwendungsmöglichkeiten von GenAI im Finanzsektor, analysiert die damit verbundenen Risiken und diskutiert politische Implikationen. In diesem Beitrag werden die wesentlichen Punkte des Berichts vorgestellt.