Es hat mich interessiert was Stand der Dinge ist, weil erst gestern eine Mail von Google reinkam, die die Produkthaftung bei der Verwendung von KI in Form von Pflichten hin zum Anwender verschiebt.
TL/DR: Also wenn ich das richtig verstehe:
Die, die sich mit KI auskennen, die Hersteller, sagen selbst, dass mit KI gefährliche Dinge gemacht werden können, weil sie bereits passiert sind, KI-Schwärme haben sich bereits selbständig gemacht und Schaden angerichtet, und geben lieber die Verantwortung massenweise an die ab, die sich damit nicht auskennen, anstatt zu sagen, dass dieser Mix viel zu gefährlich ist, und ihr Produkt wieder vom Markt nehmen? Die potenzielle Gefahr, die von KI ausgeht, ist also ein rein rechtliches Problem?
Klingt nach: Wir wollen es eigentlich auch nicht haben, aber Geld damit verdienen wollen wir trotzdem.
Paßt dazu: KI: Die Frage ist anscheinend nicht mehr ob, sondern nur noch wann die Katastrophe passiert
Die folgende Zusammenfassung wurde von Gemini generiert.
*Die Verschiebung der Verantwortung von den Herstellern hin zu den Anwendern (Betreibern) ist derzeit eines der brisantesten Themen im KI-Recht.*
Während Tech-Giganten wie Google ihre Verträge (wie die Google Workspace Service Specific Terms und Google Cloud Terms of Service) gezielt anpassen, um die Haftung für KI-Aktivitäten komplett auf die Domains der Kunden abzuwälzen, zieht zeitgleich der Gesetzgeber nach. Am 9. Dezember 2026 tritt in Deutschland das neue Produkthaftungsgesetz (zur Umsetzung der EU-Produkthaftungsrichtlinie) in Kraft, welches das Spielfeld für Unternehmen grundlegend verändert.
Das müssen Sie zu den Pflichten der Anwender und den Tricks der Hersteller wissen:
Wie sich Hersteller aus der Verantwortung ziehen
Große KI-Anbieter argumentieren zunehmend, ihre Systeme seien „autonom“ oder „agentisch“ (wie eigenständige Akteure). In den neuesten AGB-Updates von Google (z. B. zu Agentic AI Guidelines) wird rechtlich verankert: Sie als Unternehmenskunde haften für alle KI-Aktivitäten über Ihre Domain.
- Google stellt Ihnen Werkzeuge und Richtlinien zur Verfügung, das Haftungsrisiko für Fehler, Halluzinationen oder Markenrechtsverletzungen der KI liegt jedoch bei Ihnen.
- Wenn Ihre eingesetzte KI fehlerhafte Aktionen ausführt oder gegen Google-Richtlinien verstößt, behält sich Google das Recht vor, Ihre Dienste fristlos zu kündigen.
Wann wird der reine Anwender plötzlich zum haftbaren „Hersteller“?
Das neue Produkthaftungsrecht stuft Software und KI ab Dezember 2026 offiziell als „Produkte“ ein. Grundsätzlich haftet der Hersteller für Produktfehler. Aber Vorsicht bei Modifikationen:
Wenn Sie ein bestehendes KI-Modell (z. B. via API von Google oder OpenAI) nehmen und es wesentlich verändern, verfeinern (Fine-Tuning) oder für einen völlig neuen Zweck konfigurieren, der neue Risiken schafft, gelten Sie rechtlich als Hersteller (Substanzielle Modifikation). Damit haften Sie vollumfänglich für alle Sach- und Personenschäden, die dieses System verursacht.
Die Pflichten als reiner „Betreiber“ (Anwender) nach dem EU AI Act
Auch wenn Sie die KI nur unverändert im Büro nutzen, sind Sie laut EU AI Act (KI-Verordnung) ein sogenannter „Betreiber“ (Deployer). Je nach Risikoklasse der KI (insb. bei Hochrisiko-Systemen, wie KI im Personalwesen oder zur Kreditprüfung) treffen Sie harte Pflichten:
- Menschliche Aufsicht: Sie müssen sicherstellen, dass kompetentes Personal die Ausgaben der KI überwacht und versteht.
- Datenkontrolle: Sie müssen prüfen, ob die Eingabedaten (Prompts) für den Einsatzzweck relevant und repräsentativ sind.
- Protokollierung: Protokolle (Logs), die von der KI automatisch erzeugt werden, müssen Sie mindestens 6 Monate aufbewahren, um im Schadensfall den Verlauf nachweisen zu können.
- Arbeitnehmer-Information: Bevor eine Hochrisiko-KI am Arbeitsplatz eingesetzt wird, müssen die Angestellten darüber informiert werden.
Was bedeutet das für Unternehmen in der Praxis?
Wenn Sie KI-Inhalte (z. B. Texte) oder KI-Entscheidungen ungeprüft übernehmen, haften Sie im Außenverhältnis (z. B. bei DSGVO-Verstößen, Diskriminierung im Recruiting oder geschäftsschädigenden Falschaussagen) fast immer selbst. Die Ausrede „Das war die KI“ wird von Gerichten nicht mehr akzeptiert.
…hat wie gesagt Gemini zusammengefasst.
