Es hat mich interessiert was Stand der Dinge ist, weil erst gestern eine Mail von Google reinkam, die die Produkthaftung bei der Verwendung von KI in Form von Pflichten hin zum Anwender verschiebt.
Paßt dazu: KI: Die Frage ist anscheinend nicht mehr ob, sondern nur noch wann die Katastrophe passiert
Die folgende Zusammenfassung wurde von Gemini generiert.
*Die Verschiebung der Verantwortung von den Herstellern hin zu den Anwendern (Betreibern) ist derzeit eines der brisantesten Themen im KI-Recht.*
Während Tech-Giganten wie Google ihre Verträge (wie die Google Workspace Service Specific Terms und Google Cloud Terms of Service) gezielt anpassen, um die Haftung für KI-Aktivitäten komplett auf die Domains der Kunden abzuwälzen, zieht zeitgleich der Gesetzgeber nach. Am 9. Dezember 2026 tritt in Deutschland das neue Produkthaftungsgesetz (zur Umsetzung der EU-Produkthaftungsrichtlinie) in Kraft, welches das Spielfeld für Unternehmen grundlegend verändert.
Das müssen Sie zu den Pflichten der Anwender und den Tricks der Hersteller wissen:
Wie sich Hersteller aus der Verantwortung ziehen
Große KI-Anbieter argumentieren zunehmend, ihre Systeme seien „autonom“ oder „agentisch“ (wie eigenständige Akteure). In den neuesten AGB-Updates von Google (z. B. zu Agentic AI Guidelines) wird rechtlich verankert: Sie als Unternehmenskunde haften für alle KI-Aktivitäten über Ihre Domain.
- Google stellt Ihnen Werkzeuge und Richtlinien zur Verfügung, das Haftungsrisiko für Fehler, Halluzinationen oder Markenrechtsverletzungen der KI liegt jedoch bei Ihnen.
- Wenn Ihre eingesetzte KI fehlerhafte Aktionen ausführt oder gegen Google-Richtlinien verstößt, behält sich Google das Recht vor, Ihre Dienste fristlos zu kündigen.
Wann wird der reine Anwender plötzlich zum haftbaren „Hersteller“?
Das neue Produkthaftungsrecht stuft Software und KI ab Dezember 2026 offiziell als „Produkte“ ein. Grundsätzlich haftet der Hersteller für Produktfehler. Aber Vorsicht bei Modifikationen:
Wenn Sie ein bestehendes KI-Modell (z. B. via API von Google oder OpenAI) nehmen und es wesentlich verändern, verfeinern (Fine-Tuning) oder für einen völlig neuen Zweck konfigurieren, der neue Risiken schafft, gelten Sie rechtlich als Hersteller (Substanzielle Modifikation). Damit haften Sie vollumfänglich für alle Sach- und Personenschäden, die dieses System verursacht.
Die Pflichten als reiner „Betreiber“ (Anwender) nach dem EU AI Act
Auch wenn Sie die KI nur unverändert im Büro nutzen, sind Sie laut EU AI Act (KI-Verordnung) ein sogenannter „Betreiber“ (Deployer). Je nach Risikoklasse der KI (insb. bei Hochrisiko-Systemen, wie KI im Personalwesen oder zur Kreditprüfung) treffen Sie harte Pflichten:
- Menschliche Aufsicht: Sie müssen sicherstellen, dass kompetentes Personal die Ausgaben der KI überwacht und versteht.
- Datenkontrolle: Sie müssen prüfen, ob die Eingabedaten (Prompts) für den Einsatzzweck relevant und repräsentativ sind.
- Protokollierung: Protokolle (Logs), die von der KI automatisch erzeugt werden, müssen Sie mindestens 6 Monate aufbewahren, um im Schadensfall den Verlauf nachweisen zu können.
- Arbeitnehmer-Information: Bevor eine Hochrisiko-KI am Arbeitsplatz eingesetzt wird, müssen die Angestellten darüber informiert werden.
Was bedeutet das für Unternehmen in der Praxis?
Wenn Sie KI-Inhalte (z. B. Texte) oder KI-Entscheidungen ungeprüft übernehmen, haften Sie im Außenverhältnis (z. B. bei DSGVO-Verstößen, Diskriminierung im Recruiting oder geschäftsschädigenden Falschaussagen) fast immer selbst. Die Ausrede „Das war die KI“ wird von Gerichten nicht mehr akzeptiert.
Richtlinien für KI generierte Inhalte
Google hat im Oktober 2026 seine Richtlinien bezüglich KI-generierter Inhalte und der Websuche deutlich verschärft
Der Fokus liegt dabei vor allem darauf, massenhaft erzeugten Spam zu bekämpfen und die Richtigkeit von veröffentlichten Texten sicherzustellen.
Das sind die wichtigsten Kernpunkte der neuen Verschärfungen:
- Menschlicher Faktencheck ist Pflicht: Google stuft die manuelle Überprüfung von KI-Inhalten durch Menschen jetzt als „kritisch“ ein.
- Erweiterte Qualitätsprüfung: Die Pflicht zum Faktencheck gilt nicht mehr nur für die eigentlichen Haupttexte, sondern zieht sich bis in die Metadaten wie Title-Tags, Meta-Descriptions, strukturierte Daten und Alt-Texte von Bildern. Wer diese per Klick von KI-Plugins generieren lässt, muss sie eigenhändig prüfen.
- Fokus auf Nutzwert statt Masse: Google geht verschärft gegen sogenannten „Scaled Content Abuse“ vor. Das ist die massenhafte Erstellung von Inhalten durch KI, die keinen echten Mehrwert bieten und nur dazu dienen, Suchrankings zu manipulieren. Erwartet wird spürbarer menschlicher Aufwand, Originalität und Genauigkeit.
- Keine Fake-Autoren: Ausdrücklich verwarnt werden Webseiten, die erfundene Autorenprofile, KI-generierte Porträtfotos oder gefälschte Qualifikationen nutzen, um Vertrauenswürdigkeit vorzutäuschen.
Parallel dazu greifen durch das Inkrafttreten der europäischen EU-KI-Verordnung (AI Act) seit August 2026 strengere gesetzliche Kennzeichnungspflichten, weshalb auch Google Werbetreibende in Google Ads und im Merchant Center dazu verpflichtet, KI-generierte Bild- und Videoanzeigen klar zu labeln.
