Hallo liebes Lage-Team,
ich bin gerade über diesen Artikel gestolpert, der ein Urteil des Landgerichts München bespricht. Darin geht es darum, dass Google offenbar für „Falschaussagen“ haftbar gemacht wurde, die in den LLM-generierten Zusammenfassungen der Suchergebnisse auftauchen.
Das hat mich etwas stutzig gemacht: Wenn sich so eine Rechtsprechung durchsetzt, könnte das ja erhebliche Auswirkungen auf LLM-basierte Produkte haben. Im Extremfall bis hin dazu, dass solche Funktionen in Deutschland gar nicht mehr angeboten werden.
Spannend finde ich das auch im Zusammenhang mit Googles jüngster Entscheidung, in Maps die Anzahl gelöschter Bewertungen anzuzeigen. Hintergrund ist ja, dass durch das deutsche Verleumdungsrecht viele negative Bewertungen offenbar recht leicht entfernt werden können, was deren Aussagekraft entsprechend schwächt.
Mich würde interessieren, wie ihr das einschätzt: Ist das ein Einzelfall oder ein Vorgeschmack auf strengere Haftung für KI-generierte Inhalte?
Im Ergebnis wurde Google untersagt, dass seine KI eine bestimmte Falschmeldung weiterverbreiten darf. Wenn ich es korrekt interpretiere, wurden einem Verlag Taten aus einem Artikel von der KI dem Verlag zugeordnet.
Ob da ein Mensch sitzt, der eine Aussage im Namen eines Unternehmens erzeugt und anschließend über einen Kanal des Unternehmens (hier: Googles Such-Website) tätigt, oder ob da ein KI-Modell sitzt, macht doch keinen Unterschied. Es sind in beiden Fällen von einem Unternehmen selbst erzeugte Inhalte - im Gegensatz zum reinen originalgetreuen Zitat, das schon lang auf Suchseiten in den Ergebnissen auftaucht, explizit nicht als „von Google erzeugt“ gilt und somit Aussagen darin nicht Google anzulasten sind. Und logischerweise muss ein Unternehmen für diese selbst erzeugten Inhalte die Verantwortung übernehmen.
Sonst würde sofort jede Aussage eines Unternehmensrepräsentanten in jedem Kontext einmal durch ein LLM gejagt werden zur „Optimierung“, wobei das die Aussage gar nicht verändern müsste - die Optimierung wäre primär eine juristische und bestünde darin, dass das zwischengeschaltete LLM dem Unternehmen erlaubte, jederzeit jegliche Verantwortung für Aussagen seiner Mitarbeiter von sich zu weisen.
Es ist IMHO völlig offensichtlich, dass das keinerlei Sinn ergibt, und die Rechtsprechung in dem verlinkten Urteil daher geradezu zwingend ist.
Nein, nur wenn er sich hinstellt und behauptet, das seien „Zusammenfassungen“ anderer Informationen und impliziert, dass sich die Wahrhaftigkeitsbehauptung der Originalquelle auch auf die Zusammenfassung ausdehnt, weil es ja „nur“ eine Zusammenfassung ist, welche keine Kernaussagen verändert oder hinzuerfindet.
Wenn ein Anbieter z.B. mit LLMs generierte Kindergeschichten offeriert, dann kannst du ihn nicht dafür verklagen, dass die erfundene Dinge enthalten. Das entspricht der Erwartung, dass da keine Tatsachen drinstehen.
Bei einer Zusammenfassung erwarte ich aber nicht, dass die dann das genaue Gegenteil der Originalquelle aussagt - und das auch noch prominent platziert, weit vor dem kleinen Link auf die Originalquelle. Da hilft es dann auch nicht, wenn eine Quelle verlinkt ist - das würde bestenfalls helfen, wenn die Quelle schon Falschinformationen verbreitet. Aber nicht, wenn ich als „Zusammenfassungsdienstleister“ die Falschinformation erst erfinde.
Es kommt, wie immer, auf die Erwartung im jeweiligen Kontext an. Und auch das ist nichts Neues - auf die Weise wurde schon immer mit Aussagen von Unternehmen und auch Einzelpersonen umgegangen: ein Statement in einem Karnevalsfestzelt bei einer Büttenrede muss nicht denselben Anforderungen genügen wie eine Pressemitteilung auf einer offiziellen Website.
Wenn „das kam von einem LLM“ aber ein Blankoscheck für jegliche Falschaussagen in jedem beliebigen Kontext - auch solchen, in denen der Aussagende gemeinhin eine Verantwortung für z.B. den Wahrheitsgehalt seiner Aussage trägt - wäre, dann könnte man sich damit grundsätzlich aus der Verantwortung stehlen, auch für ganz bewusst getätigte Falschaussagen. Dass das keine Option ist, sollte klar sein. Also bleibt IMHO nichts anderes übrig, als demjenigen, der das LLM benutzt, um die von ihm publizierten Inhalte zu erstellen, die Verantwortung dafür genauso zu übertragen, wie er sie hätte, wenn den Inhalt ein Mensch erstellt hätte.
Wenn sie Mist über Dich verbreiten, brauchst du eine Handhabe dagegen. Sonst bildet sich Gemini ein, MatinH ist ein verurteilter Sexualstraftäter und darf das ungestraft jedem, der fragt, erzählen. Denn ist nun mal ein LLM und das kann sich auch mal irren. Und das ist dann eben so.
Nun, der clevere Unterschied (weshalb mich das Urteil schon überrascht) ist, dass chatbot Betreiber immer fleißig „Diese Zusammenfassung ist KI generiert und kann falsch sein.“ oder vergleichbar drüberschreiben. Ich würde denken, dass „Die folgende Aussage kann falsch sein, bitte prüfen Sie im Zweifel selbst: Schokolade ist gesund“ weniger anfechtbar ist, als „Schokolade ist gesund - ganz sicher.“
Ist schon spannend. Aus programmiertechnischer Sicht müsstest du nun für jeden Ausnahmefall bestimmte Klauseln in die Inputs geben. bzw. die Outputs über eine bestimmte Filterebene laufen lassen, die dann extrem groß werden können. Das kann wiederum extrem teuer werden bzw. das Ergebnis schmälern.
Technisch sind diese Ausnahmen also kaum zu handhaben bzw. extrem suboptimal.
Mich wundert aber das Urteil, weil eigentlich immer dabei steht, dass das Modell halluzinieren kann…
Die Alternative wäre, LLMs so zu trainieren, dass sie keinen Mist erzählen. Vermutlich unmöglich.
Und du kannst davon ausgehen, dass diese Filter bereits täglich wachsen. Weil natürlich täglich die Grenzen der LLMs ausgetestet werden und darauf reagiert wird, indem diese Fälle dann manuell ausgeschlossen werden.
Wie würdest du damit umgehen, wenn ein LLM nun systematisch die Konkurrenz diffamiert und der Betreiber sich dahinter versteckt, dass er auch nicht verstehe, was das LLM da treibt?
In dem Vorliegenden Fall ging es um ganz konkrete geschäftsschädigende Verleumdung. Googles KI hatte (ohne Quellenangabe) behauptet, dass zwei Verlage in Abo-Betrug verwickelt gewesen sind.
Das ist in etwa so, als wenn ich ohne jede Belege aber mit großer Überzeugung öffentlich behaupte, dass du eine Straftat begangen hast. Natürlich könntest du mich auf Unterlassung verklagen. Und das sollte man gegenüber KI-Modellen auch tun können, insbesondere, wenn Google diese KI-generierten Antworten als Ergebnis für konkrete Suchen darstellt.
So funktioniert das im deutschen Recht aber nicht. Ich kann mich nicht auf den Dorfplatz stellen und der versammelten Menge zurufen „Der Bürgermeister ist ein Kinderschänder, da bin ich mir sicher, aber vielleicht habe ich auch unrecht. Erzählt man sich halt.“
Das Gericht hat sich mit der Frage im Urteil auch auseinandergesetzt und ist zum Ergebnis gekommen, dass ein generischer Hinweis auf mögliche Fehlerhaftigkeit der KI-Aussage nicht ausreicht, um eine Unterlassungsklage abzuwenden.
Man muss nicht für jede neue Technologie grundlegende gesellschaftliche Werte aushebeln. Wenn KI nicht gut genug wird, dass sie niemanden verleugnet, dann ist sie ganz offensichtlich nicht zum Einsatz als Suchmaschine geeignet.
Das ist ein deutlich anderer Fall als im Urteil beschrieben. Wenn der generierte Text von einem LLM systematisch jemanden diffamiert, stimme ich dir zu, dass es sich eindeutig um Verleumdung handelt und die Entwickler des Modells dafür haften. Soweit ich das richtig sehe, stützt sich das Urteil aber auf zwei Zusammenfassungen, die falsche Behauptungen enthalten. Außerdem haben die Kläger explizit nach dem Unternehmensnamen und „Betrugsmasche“ gesucht. Davon auf eine systematische Diffamierung zu schließen ist sehr weit hergeholt.
Der Vergleich hinkt sehr, es geht in diesem Kontext nicht um eine offizielle Pressemitteilung, sondern um eine automatisch generierte Zusammenfassung.
Das ist ein deutlich fairer Punkt. Da Halluzinationen allerdings nie ausgeschlossen werden können, ist die Frage, wie viel Rechenkraft du dafür verwendest, eine Zusammenfassung zu überprüfen,um die Fehlerquote in ein gesellschaftlich akzeptables Maß zu bringen.
Lass Deutschland doch bitte nicht noch digital rückschrittlicher machen als wir eh schon sind.
Das ist ein Totschlagargument, mit dem man jede Diskussion im Keim ersticken kann. Kannst du deine Position auch mit Argumenten untermauern? Das wäre deutlich überzeugender als: „Ich mag diese Technologie nicht. Geh weg.“ Warum hat das (im globalen Vergleich scheinbar sehr strikte) deutsche Verleumdungsrecht gesellschaftlichen Mehrwert?
Technisch gesehen ist ein LLM ein Modell, um das nächste Wort vorherzusagen. Wenn du dem Modell Text einfütterst, der den Kläger explizit mit Betrug in Verbindung bringt, erhältst du eine Falschaussage. Das ist unerfreulich, aber dafür eine Strafe von 250.000 Euro anzusetzen, finde ich überzogen. Niemand würde auf die Idee kommen, die Library of Babel zu verklagen, weil darin steht: „Der Bürgermeister ist ein Kinderschänder.“ Auf einer Skala von einem menschlichen Autor bis zur Library of Babel würde ich die Haftbarkeit eines LLMs deutlich näher bei der Library of Babel einordnen.
Meiner Meinung nach sind die Bedingungen für Verleumdung, die in diesem Urteil angesetzt werden, zu weitgreifend. Es geht nicht um eine systematische Benachteiligung des Unternehmens, sondern um zwei Zusammenfassungen, die Falschaussagen enthalten. Ein einfaches System, durch das solche Fehler gemeldet werden können und die dann nach X Tagen behoben sein müssen, wäre deutlich sinnvoller.
Für mich der Beweis, dass es dringend Regulierung braucht. Offensichtlich fehlt das Unrechtsbewusstsein.
Wenn Gemini behauptet, ich hätte Gelder veruntreut, nur weil mein Name in einem derartigen Zusammenhang mal erwähnt wurde, dann möchte ich dagegen vorgehen können und dann muss sich Google etwas einfallen lassen, dass das nicht mehr passiert und eine Unterlassung bestätigen.
Auch der Copilot kommt ziemlich ins Schlingern:
Der Gesetzgeber könnte klarstellen:
Ein LLM ist kein eigenständiger Äußernder.
Verantwortlich ist immer der Betreiber.
Unterlassungsansprüche richten sich gegen den Dienst, nicht gegen die Modellparameter. Fazit:
Das Urteil ist juristisch korrekt, aber technisch unpraktikabel.
Es zwingt Betreiber dazu, ein probabilistisches System wie einen kontrollierbaren Sprecher zu behandeln – was nicht der Realität entspricht.
Bessere Lösungen wären:
Dienstbezogene Haftung
Output-Filter statt Modellverbote
Risikobasierte Regulierung
Klare Korrekturmechanismen
Gesetzliche Klarstellung der Verantwortlichkeiten LG München I Urteil zu LLM-Haftung
Es erkennt an, dass der Betreiber verantwortlich ist und schlägt Output-Filter vor, klare Korrekturmechanismen und gesetzliche Klarstellung der Verantwortlichkeiten, was alles dieses Urteil wiederspiegelt, gleichzeitig erkennt es an, dass es nicht kontrollierbar ist.
Wo hast du das mit 250.000 Euro her. Google wurde auf Unterlassung verklagt, nicht auf Entschädigung. Das Gericht hat Google nur verboten, die falsche Behauptung zu wiederholen. Erst bei Verstoß drohen konkrete Strafen.
Google hätte das ganze Verfahren übrigens abwenden können, wenn es gleich eine Unterlassungserklärung abgegeben hätte.
Ja, das ist das, was im deutschen Recht eine Verleumdung ist, deren Unterlassung man als Geschädigter verlangen kann.
Genau das haben die Kläger versucht, indem sie Google zur Abgabe einer Unterlassungserklärung aufgefordert haben. Google hat das verweigert, erst dann wurde Klage erhoben.
Weil ich keinen Bock darauf habe, dass mich irgendwer verleumdet und die Verantwortung dafür an ein LLM abschiebt. Oder das Google auf Kosten meiner Rechte Gewinn macht. Niemand zwingt Google oder ein anderes Unternehmen dazu, unausgereifte LLMs für Endnutzer-Anwendungen einzusetzen. Wenn sie das tun, dann sollen sie bitte auch die rechtliche Verantwortung dafür übernehmen.
Und wenn sie das deutsche Recht für unnötig strikt halten, dann mangelt es insbesondere Google nicht an Möglichkeiten, hier eine politische Debatte anzustoßen. Die sind hier nicht das Opfer und das in Schutz nehmen von Großkonzernen geht mir echt auf den Keks. Ich verwende LLMs privat und beruflich und sehe die Vorteile der Technologie, aber jeder der behauptet man müsste im Sinne des „technischen Fortschritts“ Mal eben rechtliche Sonderregelungen erfinden sollte meiner Meinung nach seine Prioritäten checken.
Ein Unternehmenssprecher ist nicht „kontrollierbar“ - also doch, ist er schon, aber eben nicht in der Weise, in der ein deterministisches Computerprogramm kontrollierbar ist, sondern nur in derselben Weise, wie ein nichtdeterministisches LLM „kontrollierbar“ ist, nämlich durch Filterstufen zwischen der Erzeugung einer Aussage und deren Veröffentlichung.
Nur, weil Weisungsbefugnis herrscht, heißt das ja nicht, dass ein menschlicher Sprecher auch einer Weisung folgt. Er könnte sehr wohl - durch Irrtum oder durch absichtlich schädliches Verhalten - eine ganz andere Aussage im Namen des Betreibers formulieren und veröffentlichen, als er laut Weisung sollte. Aus diesem Grund gehen Veröffentlichungen ab einer gewissen Fallhöhe normalerweise durch interne Freigabeprozesse, in deren Rahmen mehrere Personen die Aussage prüfen. Und zwar insbesondere dann, wenn der fragliche Sprecher formal keine Verantwortung für das Gesagte trägt, weil er nur ein Angestellter ist und nicht in der Unternehmensleitung involviert oder gar Teilhaber ist.
Diese Filterstufen wiederum müssen nicht zwingend menschlich sein - wie gesagt, auch die sind ja weder 100% kontrollierbar noch fehlerfrei, also sind auch technische, auf KI basierende Filter denkbar. Aber sie müssen halt gut genug sein, dass das Restrisiko so überschaubar wird, wie es bei menschengemachten Veröffentlichungen heute schon ist, also in einen unternehmerisch akzeptablen Rahmen kommt. Wenn dann alle paar Jubeljahre mal irgendwer ne dicke Strafsumme kassiert, ist es das dann halt wert, oder eben nicht. Und wenn das Filtern zu teuer wird, hat man halt kein Geschäftsmodell. Genau wie bei von Menschen generierten Inhalten - wenn deren zuverlässige Erstellung zu teuer ist, hat man auch kein Geschäftsmodell.
Ich seh nach wie vor keinen Grund, warum man hier aus der juristischen Perspektive irgendwas Neues vorliegen hätte oder irgendwas anders machen müsste als bisher.
Also ich lasse von Gemini handgeschriebene Angebote im Bauwesen auswerten und in XML-Dateien eintragen.
Sollte ich am Schluss Fehler nicht erkennen und falsche Vergabeempfehlungen geben, kann ich dann Google verklagen?
