Du könntest den Betreiber auf den Fehler hinweisen, mit der Bitte, diesen zu beheben.
Wenn das nicht erfolgt, könntest du einen Anwalt beauftragen, eine Unterlassungserklärung zu verschicken. Erfolgt darauf auch keine Behebung, müsste ein Gericht prüfen, ob der Fehler schwerwiegend genug für dich ist, dass der Betreiber gezwungen werden sollte, diesen zu beheben und würde im Erfolgsfall die Unterlassung gerichtlich bestätigen.
edit: Formulierung konkretisiert
Wobei diese Art von Disclaimer („Claude ist eine KI und kann Fehler machen. Bitte überprüfe die Antworten“) in keinem Fall ausreichen würde, wenn ich damit eine klar verleumderische Aussage relativieren würde („Der Bürgermeister ist ein Kinderschänder. Aber ich kann auch falsch liegen. Bitte überprüf meine Anschuldigung selbst.“).
Und das ist meiner Meinung nach auch absolut richtig so. Das elendige „People are saying“, hinter das sich beispielsweise Trump bei seinen beleidigenden und verleumderischen Aussagen immer zurückzieht ist doch nur der Versuch, nie selbst Verantwortung für das eigene Handeln übernehmen zu müssen. Die Entgleisungen des öffentlichen Diskurses, die eine Lockerung der Rechtslage und -Sprechung hier auslösen würde, möchte ich mir gar nicht ausmalen.
Und wenn so ein Disclaimer mich als Privatperson nicht vor einer Unterlassungsklage schützt, warum sollte Google rechtlich besser gestellt werden?
Du scheinst das Urteil nicht gelesen oder nicht verstanden zu haben. Die Münchner Richter haben (erstinstanzlich) mehrere sehr spezifische Fragen beantwortet:
Das Urteil entfaltet keinerlei konkrete Wirkung über den Einzelfall hinaus. Insbesondere wird hier nicht geklärt, wie Falschaussagen von LLMs in anderen Kontexten zu bewerten sind. Beispielsweise gehen Gerichte routinemäßig davon aus, dass professionellen Anwendern (z.B. Bauingenieure) bei der Ausübung ihres Berufs ein höheres Maß an Selbstverantwortung zugerechnet werden kann.
Diverse Urteile aus dem In- und Ausland haben etwa festgestellt, das Anwälte für den Inhalt der von ihnen eingereichten Schriftsätze verantwortlich sind und sie diese Verantwortung nicht auf ein LLM abschieben können, dass sie mit der Erstellung des Schriftsatzes beauftragt haben. Und in einer AGB mit Geschäftskunden hätte Google erheblich größere Spielräume, um Haftungsfragen bei Falschaussagen zu klären, als bei einer öffentlich angebotenen Suche.
Philosophier hier bitte nicht mehr in den Fall rein, als er hergibt. Es ist durchaus möglich, unterschiedliche Anwendungen von LLMs und unterschiedliche konkrete Fälle differenziert zu betrachten. Und insbesondere Google ist das ebenfalls zumutbar. Wenn da im Eifer um eine möglichst höhe Börsenbewertung blödsinnige Entscheidungen getroffen werden, dann entbindet das für meine Begriffe nicht von der moralischen und rechtlichen Verantwortlichkeit.
Dan ist die Eingangsfrage ja beantwortet und man kann sich die Diskussion über „moralische Verantwortlichkeit“ sparen.
Man muss nicht für jede neue Technologie grundlegende gesellschaftliche Werte aushebeln. Wenn KI nicht gut genug wird, dass sie niemanden verleugnet, dann ist sie ganz offensichtlich nicht zum Einsatz als Suchmaschine geeignet.
Ist halt ne sehr deutsche Diskussion mit deutschen Gesetzen. Darum geht ja auch die ganze Diskussion um Meinungsfreiheit und Co., aber auch Beleidigungen. In anderen Ländern darf man ganz offen einfach Aussprechen, was man denkt, auch wenn es zutiefst verletzend ist. Gibt da auch Juristen, die sagen, das unser Gesetz da zu weit geht. Man höre sich da nur mal die Intervieews mit Ronen Steinke an.
Nun sind die Gesetze ja gut und schön wie sie sind. Wenn das am Ende aber dazu führt, dass die Ergebnisse solcher Tools massiv schlechter sind als zum Beispiel in anderen Ländern, dann wirds sogar wirtschaftlich relevant.
offensichtlich nicht zum Einsatz als Suchmaschine geeignet.
Nicht geeignet, ist auch weit hergeholt. Auch früher gab es schon unwahre Ergebnisse. Die muss man nun mal als Nutzer gegen checken. Und dennoch waren die Suchmaschinen alle geeignet. Vielleicht ist auch ein solcher Nutzer einfach nicht geeignet. Nur weil wir nun LLMs benutzen, muss man das Denken nicht einstellen.
Nur weil dir das Urteil nicht gefällt, heißt das nicht dass es falsch ist.
Da gibt es genau ein (relevantes) Land: die USA. Und ob die jetzt ein Model für ein vorbildliches Gemeinwesen und gewinnbringende öffentliche Debatte sind, wage ich zu bezweifeln. Wirtschaftlich und gesundheitlich geht es da übrigens auch sehr vielen Menschen dreckig. Inwieweit die juristische Akzeptanz von Hass und Verleumdung dort zu besseren gesellschaftlichen Ergebnissen führt, konnte mir noch niemand überzeugend erklären.
Es gibt immer Juristen, die jede beliebige Meinung vertreten. Manche sogar mehrere, abhängig davon, wen sie gerade vertreten. Das ist ihr Job. Muss man aber nicht zur Richtschnur der eigenen Überzeugungen nehmen.
Sind sie das denn? In diesem Fall war das Ergebnis der KI ja faktisch falsch und damit so schlecht, wie es nur sein kann. Warum nicht die positive Seite sehen, nämlich das hier rechtliche Normen zu technischer Innovation anreizen können. Seitdem die EU entsprechende Vorgaben macht, kann ich beim Urlaub in Italien ohne Zusatzkosten auf meinem Handy surfen und ganz legal zu einem angemessenen Preis originale Ersatzteile für meinen Apple-Laptop kaufen, der auch noch so konstruiert ist, dass ich sie als technisch leidlich begabter Laie selbst einbauen kann. Empfinde ich als extrem innovativ und hilfreich.
Ja. Aber nur weil Google jetzt „KI“ über seine Suchergebnisse schreibt, müssen die hoch bezahlten Programmierer nicht jeden halbfertigen Blödsinn an Milliarden von Endnutzern ausliefern. Ich finde wir können was die Qualität technischer Produkte angeht ruhig einen gewissen Anspruch stellen. Ich würde es auch nicht akzeptieren, wenn mein neues Auto nur in 95% der Fälle anspringt, auch wenn das für den Hersteller so vielleicht netter zu bauen ist.
Geiles Beispiel! Du weißt schon, dass es weit über 100 Jahre gedauert hat, bis das Auto problemlos angesprungen ist. Dieser Anspruch führt das zu, dass wir solche Techniken niemals mehr auf den Markt bringen können. Wahrscheinlich auch ein Grundsatz Problem in Deutschland, dass sich erst im Laufe der Zeit entwickelt hat.
Gut, den Punkt sehe ich, ich ziehe das Beispiel zurück.
Auf den konkreten Fall bezogen ändert das aber nichts. Wir sind nicht auf LLMs angewiesen, um gute Suchergebnisse für allgemeine Online-Recherchen zu produzieren. Google, DuckDuckGo und andere funktionieren problemlos, wenn sich die Firmen nicht aktiv dazu entscheiden, das Suchergebnis durch die massenhafte Aufnahme von Werbeanzeigen zu verschandeln.
LLMs werden hier von Google ausschließlich dafür eingesetzt, um Nutzer nicht an andere Webseiten zu „verlieren“. Google will unbedingt selbst die Antwort auf eine Suchanfrage präsentieren, kann aber nicht jeden denkbaren Inhalt erstellen und nutzt darum ein LLM und (nach der Argumentation einiger Juristen 
) illegales Scraping des Internets, um direkt auf der Suchseite ein Ergebnis zu „distillieren“. Schon per Definition kann dieses Ergebnis aber nichts wesentlich anderes sein, als das was der Nutzer nicht auch durch Weiterleitung auf andere Webseiten herausfinden kann. Zumal Google für die allgemeine Websuche ein älteres und schlechteres LLM einsetzt (aus Kostengründen).
Der Einsatz von LLMs in diesem Kontext hat für niemanden einen Vorteil, außer für Google. Nutzer können sich (nach Googles eigener Aussage) nicht sicher sein, ob die angezeigten Ergebnisse auch wahr sind und werden im schlimmsten Fall dazu verleitet, Unwahrheiten zu glauben und weiter zu verbreiten. Die Webseiten, die die eigentlichen Informationen bereitstellen, bekommen weniger Nutzer. Und hin und wieder wird irgendein eigentlich Unbeteiligter verleumdet. Das schlimmste dabei: Da LLM-Ergebnisse in der Regel individuell sind und von Google auch nicht indexiert und allgemein durchsuchbar sind, bekomme ich vielleicht noch nicht mal mit, das mich Google Dritten gegenüber verleumdet. Ich muss nur mit den Konsequenzen leben.
Da frage ich mich schon, was hier der konkrete Mehrwert sein soll, den wir deiner Meinung nach durch eine Anpassung unserer Rechtsnormen schützen sollen. Einfach abstrakt „technischer Fortschritt“? Das ist mir wirklich zu wenig, da fallen mir viele historische Beispiele ein, wo das rückblickend eine dämliche Idee gewesen wäre oder nachweislich war.
Oder um den Gedanken mal weiter zu spannen: LLMs/KI wird aktuell schon zur Entwicklung neuer Medikamente eingesetzt. Sollen wir („zur Technologieförderung“) deshalb jetzt den Zulassungsprozess und die Herstellerhaftung für KI-entwickelte Medikamente abschaffen? Oder Bildergeneration: soll es legal sein, Darstellungen sexueller Gewalt gegen Kinder und andere per KI zu erzeugen, nur weil das technologisch möglich und wirtschaftlich gewinnbringend wäre?
Keine neue Technologie ist fehlerfrei, alle bringen Risiken mit sich. Die Aufgabe des Staates und des Rechtssystems ist es, diese Risiken zu managen. Und da ist es völlig berechtigt, meiner Meinung nach sogar zwingend notwendig, dass es eine Risikoabwägung gibt und bestehende Gesetze auf nachvollziehbare Weise auf neue Entwicklungen angewendet werden.
Und wenn gar nichts mehr zieht, dann kommt halt Kinderpornographie…
Ich nutze die KI-Zusammenfassungen auf der Google Suchseite recht gerne und würde sie gerne weiter nutzen. Vor allen Dingen, würde ich es gerne selbst entscheiden.
sie vergessen hier aber leider, dass das die neue Interaktion ist, mit der der Zugriff ins Netz in Zukunft geschehen wird und geschieht. (Übrigens auch damals schon hat niemand auf die 4. Seite von Google bei einer Suchanfrage geklickt)
Suchmaschinen werden langfristig ersetzt werden. Und nur weil es in diesem Fall zu Falschinformationen führt (was man im Übrigen sicher auch durch besseres Prompting verbessern könnte - eine einfache nachfrage, ob die behauptung gesichert ist, hätte vermutlich nen Reasoning angestoßen, welches die Aussage zurückgenommen hätte), führt es in sehr sehr vielen Anfragen vermutlich zu sehr viel schnelleren und besseren Ergebnissen als die klassische Suchanfrage.
Und wenn man diesen Produktivgewinn nutzen möchte, dann sind wir schon darauf angewiesen. Aber ja, wir sind auch nicht auf Autos angewiesen, denn wir haben ja Kutschen.
Es wird ja sowieso nicht dazu führen, dass Google den Dienst einstellt. Es wird nur der Filter erweitert, um entsprechende Falschaussagen zu vermeiden. Im schlimmsten Fall wird Gemini angewiesen, den betroffenen Verlag nicht mehr zu erwähnen - wäre auch eine typische Retourkutsche a la Google: du verklagst mich, ich nehme dich aus meinen Suchergebnissen.
Das Problem ist einfach, dass LLMs so nicht funktionieren, wie eine Konstruktionsvorgabe bei einer bestimmten Produktart. Wenn man sie immer mehr einhegt, Ausnahmefälle integriert usw. dann ist es am Ende ein Riesenkonstrukt an Regelwerk, den das LLM berücksichtigen muss. So etwas bläht Kontexte auf, benötigt mehr und mehr Rechenkapazität oder zusätzliche Recheniterationen. Das macht so ein Tool eher ineffizient. Aber ja, vielleicht entwickeln die Hersteller da auch einen effizienteren Weg. Erstmal macht es das ganze aber schwieriger.
Wir reden hier spezifisch über KI-generierte Zusammenfassungen von Sucherergebnissen. Die sind im Moment so schlecht und faktisch inkorrekt, dass dies in keinem Fall die „Zukunft“ der allgemeinen Online-Suche ist. Und wenn, dann ist es das Ergebnis einer Gewinnmaximierung der beteiligten Konzerne auf Kosten der Nutzererfahrung, also mitnichten ein „Produktivitätsgewinn“.
Und wo es zu Verleumdung führt, muss der Betreiber eben eine Unterlassungserklärung abgeben und dafür sorgen, dass diese Verleumdung nicht wiederholt wird. Dazu reicht ein ganz old-school Filter über dem Endeergebnis, so wie er in sozialen Netzwerken auch für bestimmte Dinge existiert. Nochmal: wo ist das Problem?
Google hätte durchaus die Möglichkeit, die Fehlerquote bei den Suchzusammenfassungen drastisch zu reduzieren. Dazu müsste es aber teurere Modelle einsetzen. Hier geht es also um eine betriebswirtschaftliche und nicht um eine technische Hürde.
Und selbst wenn tatsächlich technische Hürden bestehen: Dann stelle ich das eben nicht öffentlich für allgemeine Suchanfragen zur Verfügung, sondern teste es erstmal intern oder mit einem professionelleren Nutzerkreis, bis die Probleme behoben sind. Macht beispielsweise aktuell Anthropic mit dem Mythos-Modell. Da relativieren sich dann auch viele Haftungsfragen, wie schon weiter oben diskutiert.
Mein Mitleid mit einem Konzern, der quartalsweise zweistellige Milliardenprofite generiert ist extrem begrenzt.
Schon die Grundprämisse, dass die USA da grenzenlose Freiheit böten, ist falsch. Dort sind die Themen, bei denen die Scheuklappen hochgehen und man dünnes Eis betritt, einfach nur andere.
Wer das bezweifelt, kann ja z.B. mal versuchen, einen Zusammenfassungsdienst mit einem LLM, das gelegentlich pornografisch angehauchte Texte oder auch nur Bezeichnungen oder Beschreibungen von Geschlechtsorganen irgendwo reingeneriert, in den USA zu betreiben und schauen, wie lang er das überlebt.
Meine Intention war es nicht, eine Grundsatzdiskussion über LLMs loszutreten, sondern eine professionelle Einschätzung über das deutsche Verleumdungsrecht im internationalen Kontext zu bekommen. LLMs wollte ich eigentlich nur als Aufhänger nutzen, darum auch das zweite Beispiel mit den Google Maps Bewertungen. Mit einem anderen Titel hätte das wahrscheinlich besser geklappt …
Das deutsche Verleumdungsrecht gilt selbstverständlich auch im internationalen Kontext, wenn es Deutsche betrifft. Oder wie lautet die Frage?
Solche Ansprüche sind auch im Verhältnis zur Reife des Produkts zu bewerten. Das Auto wurde 1885/86 erfunden. Wenn man es damals nicht ohne deutlich über 95 % zuverlässigen Starter akzeptiert hätte, hätte man tatsächlich die Entwicklung abgewürgt - der elektrische Anlasser wurde erst 1912 zur Marktreife gebracht. Aber 2026 ist es völlig legitim und realistisch, einen Anlasser mit einer Zuverlässigkeit von weit über 95 % zu fordern.
Und ein anspruchsvoller Heimatmarkt mit entsprechender Kaufkraft kann Hersteller dazu bringen, Produkte höherer Qualität zu entwickeln und herzustellen, was dann im internationalen Wettbewerb ein Vorteil sein kann (!) gegenüber Herstellern, die sich auf weniger anspruchsvolle Kunden ausgerichtet haben (natürlich abhängig von den jeweiligen Kosten).
Und wenn wir kein Billiglohnland werden wollen, sollten wir auch weiterhin den Anspruch haben, überdurchschnittliche gute Produkte anzubieten, und immer weiter zu verbessern (solange wirtschaftlich sinnvoll).
Leider sind wir inzwischen bei vielen Technologien nicht mehr vorne mit dabei, z. B. KI im Allgemeinen, und das wird uns Wohstand kosten, was auch politische Probleme mit sich bringt.
An KIs wird seit mindestens 60 Jahren entwickelt. Dass Garri Kasparow von der KI „Deep Blue“ im Schach geschlagen wurde, ist inzwischen 30 Jahre her. Lee Sedol wurde vor 10 Jahren von der KI „AlphaGo“ in Go besiegt. LLMs wie wir sie heute kennen, kamen vor 8 Jahren auf den Markt, und hatten da auch schon eine längere Entwicklung hinter sich. Das ist alles weder eine neue noch - nach IT-Maßstäben - eine junge Technologie. Die hier diskutierten Verbesserungen sind im Wesentlichen keine Verbesserungen der KI-Technologie selbst, sondern sowas wie Assistenzsysteme beim Auto, die nichts an der zugrundeliegenden Technik ändern, sondern nur den Anwender vor den mit dem Einsatz der Technik verbundenen Gefahren schützen sollen.
Ist das deutsche Verleumdungsrecht zu streng?
