"Zusammengefasst mit KI" - zugelassen?

Lage-Technik & Lage-App
22

Naja die im Thread geäußerte Aussage war, dass INSA aufgrund eines rechten Bias verzerrte Umfragen habe, die rechte Parteien besser darstellen. Diese Aussage war faktisch falsch, wie ich belegt habe, wurde aber von Perplexity nicht so eindeutig beantwortet.

Da sieht man imho auch gut das Problem: Perplexity hat viele Aspekte ausgegeben, die eine Verbindung von INSA und Konservativen nahelegen.
Trotzdem wäre es aber eben falsch, darauf basierend auf einen Bias in den Umfragedaten zu schließen! Die Perplexity-Antwort widerspricht einer solchen falschen Interpretation aber nicht und spricht lediglich davon, dass eine direkte Manipulation nicht nachgewiesen werden konnte.

1 „Gefällt mir“
23

Können wir uns denn darauf einigen, dass wir prinzipiell keine ungeprüften Quellen verwenden und allen – den Hosts und den User*innen – hier möglichst gut aufgearbeitete Informationen liefern? (Auch in dem Sinne, dass wir lieber nichts schreiben als Ungesichertes, schlecht Aufgearbeitetes.)

Ich glaube, alle haben verstanden, dass die KI noch ihre Tücken hat (und sich auch permanent weiterentwickelt); Til hat auch schon vor vielen Beiträgen zugestimmt, KI-Zitate bewusster zu dosieren bzw. Zusammenfassungen nicht 1:1 zu posten.

Wichtig ist noch, es (weiterhin) transparent zu machen, ob etwas KI-basiert ist oder nicht. Aber das versteht sich eigentlich von selbst, das gehört zum sauberen Zitieren dazu.

1 „Gefällt mir“
"Trump Derangement Syndrome"
24

Vorbemerkung: In den beiden folgenden Beiträgen ist nichts mit KI erstellt worden.

Nachdem dieser Thread zu meiner Überraschung bislang nicht geschlossen ist, immer wieder Diskussionen um die Nutzung von KI als Werkzeug beim Schreiben von Beiträgen in diesem Forum geführt werden und ich dabei immer mal wieder auf diesen Thread verwiesen werde (nach dem Motto: „Ließ das, dann wirst Du schon verstehen, darum Du kritisiert wirst“):

Ich habe bislang zwei Arten der Nutzung von KI in diesem Zusammenhang gefunden:

  1. Recherche bestimmter Fragen, gewissermaßen als Alternative zum „Googeln“
  2. Zusammenfassung von Quellen (lange Artikel, Videos, Podcasts), auf die verwiesen werden (meist, ohne diese wenigstens anzuteasern).

Ich habe mir den Thread noch einmal komplett gelesen. Folge Argumente gegen oder für eine eine eingeschränkte Verwendung von KI als Werkzeug beim Schreiben von Beiträgen in diesem Forum habe ich gefunden.

KI ist unzuverlässig, weil sie gelegentlich halluziniert. Daher können Beiträge, die eine KI-Zusammenfassung oder Ergebnis einer KI-Recherche sind, keine Basis für eine faktenbasierte Diskussion sein.

Ja, KI halluziniert - gelegentlich! Nach meinen bisherigen Erfahrungen schätze ich aber, das KI seltener, weniger und offensichtlicher halluziniert, als der durchschnittliche Autor in diesem Forum von irrigen Annahmen ausgeht oder falschen Informationen aufsitzt.

Ein mit einem guten Prompt erstellte Zusammenfassung oder Recherche hat eine deutlich höhere Wahrscheinlichkeit, korrekt zu sein, als wenn ein Mensch recherchiert oder zusammengefasst hätte. Wenn ich mir ansehe, wie viel Falsches, unrecherchierte Schnellschüsse und Irrtümer hier im Forum stehen, ist das Risiko von KI-Halluzination dagegen klein.

Ferner haben wir hier im Forum viele Experten, die Solches in aller Regel schnell entlarven. Die entlarven dann KI-Halluzinationen auch. Wer überzeugt ist, dass ein Beitrag Fehler oder Falsches enthält, sollte darauf verweisen und dies belegen. Und zwar unabhängig davon, ob der Beitrag mit Unterstützung eines KI-Werkzeuges erstellt wurde oder nicht. Der reine Verweis „Das wurde doch mit KI erstellt“, macht einen Beitrag nicht weniger, aber auch nicht mehr glaubwürdig.

KI wird zum neuen „Googlen“ werden. Immer mehr Menschen googlen inzwischen viel weniger, weil sie mit KI viel effektiver und effizienter zum Ziel kommen. Seit heute gibt Google auch in Deutschland - zunächst nur „für bestimmte User“ über 18 - KI-generierte Antworten oberhalb von den Suchergebnissen aus (wenn Google meint, dass sie einen Mehrwert bieten, insbesondere bei komplexen Fragen).

Wer KI verwendet, um bestimmte Informationen zu recherchieren, sollte das mit kritischer Distanz tun: Ist das plausibel? Sind die Quellen, auf denen die wesentlichen Aussagen beruhen, seriös? Außerdem sollte man stichprobenartig einige Quellen prüfen. Das ist eine Kompetenz, die wir uns im KI-Zeitalter alle aneignen müssen.

Nebenbei bemerkt: Ob das auch alle tun, die traditionell mittels Google recherchieren, wage ich zu bezweifeln …

Wer Beiträge mit Unterstützung von KI-Werkzeugen verwendet, sollte das transparent machen, am besten unter Angabe des benutzten Tools, des Modells/LLM und des verwendeten Prompts (s.u.)

KI kann differenzierte Texte, Vorträge oder Unterhaltung nicht differenziert zusammenfassen.

Das bestreite ich. Ganz maßgeblich ist der verwendete Prompt.

Und das gilt ebenso auch für das traditionelle „Googeln“: Maßgeblich dafür, was für eine Ergebnisliste man in der Suchmaschine bekommt, ist die Formulierung der Suchbegriffe.

2 „Gefällt mir“
25

KI-Zusammenfassungen oder -Recherche-Ergebnisse „erschlagen“ aufgrund ihres Umfangs

Ja, das sehe ich ein, wenn die Länge des Beitrags tatsächlich die Diskussion erschlägt - was im Fall der Quellenangaben oft der Fall ist. Aber die kann man einblendbar ausblenden (s.u.)

Wenigstens sollten die Quellenangaben der KI mittels [details][/details] ausgeblendet werden. Darin könnte man noch angeben: den verwendeten Prompt, das verwendete Tool (z.B. Perplexity.ai), ggf. das verwendete Modell/LLM (soweit abweichend vom Standard des KI-Tools)

Der Vorteil von KI-Texten ist, dass die KI ihre Ergebnisse in aller Regel mit Überschriften und anderen Layout-Strukturen ausgibt. Sie macht Absätze (mit Leerzeilen!) und setzt Kommata (und das korrekt) und hin und wieder sogar ein Semikolon. Das macht den Text gemessen in vertikalen Zentimetern vielleicht länger. Aber sehr viel schneller und besser zu lesen und zu erfassen also so die Endlos-Bandwurm-Texte so mancher Autoren hier.

Ein Autor, der KI für die Erstellung von Beiträgen verwendet, sollte das Ergebnis selbst kuratieren. Dazu gehört auch, ihn auf das Wesentliche für den jeweiligen Diskussionskontext zusammenfassen / kürzen, wenn der Text zu lang ist oder Aspekte enthält, die für das Thema im Thread irrelevant sind.

Die Forderung, alle KI-Texte unabhängig von ihrer Länge in eigene Worte und Sätze umzuformulieren, ist der Ruf nach zweckfreier Fleißarbeit und wird eher dazu führen, dass Autoren vertuschen, dass sie KI zu Hilfe genommen haben.

Ich selbst verzichte schon seit einiger Zeit auf Beiträge, in denen die Quellen, auf die im Thread ohne jede Zusammenfassung, Einordnung oder wenigstens Anteasern verwiesen wird, mittels KI zusammengefasst werden. Solange hier toleriert wird, wenn Autoren als Ersatz für eigene Argumente auf tldr-Quellen verweisen, ohne diese wenigstens anzuteasern halte ich das weiterhin für sinnvoll. Aber es ist schlicht nicht meine Aufgabe und wird offenbar nicht geschätzt. Wer das weiterhin tun möchte, sollte die Originalquelle rezipiert haben, um die Angemessenheit der Zusammenfassung beurteilen und ggf. korrigieren zu können. Dabei drängt sich auf, dass dies der Autor tut, der auf die Quelle verweisen möchte und sie ja offenbar gelesen, gehört oder angeschaut hat - oder?

Statt lange Quellen, auf die verwiesen werden, zusammenzufassen, solle man doch lieber die langen Quellen lesen, anhören, anschauen.

Bei der Anzahl der Quellen, die hier einem statt Argumente „um die Ohren gehauen“ werden, ist das völlig unrealistisch. Ich plädiere dafür, dass die Moderatoren dieses Verhalten einbremsen.

Das häufige Nutzen von KI führt zu einer Diskussion zwischen KIs. Das Forum dient als menschlicher Feedbackraum mit seinem Schwarmwissen. Die Hosts könnten sich selbst KI-Feedback einholen

Dieses Argument unterstellt, dass Autoren, die KI als Werkzeug für ihre Beiträge einsetzen, dies ohne Sinn und Verstand tun nur um ihrer Beiträge willen. Das kann ich nicht nachvollziehen.

2 „Gefällt mir“
26

Die akzeptierte Verwendung von KI für Inhalte und das Einstehen dafür durch Moderatoren führen für mich dazu, weniger Lust an einer Beteiligung hier im Forum zu haben.

2 „Gefällt mir“
27

Danke für die Stellungnahme.
Damit hier keine Missverständnisse entstehen: Weder die Hosts noch die Moderation haben sich bisher zu den hier dargelegten Vorschlägen von @TilRq geäußert.

2 „Gefällt mir“
28

Bei einer KI ist keine Diskussion über den Wahrheitsgehalt von Aussagen mehr möglich. Alles, was eine KI schreibt, ist eine Halluzination, und jegliche vermutete Intelligenz ist nur das, was man als Leser ihr zuschreibt. Es kann mit hoher Wahrscheinlichkeit korrekt sein, muss es aber nicht.

Während ich bei menschengemachten Texten die Zuverlässigkeit der Quelle und die Motivation der Autoren bewerten kann, ist dies bei einer KI nicht mehr möglich.

KI wird im Rahmen von Diskussionen missbräuchlich als „objektiver“ Mechanismus zur Destillation von Wissen oder Fakten dargestellt, dessen Ergebnis auf vorurteilsfreier Logik basiert und das man nicht mehr hinterfragen muss.

„Seht her, die KI sagt es auch.“

Das ist ein Fehlschluss und schädlich für die Diskussion. Insbesondere bei solchen über Politik, welche immer von menschlichen ethischen Werten der jeweiligen Person abhängt.

9 „Gefällt mir“
29

Einerseits:

Andererseits:

Ich finde nicht, dass Moderatoren für die Moderation ewig lange Quellen lesen müssen.

Anstatt dass Moderatoren sich lange Quellen per KI zusammenfassen lassen, sollten sie von Postern fordern, dass diese die Kernargumente einer verlinkten langen Quelle im Beitrag zusammenfassen.

3 „Gefällt mir“
30

Hier ein in diesem Thread noch wenig beachteter Aspekt: KI-Bias.

1 „Gefällt mir“
31

Das kann ich nur unterstreichen. M. E. wird hier derselbe Fehler wiederholt wie beim „Großwerden“ des Internets. Anstatt ein Bewusstsein dafür zu entwickeln, wie mit welchen Informationen aus welchen Quellen umzugehen ist, galt „das stand im Internet“ als ausreichende Quellenangabe - und dann wundert man sich ein paar Jahre später über die Verbreitung von Fake News und „alternativen Medien“…

Es geht hier im Forum so gut wie nie um rein sachliche Informationen an sich - und selbst dafür sind in den meisten Fällen eine „herkömmliche“ Suchmaschine, Wikipedia etc. zuverlässigere Quellen - sondern um einen Austausch von Meinungen, Interessen und Positionen, der sich ggf. auf solche Informationen stützt. Welchen Sinn hat es da, ein Sprachmodul einen zufälligen Text basteln zu lassen, in dem steht, was bei einer Quelle oder bei einem Thema spannend sein könnte?

Ich bin auch der Meinung, das im Forum zu viele Links gepostet werden, ohne dass Nutzer dazuschreiben, warum sie diese posten. Und es gibt auch viele Beiträge, die nicht viel Substanz haben oder die sich nicht ausreichend auf bisherige Diskussionbeiträge beziehen. Ich würde mir auch wünschen, dass das anders ist. Aber bei all dem kann ein KI-Sprachmodul gar nicht helfen, es sei denn, man will explizit mit künstlich generierten Texten diskutieren anstatt mit Menschen. Ein Sprachmodul kann nicht „wissen“, was User X an Text Y oder Quelle Z so spannend findet oder wie es sich auf die Beiträge der Nutzer A-Q bezieht. Es kann diese Beiträge „lesen“ und darauf „reagieren“ - aber schon eine kleine Veränderung des Prompts oder der „gefütterten“ Informationen kann zu einem völlig anderen generierten Text führen.

Wer nicht versteht, dass ein so generierter Text etwas grundsätzlich Anderes ist als eine Diskussion unter Menschen, der hat das Prinzip dieser Sprachmodule m. E. nicht verstanden - und m. E. auch nicht den Sinn eines Diskussionsforums.

4 „Gefällt mir“
32

Nur zur Klarstellung: Es geht hier nicht um eine grundsätzliche Ablehnung von LLM oder KI und erst recht nicht um Technikfeindlichkeit oder eine „Phobie“, wie schon gelegentlich unterstellt wurde. Es geht lediglich um eine Reflexion darüber, wie diese diese Sprachmodule eigentlich funktionieren, wie sie eingesetzt werden können und wo das sinnvoll ist und wo nicht. Meine Maxime wäre dabei immer: Bei allem, was ich selber mit meiner Kompetenz einschätzen, überprüfen und bewerten kann, können LLM-generierte Texte eine sinnvolle Unterstützung sein (etwa um einen Text schneller oder besser zu formulieren). Aber sobald ist die KI etwas „machen lasse“, was ich selber entweder nicht leisten kann oder was ich nicht einordnen/bewerten kann, sollte man m. E. sehr vorsichtig sein. Und dazu gehört im Zweifelsfall eben auch schon die Zusammenfassung eines Podcasts, den ich selber nicht gehört habe. Denn ich kann eben nicht einschätzen, wie „gut“ diese Zusammenfassung ist, wenn ich den zusammengefassten Inhalt gar nicht kenne.

4 „Gefällt mir“
33

Offen gestanden finde ich eine Sache wirklich merkwürdig. Es ist noch keine zwei Monate her, da hieß es noch:

Obwohl ich persönlich den Stil der KI-generierten Beiträge unangenehm finde, habe ich diesen Aspekt (und überhaupt meine persönliche Meinung) nicht ins Feld geführt, sondern versucht, in meiner Eigenschaft als Moderatorin einen Kompromiss zu erwirken: KI nur fürs Grobe, falls dies überhaupt sinnvoll ist, auf jeden Fall aber immer insgesamt mit Augenmaß und Transparenz einsetzen.

Da frage ich mich, was dazu geführt haben mag, dass Du, @TilRq , von der oben zitierten Kompromissbereitschaft innerhalb von sechs Wochen bei der Forderung einer Grundsatzentscheidung gelandet bist und dich darüber mokierst, dass du auf unsere Abmachung hier verwiesen worden bist. Es ist doch normal (bis entgegenkommend), dass man an Abmachungen erinnert wird, wenn man sich nicht an sie hält, oder?

Für eine enorme subjektive Wichtigkeit der KI-Beiträge spricht neben der Abkehr von der Kompromissbereitschaft auch der Umstand, dass du dir sehr viel Mühe gemacht hast, diesen Thread zusammenzufassen und zu kommentieren (und dies, wie du betonst, ohne KI). Aber ich finde, dass du trotzdem einiges nicht bedacht hast. @Flixbus hat in den beiden letzten Beiträgen die Argumente m.E. sehr gut dargelegt. Hinzu kommt aus meiner Sicht wie schon erwähnt der Umstand, dass die herkömmliche KI mit einem Datenkorpus trainiert wird, in dem die Abbildung von Diversität keine Rolle spielt. Und wenn wir hier das Internet mit unseren KI-generierten Ergebnissen füttern, wird der Bias nach und nach noch stärker.

Ein weiterer Faktor wurde hier, glaube ich, auch noch nicht genannt: Die KI erkennt Ironie nicht. Wenn man z.B. einen Podcast hört, gibt es Merkmale, aufgrund derer wir als Hörer*innen Ironie erkennen können (z.B. an der Stimme, aber auch aufgrund unseres auf Kohärenz bedachten Bildes von den Hostern, wenn wir den Podcast regelmäßig hören). Auch dies kann bei KI-Zusammenfassungen zu absolut relevanten Verzerrungen führen.

[Edit: gekürzt]

1 „Gefällt mir“
34

Widerspricht es sich nicht etwas zu sagen, dass KI Beiträge gekürzt werden sollen, weil man keine Zeit dafür hat, aber 1h Podcast Episoden sind in Ordnung zu posten?

Viel störender als KI Zusammenfassungen finde ich Posts wie den ersten Post im Thread Strompreiszonen, wo einfach eine lange Quelle gegeben wird und dann höchstens noch ein reißerischer Kommentar.

Aber das mit dem kurz halten finde ich ist ein berechtigter Punkt.

1 „Gefällt mir“
35

Ich glaube das ist eine Misinterpretation des Problems. Ja es gibt dieses Problem, diese LLMs nehmen den Bias des Internets auf, nur wenn @TilRq sich jetzt selber auf die Suche machen würde würde er auf denselben bias Stoßen. Das heißt die Alternative ist nicht unbedingt besser. Ich geb mal folgendes Beispiel, die Sicherheit im Auto ist vor allem auf den Durchschnittsmann ausgerichtet. Das heißt würden wir andere Menschen berücksichtigen könnten wir Autos noch sicherer machen. Das heißt aber nicht, dass nur weil dieser bias besteht, wir keine Airbags mehr in Autos einbauen sollten.

Zum zweiten Punkt, dass Netze in Zukunft auf ihren eigenen Daten trainiert werden und das zu einem Problem werden kann, ist durchaus war. Nur ist es nicht unsere Aufgabe vernünftige Trainingsdaten für ChatGPT & Co zur Verfügung zu stellen.

36

Ich glaube, du hast meine Beiträge missverstanden.

Ich habe hier auf den Bias hingewiesen, weil er aus meiner Sicht gegen die Verwendung der aktuell üblichen KI spricht. Wie kommst du darauf, ich hätte @TilRq auf die Suche nach irgendwas schicken wollen?

Es ist nicht unsere Aufgabe, ich würde aber dennoch ungern zu einem weiteren Bias beitragen. Ob wir es wollen oder nicht, wir tragen hier mit unseren Texten zu einem Korpus bei, der wie alle anderen Korpora ausgewertet werden kann (und wird).

1 „Gefällt mir“
37

Hmmm, ich empfinde das Posten von Artikeln oder Podcasts als Hinweis oder Angebot. Niemand muss das hören oder lesen…

Beiträge selbst würde ich persönlich lieber von Menschen lesen. Sonst diskutieren hier am Ende nur noch KIs.

3 „Gefällt mir“
38

Da vergleichst du m. E. Äpfel mit Birnen. Der einstündige Podacst ist ja nicht direkt im Thread, sondern da gibt es einen Link, der auf eine externe Quelle verweist.

Das vielleicht nicht, aber es ist unsere Aufgabe, zu reflektieren, mit was für Daten Sprachmodelle gefüttert wurden und werden und wie das ihre Textausgabe beeinflusst. Es handelt sich eben nicht um eine neutrale und erst recht nicht um eine verifizierte Quelle.

39

Hast racht, hatte übersehen, dass das in Quellensammlung gepostet wurde, dachte das war ein Themenvorschlag. Trotzdem versteh ich nicht ganz was das Problem einer KI Zusammenfassung ist (wenn sich @TilRq den Podcast angehört hätte) das ist doch ein netter Service.

Es gibt ja 2 Arten, die ich jetzt hier im Forum gesehen habe, wie KI verwendet wird:

  1. Zusammenfassen von Texten/Audios. Wenn der Poster die Originalquelle gelesen hat und dann die Zusammenfassung auch nochmal gelesen hat, sehe ich hier kein Problem. Vermutlich hätte ein menschlicher Autor einen deutlich höheren Bias als eine KI. Die einzige Alternative wäre Zusammenfassungen ganz zu untersagen, fänd ich jetzt auch nicht so toll.

  2. Der Versuch eine Diskussion mit externen Informationen zu erweitern. Hier wäre die Alternative, dass der Nutzer es selber recherchiert, was er häufig nicht tun wird, weil er keine Ressourcen hat und selbst wenn er es tun würde auch hier ein menschlicher Bias reinkommen würde.
    Ich kann aber auch @Margarete verstehen, wenn sie sagt, dass solche Posts kurz und knackig sein sollten.

Generell sehe ich eher weniger ein Problem in KI Nutzung, wenn der Autor sich mit dem Inhalt auseinandergesetzt hat. Das erwarte ich bei einem normalen Post aber auch.

Das ist ein Kampf gegen Windmühlen, die Menge an Text die wir hier beitragen, ist nicht relevant. Diese Problem muss auf ganz anderer Ebene gelöst werden

2 „Gefällt mir“
40

Das ist exakt das, was ich oben geschrieben habe:

Das kannst du so sehen. Sehe ich aber eher so wie

Kleinmut ist m.E. keine Lösung.

41

Sehe ich auch so. Ich hätte da am liebsten einen AI-Prohibition-Act der EU. :slight_smile: