Ich glaube ich muss klarstellen: Ich bin kein Moderator! Ich habe mich von der Moderatorentätigkeit schon vor vielen Monaten aus Zeitmangel zurückgezogen. Ist gibt also keinen Grund, „weniger Lust an einer Beteiligung hier Forum zu haben.“ (Moderatoren erkennst Du an dem Schild-Symbol).
Ich kann es nachträglich nicht mehr einsehen, bin aber ziemlich sicher, dass dieser Thread hier begann, als Du noch Moderator warst. Es wurde iirc auch KI als Hilfsmittel für Moderation bezeichnet.
So oder so bin ich der Meinung, dass weder Moderatoren noch nicht-Mods eine KI als Text- oder Argument-Generator im Forum verwenden sollten.
Was überlange Quellen betrifft, halt ich es für notwendig, dass Moderatoren (und Nutzer) diese Beiträge kritisieren und nötigenfalls löschen, wenn die relevanten Kernpunkte nicht beim Verlinken zusammengefasst werden.
Nein. Ich habe mich im November 2023 als Moderator zurückgezogen.
Nicht von mir und ich kann mich auch nicht erinnern, dass das jemand anderes gesagt hat.
Mag sein, Du hattest nach meiner Erinnerung lange danach noch das Symbol eines Schutzschildes, welches ich mit der Moderation verbinde. Dies war auch ein Grund dafür, warum ich den Thread hier begann. Zu dem Zeitpunkt nahm ich Dich hier als Moderator wahr, der aus Sicht eines Moderators für KI als Werkzeug zum Zusammenfassen von verlinkten Artikeln argumentiert.
Tatsächlich hat sich hier keiner der Moderator*innen für die Verwendung von KI ausgesprochen; Margarete und ich haben eher dagegen bzw für eine Eindämmung plädiert. Da @TilRq auf eine Grundsatzentscheidung beharrt, was die Kompetenz der Moderation überschreitet, warten wir auf die Antwort von Ulf.
Die aktuellen Rollen findet ihr unter dem Menüpunkt „Über uns“.
1 „Gefällt mir“
Nein, Deine Erinnerung trügt. Ich habe Ulf im November 2023 um Entlassung aus meiner Rolle als Moderator gebeten, er hat die Moderatoren-Funktion meinem meinem User „entzogen“ und ich habe seit dem wieder die Rolle des Stammgastes.
„Stochastischer Papagei“
Der These, KI sei, sehr überspitzt formuliert, ein sog. stochastischer Papagei und daher seien die Ausgaben von KI unzuverlässig (so zumindest verstehe ich @hzz) ist richtig.
Richtig ist auch:
- Sehr vieles, was „im Internet“ steht und durch Recherche („Googlen“) zutagegefördert und in Beiträge hier übernommen wird, ist mindestens so unzuverlässig.
- Sehr vieles von dem, was Forenteilnehmer hier im Forum nach Besten Wissen und Gewissen hier im Forum schreiben, ist falsch, verfälscht oder verkürzt. Und zwar nicht aus bösem Willen, sondern weil Menschen irren und Fehler machen.
Ich kann zumindest auch meiner Praxis sagen, dass es heute schon ziemlich beeindruckend ist, was KI (in meinem Fall: Perplexity.ai, hinter dem verschiedenen LLMs stehen) da so „stochastisch plappert“. Ich nutze das Tool in meinem beruflichen Alltag und kann die Ausgaben fachlich sehr gut beurteilen. Ich bin in den letzten Monaten nicht über gravierende Fehler gestolpert. Dagegen begegnen mir in Fachbeiträgen von sog. Fachkollegen auf z.T. LinkedIn beinahe täglich fundamentale Fehler, Irrtümer und (vielleicht sogar bewusste) Falschinformationen. Mir ist bewusst, dass bei weniger „fachlichen“ Themen, wie z.B. Politik, man sehr viel vorsichtiger mit den Ergebnissen umgehen muss.
Diejenigen, die den „stochastischen Pappagei“ immer noch als Argument gegen KI an sich anführen, müssen wohl früher oder später zur Kenntnis nehmen, dass die Methode „stochastischen Pappagei“ in sehr vielen Fällen zuverlässigere Ergebnisse erzielt als der Mensch. Das ist aber kein Argument gegen kritische Distanz, Prüfung und Plausibilisierung.
Das gleiche gilt für das Argument des Bias: Es ist richtig. Aber leider gilt dieses Bias, und @FlixBus und @riodor weisen darauf auch hin, ebenso für durch Recherche gefundenen Internetquellen wie auch für eigenes Wissen und Überzeugungen, die Menschen hier teilen.
Umso wichtig ist, dass man sich mit KI auseinandersetzt, sie nutzt und lernt, wie man verantwortlich und vernünftig mit deren Ergebnissen umgeht. KI als Hilfsmittel und Werkzeug abzulehnen, wie ich es bei @Hzz wahrzunehmen glaube, halte ich daher für unangemessen und kontraproduktiv.
Zur Länge der Beiträge:
KI-Ausgaben sind oft länger (allein schon durch Einleitung und Fazit). Man kann sie gut kürzen und auch inhaltlich auf die laufende Diskussion anpassen.
Aber offen gesprochen gilt hier: Der Mensch macht es oft auch nicht kürzer. Lieber einen konzise formulierten, klar, auch optisch, gut strukturieren, Beitrag, der optisch vielleicht etwas länger zu sein scheint, als einen Beitrag mit ellenlangen Bandwurmsätzen ohne Komma, Absatz und Leerzeile.
Missbrauch von KI zur „Objektivierung“
Mag sein, dass andere das tun (mir ist es hier noch nicht begegnet), aber ich ziehe mir diesen Schuh nicht an: Der Verweis auf KI als Quelle in Beiträgen dient nicht zur„Objektivierung“ dessen Wahrheitsgehalts und auch nicht als Triggerwarnung, sondern als Transparenzhinweis (am Besten mit Tool, Prompt und LLM).
Wenn Dein Argument tatsächlich ein Problem sein sollte, dann ist es ein Problem des jeweiligen Lesers und nicht des Autors: Ich kann mich an keine Beitrag hier erinnern, wo jemand auf den Wahrheitsgehalt seiner Argumente mit „aber die KI hat‘s gesagt“ gepocht hat. Ich halte das Argument daher für ein Strohmann.
Nicht ohne Grund hatte ich geschrieben:
1 „Gefällt mir“
KI als unterstützendes Werkzeug
Na ja, würden wir hier ohne Basis zugrundeliegender Fakten diskutieren, könnte ich auch unter Artikeln von welt.de diskutieren. Aber auch hier im Forum gibt es nicht wenige Beiträge, deren Unsinnigkeit man mit einem Verweis auf die Fakten und die Realität offenlegen kann.
KI kann und sollte nie verwendet werden, um Meinungen zu bilden, sondern vor allem, um die zugrundeliegenden Fakten zu kennen. Man könnte KI dazu verwenden, um eine geäußerte Meinung zu bewerten. Das halte ich jedoch für problematisch und mache das allerhöchsten als allerersten Ansatzpunkt, wenn bei mir eine Meinung ein Störgefühl auslöst und ich dieses nicht begründen kann.
Ja, da bin ich bei Dir. Aber ich weiß, spätestens aus meiner früheren Moderatorentätigkeit: Damit werden wir leben müssen. Zum einen haben die Moderatoren schlicht nicht die Ressourcen, die Substanz aller Beiträge zu prüfen (zur Klarstellung: Die arbeiten ehrenamtlich). Zum anderen gibt es die klare rote Linie zwischen „wünschenswerten“ und „nicht wünschenswerten“ Beiträgen nicht.
[Ironie]Ich würde mich nicht wundern, wenn eines nicht all zu fernen Tages die Moderatoren nicht Unterstützung durch KI erhalten würden …: „Dieser Beitrag scheint gegen Foren-Regel Nr. … zu verstoßen, weil … Soll ich den Autor darauf hinweisen und zur Korrektur auffordern?“ [/Irionie] Ich freue mich schon auf die Reaktionen hierauf 
Mir geht es nicht darum geht, dass KI ganze Diskussionbeiträge schreibt (s.u.), sondern darum, dass man sich von einer KI unterstützten lässt, um selbst faktenbasierte Diskussionbeiträge zu schreiben. Also KI für die Recherche und Zusammenstellung von Fakten (die natürlich geprüft oder plausibilisiert werden müssen!).
Warum das alles?
Meine jüngsten Beiträge habe ich geschrieben, weil fast jedes mal, wenn ich den Transparenzhinweis „Quelle: [KI]“ angegeben hatte, von einigen Forenteilnehmer die Verwendung von KI an sich kritisiert und in der Diskussion sich früher oder später auch Moderatoren einschalten und mich auf die bisherige Diskussion verweisen.
Ich wüsste nicht, wie Du meine jüngsten Beitrage als „Abrücken“ und „Abkehr von Kompromissbereitschaft“ verstehst!
Ich habe mich von Euch überzeugen lassen und bleibe dabei:
- Von KI generierte Ergebnissen kuratiere ich (d.h. überprüfe ich kritisch auf Korrektheit, wenigstens auf Plausibilität, und formuliere sie passend zum Kontext des Threads um) und, wenn sie länger sind, kürze ich sie (die, wie ich finde, oft sehr nützliche, aber oft sehr langen Quellenangaben „verstecke“ ich mit [datails]).
- Ich verwende KI (auch außerhalb vom Forum) nicht mehr als Zusammenfassung von Quellen, die ich nicht selbst rezipiert habe.
- Bei Verwendung von KI gibt es immer einen Transprarenzhinweis, auf Wunsch hier zukünftig nicht nur mit dem Verwendeten Tool, sondern auch mit dem verwendeten Prompt (sollte ich es vergessen haben, kann ich den auf Wunsch gerne nachtragen)
Ich habe keine Grundsatzentscheidung gefordert. Ich habe vielmehr meine Heransgehensweise transparent gemacht und hatte auf eine offene Diskussion gehofft.
Ich wüsste auch nicht, dass ich mich darüber‚„mockiert“ hätte, dass ich auf „Abmachungen“ verwiesen worden sei (ich habe diesen Thread auch eher als Austausch von Meinungen und Wünschen verstanden, nicht als die Vereinbarung von Abmachung oder Regeln).
2 „Gefällt mir“
Im Thread "Trump Derangement Syndrome" - #3 von Schiessbogen
und mit deiner Forderung nach einer Grundsatzentscheidung („Wenn „kein KI“ die Regel ist, werde ich mich grummelnd daran halten“).
Tatsächlich klingt dies schon danach, als würdest du dich darüber mokieren:
Der Auslöser dieser erneuten Diskussion war ja dein langer KI-Beitrag in "Trump Derangement Syndrome" - #9 von Schiessbogen, dessen Mehrwert gegenüber dem Ausgangspost minimal war.
.
Lass uns doch bitte einfach nur dann KI-Zusammenfassungen zitieren, wenn der Mehrwert eklatant und offensichtlich ist. Es ist ermüdend, immer wieder gegen deine Vorwürfe, andere hätten eine irrationale Angst vor KI oder würden die Vorteile von KI prinzipiell nicht erkennen, anzukämpfen.
Auslöser meines nochmaligen ausführlichen Beitrags
In dem Fall, der meinen erneuten, längeren Beitrag getriggert hatte, ging es um die Reaktionen auf einen kurzen Post, in dem ich eine KI-Recherche (bis auf Einleitung und Fazit) ungekürzt wiedergegeben hatte, die ohnehin sehr kurz war und m.E. interessanten (und, wie ich finde, allein durch die Tatsachen geradezu satirischen) Kontext zu dem Thema beigetragen hatte. Mag sein, dass andere diese Ergänzung der Fakten (die bislang noch niemand widerlegt hat) nicht so interessant fanden. Lange war der Beitrag jedenfalls nicht.
Ich verstehe und berücksichtige, wenn andere ausführliche Beiträge, die mit Unterstützung von KI erzeugt wurden, als„erschlagend lange“ empfinde. Ich habe die „Abmachung“ aber nicht so verstanden, dass man auch sehr kurze, prägnante KI-Beträge nochmal umformulieren sollte, wenn sie ansonsten in den Kontext und passen (und der Transparenhinweis nicht fehlt) - solche Fleißarbeit wäre sinnbefreit. Bei der Kritik an dem Beitrag @Hzz und andere ging es auch nicht im Länge, sondern um die Verwendung von KI per se.
BTW: Ich würde mich freuen, wenn ich hinter so manchen Posts auch mal einen Moderatorenkommentar lesen würde wie „Unabhängig von dem Inhalt: Bitte überlege, ob derart lange Beiträge mit vielen langen Sätzen, in denen Kommas fehlen, ohne Absätze, ohne Leerzeile, ohne sonstige optische Strukturierungen wie Zwischenüberschriften oder Spiegelstrich-Lsten, die dadurch mühsam zu lesen sind, wirklich zielfördernd sind“. Aber zugegeben: Das ist Geschmacksache und vielleicht auch ein bisschen arrogant. Niemand ist gezwungen, solche Beiträge durchzulesen …
Nicht alle Argumente berücksichtigt?
Zu den Argumente von @Flixbus:
- KI als falsch verstandenes oder missbräuchlich verwendetes „Objektivierungs-Werkzeug“: siehe oben
- KI ist nicht für einen argumentativen Diskurs, v.a. über Politik, wo es um Werte und Haltung geht geeignet (ich hoffe, @Flixbus fühlt sich so korrekt widergegeben). Das ist richtig. Man sollte KI nicht dazu verwenden, um Diskussionsbeiträge und Erwiderungen schreiben zu lassen (was wäre ja absurd: eine Diskussion der Diskussion willen), sondern um seine eigenen Argumente vor dem Schreiben zu prüfen, zu untermauern und vielleicht auch noch besser zu formulieren. Das hat auch niemand behauptet (Strohmann).
- KI würde hier unreflektiert verwendet. Nein, ich nehme für mich in Anspruch, grundsätzliche zu verstehen, wie KI funktioniert, wo die Grenzen liegen und wie man mit den Ergebnissen kritisch umgehen sollte. Ich denke, dass habe ich hier im Thread hinreichend dargelegt. Aber eine reflektierte Verwendung von KI ist eben nicht der Verzicht von KI, sondern das Betreben nach Lernen, also möglichst viel Erfahrung damit zu machen, um zu lernen, wie man sie sinnvoll einsetzt. Niemand hat sich hier für eine unreflektierte Nutzung von KI ausgesprochen (Strohmann).
Ja. Ich erkenne den Bezug zu meinem Beitrag nicht. Ein Strohmann, soweit er sich auf meinen Beitrag bezieht.
Moderation, Diskussion zwischen KIs
Da sind wir uns ausnahmsweisemeinig!
Ich wiederhole das gerne noch ein drittes Mal. Man muss differenzieren: zwischen
(1) eine oder gar mehrere Quellen, die man als Beleg für ein mehr oder weniger dahingehauenes Argument ( „Dein Argument stimmt nicht, schau mal hier …“ oder „Seht mal, [Strompreiszonen] sind super“) angibt, anstatt die wesentliche Argumente aus der oder den Quellen zusammenzufassen
und
(2) einem Tipp auf eine interessante Quelle (auch da würde ich mir aber wünschen, dass der Autor die wenigstens anteasert).
Das Argument „sonst diskutiert am Ende KI mit KI“ wird auch durch Wiederholung nicht richtiger. Hier nützt doch niemand KI mit einem Prompt wie „Ließ Dir diese Diskussion durch und schreib mir einen schönen Beitrag, den ich dazu posten könnte.“ Ein Strohmann!
Wo, jetzt konkret, liegen wir eigentlich wirklich noch auseinander?
Einige sehen KI kritischer als ich. Kaum jemand verteufelt KI vollständig. Die, die KI verwenden, sollten das mit kritischer Distanz tun und offen legen.
Lang? Siehe oben.
Ja.
Das ist eine Sicht der Dinge. Die andere Sicht: Es ist ermüdend, immer wieder gegen den Vorwurf, überhaupt KI zu verwenden, anzuargumentieren.
Es ist, im übrigen, naiv zu glauben, dass nicht auch andere Autoren hier KI als Recherche- oder Zusammenfassungs-Werkzeug für ihre Beiträge nutzen, auch wenn sie es nicht transparent machen.
Viele Euerer Reaktionen sind nicht dazu geeignet, solche Autoren dazu zu motivieren, die Verwendung von KI transparent zu machen.
Lass gut sein, Til.
Ok, darum geht es mir.
Als jemand, der beruflich Software auf Basis von LLMs und klassischen Machine Learning Algorithmen entwickelt, sich also ein wenig mit der Materie und deren Stärken und Schwächen auskennt, möchte ich noch einmal darauf hinweisen: Damit KI einen Mehrwert darstellt muss sie nicht 100%ig zuverlässig sein. Sie muss nur besser sein als die absolute Mehrzahl der Menschen. Im Fall von Informationssuchen und Zusammenfassungen ist das bei Perplexity AI ganz sicher der Fall.
Ich sehe durchaus einen Mehrwert von Tils Zusammenfassungen. Sie bilden eine Ground Truth auf der diskutiert werden kann. Ich finde es oft ziemlich absurd wie sonst Diskutanten die Studie ihres Lieblingswissenschaftlers zitieren, um Argumente zu bekräftigen und den Großteil gegensätzlicher Forschung völlig ignorieren. Hier liefert KI ein weit sauberes, vorurteilfreieres Faktenbild. Daher unterstütze ich Til in seinen Gedanken vollkommen.
1 „Gefällt mir“
Ich werde diesen Thread jetzt erstmal schließen. Wir werden darüber nachdenken, wie wir damit umgehen.
Ansonsten bitte ich einfach alle, ihre Beiträge, für die sie KI-Unterstützung nutzen, vor Veröffentlichung zu redigieren und zu kontrollieren. Ich glaube, viele wünschen sich hier eine Diskussion, die menschlich bleibt. Das widerspricht nicht der Verwendung des Werkzeugs KI mit Sinn und Verstand.
4 „Gefällt mir“
Ich bin ebenfalls Software-Entwickler und meine Meinung zum Einsatz von generativer KI in politischen oder faktischen Diskussionen basiert auf einer ebenso technisch und fachlich fundierten Meinung. Meine - menschliche - moralisch/ethische Bewertung zum Einsatz von generativer KI unterscheidet sich aber hier von Deiner.
Dafür gibt es keinen Beleg. Der Behauptung, es sei „ganz sicher der Fall“ widerspreche ich.
Tada! Ganz genau dies ist der Missbrauch von KI, den ich zuvor bereits kritisiert habe:
Eine generative KI kann keine „Ground Truth auf der diskutiert werden kann“ bilden. Sie kann auch kein „sauberes, vorurteilfreieres Faktenbild“ liefern. Beides tut eine KI nur in der Zuschreibung durch den Anwender.
Dies zu behaupten ist ein Totschlagargument. Eine Variante von „Appeal to Authority“, nur dass die Autorität eine angeblich „objektive, vorurteilsfreie“ KI ist.
6 „Gefällt mir“
Oder um auf ein virales Social Media Zitat zu verweisen:
„its amazing how chatgpt knows everything about subjects I know nothing about, but is wrong like 40% of the time in things im an expert on. not going to think about this any further“
4 „Gefällt mir“
Das scheint mir des Pudels Kern zu sein. Und die Annahme, dass „die KI“ bist auf ganz wenige, klar zu erkennende Ausnahmen nur fundierte Informationen liefert und damit auch noch den meisten Menschen „überlegen“ sei, scheint mir doch weiter verbreitet zu sein.
Die Aussage
passt aus meiner Sicht auch nicht wirklich zu dieser hier:
Und immer wieder dieselbe Argumentation, die inhaltlich überhaupt nicht auf entsprechende Erwiderungen reagiert. Es geht erstens nicht um die Fakten „an sich“, sondern darum, wer sie mit welcher Intention und Perspektive für welchen Zweck wie einsetzt und zweitens ist es kein Argument für „die KI“, dass es Menschen gibt, die ihre Haltungen nicht plausibilisieren oder begründen.
4 „Gefällt mir“
Ohne Studie oder ähnliches: Man muss doch nur hier im Forum mitlesen, um etliche Beispiele für die unbewusste verbreitung falscher Fakten zu finden. Meist ist es nur ein Irrtum oder eine falsche Erinnerung, die zum Fehler führt. Manchmal ist es aber auch das bewusste weglassen von gegenteiligen Argumenten, um die eigene Position zu bestärken.
Ich würde behaupten, dass das quasi nie aus bösem Willen passiert, sondern aus Nachlässigkeit oder Versehen. Was meinst du, wenn wir 100 Foren-Aussagen analysieren und 100 Analysen von Perplexity AI entgegen stellen, wo sind häufiger Fehler, Undifferenziertheiten oder ähnliches enthalten?
Ich weiß nicht wie du Perplexity nutzt oder ob du es überhaupt nutzt. Aber ich lese stets die Quellen, die mir das LLM gibt durch und schaue, ob das ausgegebene zu den Quellen passt. Halluzinationen können da schon schnell auffallen. Das checken der Quellen sollte stets das A&O sein.
Vielleicht habe ich es übersehen, aber was genau macht viele Fehler von Menschen moralisch/ethisch besser als weniger Fehler von KI-Lösungen?
Es ist schon merkwürdig, dass aus der Unachtsamkeit von Menschen (so nenne ich es jetzt mal wohlwollend) immer wieder zu einem Argument für den Qualitätsgehalt von LLM-Textausgaben gemacht wird, wo doch die Qualität dieser Texte genau davon abhängig, dass sowohl Prompts als auch Texte und Quellen von Menschen achtsam geprüft werden.
Und wer Quellen oder Tatsachen für eine bestimmte These suchen will (aber entsprechende Belege für widersprechende Thesen weglassen will) kann sich auch dabei von „der KI“ prima unterstützen lassen.
Nein, alle Menschen, die hier Vorbehalte formulieren, kennen sich entweder nicht aus oder sind zu dumm dazu /s
5 „Gefällt mir“