Frau Prof. Brakemeier ließ sich nicht zu einer positiven Bewertung von KI hinreißen. Klar: Warnung vor Problemen, Anthropomorphisierung, Abhängigkeit etc.
Warum war es für sie so schwierig, die qualitativen Vorteile und Alleinstellungsmerkmale der KI zu benennen jenseits von „besser als nichts“?
KI kann Dinge, die Menschen nicht könnenund nie können werden: unendliche Geduld, jederzeit verfügbar, live Zugriff auf das gesamte im Internet befindliche Wissen der Menschheit, kein nennenswertes Eigeninteresse, eine Wissensverankerung jenseits von persönlichen Vorlieben (und abgesehen von Trainingsbias).
Die relevante Frage für eine Zukunft mit KI ist nicht „wir oder KI“ beziehungsweise „Mensch oder KI“, sondern „wie gestalten wir die Arbeitsteilung (manche würden vielleicht sagen Symbiose) produktiv“?
Es bildet aber das „Eigeninteresse“ ab, das im vorhandenen Material enthalten ist (Rassismus, Gender bias usw.), und verstärkt es; es hinkt den aktuellen Erkenntnissen hinterher (auch weil eben nicht alles im Internet Befindliche ausgewertet wird) und produziert naturgemäß Durchschnitt. – Dies alles finde ich gerade im Kontext Psychotherapie alles andere als vernachlässigbare Schwächen.
Aktuell ist die relevante Frage noch: „Wie verhindern wir, dass die KI jemanden zu Mord und/oder Selbstmord animiert?“ Da gibt es immerhin schon eine eigene Wikipedia-Seite zu: Deaths linked to chatbots - Wikipedia
Gruselig:
According to the lawsuit, ChatGPT not only failed to stop the conversation, but also provided information related to methods of suicide when prompted, and offered to write the first draft of Raine’s suicide note. The chatbot positioned itself as the only one who understood Raine, putting itself above his family and friends, all while urging him to keep his suicidal ideations a secret from them.
Ich habe Frau Brakemeiers Position hier als angemessen ehrlich und realitätsnah empfunden. Es wäre ziemlich einfach, hier auf den KI Hype-Zug aufzuspringen oder aus der anderen Richtung KI grundsätzlich als Teufelszeug abzutun. Die Wahrheit liegt irgendwo dazwischen und jeder verantwortungsvolle Mensch wird beim aktuellen Stand der Technik noch zur Vorsicht mahnen. KI kann aktuell noch in keinem Beruf einen kompletten Menschen ersetzen und auch nicht simulieren. Sie braucht ständige Überwachung und Anleitung durch Menschen und auch darin muss man eine gewisse Kompetenz erwerben.
Hatte Prof. Brakemeier nicht aber auch gesagt, dass in Studien kein Unterschied in der Qualität zwischen KI-Therapie und menschlicher Therapie festgestellt werden konnte? (Die Frage ist nicht rhetorisch gemeint; ich weiß es tatsächlich nicht mehr genau, bin mir aber sehr sicher, dass sie das gesagt hatte.)
Dass KI eine Bias haben, ist zwar richtig, aber nicht grundsätzlich ein Problem für jedes Anwendungsgebiet. Die Frage wäre, ob KI einen Bias hat, der schlecht für die Psychotherapie ist. (Und um fair zu sein, ob dieser Bias negativer ist als beim Menschen - auch ein menschlicher Psychotherapeut hat natürlich seinen eigenen Bias.)
es hinkt den aktuellen Erkenntnissen hinterher (auch weil eben nicht alles im Internet Befindliche ausgewertet wird)
Das mag stimmen, aber auch hier wieder die Frage nach dem Vergleich. Dass KI nicht alle aktuellen Erkenntnisse hat, mag richtig sein, aber wenn sie trotzdem aktueller als der Mensch ist, ist das nicht wirklich ein Argument gegen KI.
produziert naturgemäß Durchschnitt.
Ich weiß, woher deine Aussage mathematisch herkommt. Allerdings würde ich in Frage stellen, ob diese theoretische Betrachtung auf LLMs anwendbar ist. Zumal die mathematischen Theorie und die Praxis beim maschinellen Lernen generell weit auseinanderklafft.
Das mag im schlimmsten Fall alles passieren, aber: die Sprachmodelle werden beständig nachgeschärft und Ihre Argumentation läßt alle positiven und unproblematischen Hilfestellungen durch KI „unter den Tisch fallen“.
Wegen dieser Einseitigkeit finde ich Ihre Argumentation nicht stichhaltig.
würde für mich eigentlich schon reichen, um es auf jeden Fall einzusetzen. Sehe das ähnlich wie beim Thema „Roboter in der Pflege“. Natürlich kann die Maschine in vielen Bereichen den Menschen nicht ersetzen. Aber wir sind an einem Punkt, wo wir auf so eine signifikante Unterversorgung zusteuern, dass wir durch den ergänzenden Einsatz definitiv eine Verbesserung erreichen können. Vor allem wenn man sie intelligent und in optimaler Abstimmung mit dem Menschen einsetzt.
Meine Aussage bezog sich auf genau das von @Chrissi1 Zitierte. Diese Aussage habe ich relativiert. Und ja, wenn „nachgeschärft“ wird, dann wird es besser. Dann, jeweils.
Aber wenn ihr mich schon unbedingt festnageln wollt:
Mit einer KI, die einen rassistischen und frauenfeindlichen Bias hat, würde ich persönlich nicht gut zurechtkommen – gerade wenn es um Essenzielles, Zwischenmenschliches geht wie bei Therapien i.d.R. Es ist ja auch so, dass man bei der Suche nach dem Therapeuten oder der Therapeutin auch darauf achtet, dass es passt, sonst wird es nicht funktionieren.
Zum Thema Durchschnitt: Genau die individuelle Passung ist doch wichtig in einer Beziehung zwischen Therapeut*in und Klient*in. @Fenric: Lass mal von der KI einen von dir erstellten Text korrigieren. Die „Glättung“ führt zu einem grammatikalisch korrekten Durchschnittstext, ohne Ecken und Kanten, ohne Individualität.
Und das Übelste hat @ped schon angesprochen; auch seiner Konsequenz stimme ich zu.
@Fenric: Lass mal von der KI einen von dir erstellten Text korrigieren. Die „Glättung“ führt zu einem grammatikalisch korrekten Durchschnittstext, ohne Ecken und Kanten, ohne Individualität.
Wie gesagt, was für ein Anwendungsgebiet stimmen mag, kann für ein anderes nicht stimmen.
LLMs haben vor Kurzem einige offene Probleme der Mathematik gelöst. Waren diese Ergebnisse der Durchschnitt des menschlichen Wissens? Keine Ahnung, vielleicht, vielleicht auch nicht? Aber das ändert nichts daran, dass KI in diesem Fall echt was geleistet hat.
Wenn KI in der Therapie gut eingesetzt werden kann, dann ist es vollkommen unerheblich, ob sie nur „Durchschnitt“ ist. Daher sollte über Sinn oder Unsinn nicht mit allgemeinen Argumenten (die wirklich sehr allgemein, wenn nicht schon Plattitüden sind) argumentiert werden. Man sollte sich schon genau anschauen, was KI in diesem Bereich kann und was nicht. Übrigens: Wenn sie ein durchschnittlicher Therapeut wäre, dann wäre das ja nicht mal schlecht. Sie wäre der Durchschnitt - es gäbe also auch menschliche Therapeuten, die schlechter wären.
Du hast mein Argument nicht verstanden.
„Durchschnitt“ bezieht sich nicht auf die Qualität. Es geht vielmehr darum: Während ein Bewerbungsschreiben vielleicht noch davon profitieren kann, wenn Formulierungen wenig Individualität zeigen, so ist ein Hinwirken Richtung Durchschnitt bei individuellen Fragestellungen in einer Therapie aus meiner Sicht nicht erstrebenswert.
Abgesehen davon bin ich nicht grundsätzlich gegen KI; ich weiß nicht, wie du darauf kommst.
OK, aber das wird hier glaube ich niemand bestreiten. Es wird auch mittelfristig in keinem Beruf das Ziel sein, den Menschen komplett zu ersetzen. In der Tat können aber auch heute schon viele Tätigkeiten in großen Teilen ersetzt werden. In der Psychotherapie gibt es auch heute schon Apps, die einen Beitrag leisten, um z.B. Wartezeiten zu überbrücken. Und auch der Hinweis, dass es Fähigkeiten gibt, bei denen KI heute Dinge besser kann als der Mensch, ist ja fair. Daher sehe ich zwischen den Positionen gar keinen so großen Widerspruch.
Ich kann mich da täuschen - verstehe es aber nicht so, dass sie den Menschen komplett ersetzt. Auch wenn sie Teile der Therapie ersetzt.
Im Moment haben wir ja nicht das Problem, dass Psychotherapeuten um ihren Job fürchten müssten, sondern, dass wir zu wenige haben, um Patienten zeitnah eine Therapie zu ermöglichen. Da macht es m.E. durchaus Sinn statt 6 Monate zu warten, unmittelbar mit einer KI gestützten Therapie zu beginnen. Zusätzlich könnte z.B. so eine KI Muster in Gesprächen erkennen, die auf unmittelbare Suizidgefahr hinweisen und einen menschlichen Therapeuten alarmieren. Das wäre ja gegenüber „nichts tun“ eine Hilfe, selbst wenn nicht jeder Fall erkannt wird oder einige false positives dabei sind.
Wenn sich das Prinzip bewährt kann es ggf. darauf hinaus laufen, dass ein Menschlicher Therapeut - ähnlich wie bei Programmierern - eine Reihe von KI Therapeuten überwacht. D.h. er liest Gesprächsprotokolle, macht hin- und wieder mal in-Person-Meetings etc. Manche Patienten vertrauen sich vielleicht sogar lieber einer KI an als einem Menschen.
Sehe ich grundlegend anders.
All das, was sie schreiben schlägt sich auch bei menschlichen Therapeuten nieder, wenn gar noch stärker. Ein ausgebildeter Psychotherapeut liest nich automatisch neue Studien durch. Usw. Da ist KI vermutlich sogar noch schneller als Psychotherapeuten diese neuen Informationen und Erkenntnisse mitzubekommen. Für den Bias gilt das Gleiche. Auch Therapeuten haben starke Probleme mit Bias, Sexismus, Vorurteilen, Diskriminierung und Rassismus, etc.
Auch die anderen Kommentare finde ich hier wieder mal problematisch. Mord durch Chatbots? Das sind solch extreme Randfälle, die doch nichts mit einer Entscheidung zu tun haben, ob man KI stärker in Psychotherapeutischer Behandlung mit einbringt. Es gibt heute schon viele Apps, die darauf basieren und vielen Menschen vor allem im ersten Moment helfen. Wir reden hier auch nicht von Gemini, oder dem standard GPT. Sprachmodelle lassen sich auch hinsichtlich einer bestimmten Domäne sehr gut finetunen.
Weiterhin spielt es in Praxen eine riesen Rolle bei der Dokumentation. Sitzungen werden aufgenommen, analysiert und relevante Informationen zusammengetragen. Das hilft Therapeuten bei der Nachbearbeitung enorm.
Natürlich hat AI hier auch Grenzen. Für das Gelingen einer Therapie ist die Therapeut-Patient-Beziehung wesentlich. Die kann man so schnell nicht ersetzen. Auch Nuancen in der Kommunikation, usw. Aber das spricht doch nicht gegen 1. erste Hilfe bei kleineren Dingen, Diganose oder Klassifikation (bevor man 2 Jahre auf einen Therapieplatz warten muss) oder 2. Hilfe innerhalb der Praxis bei Dokumentation und Analyse.
Nach dem, was du schreibst, siehst du es nicht grundlegend anders – du hast nur meine Beiträge nicht aufmerksam gelesen. Nur ein Beispiel:
Zur Verwendung von KI in der Medizin habe ich schon ausführlicher in diesem Forum geschrieben.
Das einzige, was ich wirklich anders sehe, ist die Wertung der Suizid-Fälle. Natürlich wissen wir nicht und werden es auch nie erfahren, wie oft ein*e Therapeut*in jemanden in den Tod getrieben hat, aber so etwas dürfte von einer Software einfach von vorneherein ausgeschlossen sein. Bei jeder, auch bei weniger guter.
Frau Prof. Brakemeier hatte von einer Studie gesprochen, in der Pat.-KI-Chats sowie Pat.-Ther.-Chats nicht mehr durch Expert:innen der jeweiligen Gruppe zugeordnet werden konnten. Es ging also nicht um die psychotherapeutische Qualität eines KI-Chats an sich im Vergleich mit analoger Psychotherapie. Für eine Beurteilung der exakten Diagnose, psychischer Zusammenhänge der:des Pat., Ursache und auch mittel- und langfristig tragfähiger Lösungsansätze ist die Betonung, Gestik, Mimik der:des Pat. wie auch das Gefühlserleben der:des Ther. essentiell. Eine KI kann z.B. nicht beurteilen, ob die Ablehnung einer Erklärungstheorie erfolgt, weil ins Schwarze getroffen wurde und die Pat. (zunächst?) sich noch nicht darauf einlassen möchte (z.B. aufgrund von Scham), oder weil die Theorie einfach nicht stimmt. Als überbrückende Hilfestellung bis zur Therapie kann ich mir KI allerdings gut vorstellen, da ein angemessenes Nachfragen der KI wohl auf Pat.-Seite ein Erleben von Empathie und positiven "Beziehungs"erfahrungen auslösen kann. Dies spielt ja auch in der Psychotherapie eine große Rolle. Allerdings mit Einschränkung der Gefahren, die durch „wortgewandtes Nachplappern“(Papagei) entstehen können; z.B. Suizide, Verfestigung von kurzfristig entlastend erlebten Gedanken(die aber langfristig der Psychotherapie hinderlich sein könnten). Inwieweit diese Gefahren beschränkbar sind, kann ich mangels entsprechender Expertise nicht beurteilen.