Danke Margarete. Ich möchte den Thread nicht endlos in die Länge ziehen. Aber bevor wir den Thread schließen (und neue differenziertere Threads öffnen) sollten wir kurz über die Themen reden, die sebe303 am Freitag noch angesprochen hat. Das ist jetzt Diskussion auf Meta-Ebene: wie verhindern wir, dass uns das Problem mit der Dauerwiederholungsschleife in künftigen KI-Threads nicht wieder und wieder passiert ? (das sehe ich nämlich ehrlich gesagt kommen). Differenziertere Threads, bei denen der Titel sagt, worum genau es geht, sind sicherlich eine Maßnahme um die Diskussion zu kanalisieren. Aber es gibt auch grundlegende Probleme.
Ich denke genau das auch. Wir haben das in der Corona-Pandemie gesehen. Da gab es Leute, die das Thema geleugnet oder verharmlost (Corona = Grippe) haben. So ähnlich ist es jetzt auch beim Thema KI. Da heiß es, der ganze KI-Hype würde ja nur durch Profiteure befeuert. Diese wollten mit dem Hype ja nur Werbung für ihre Produkte machen. Es gäbe gar keinen signifikanten Fortschritt auf dem Gebiet (und ergo: keinen Handlungs- oder Diskussionsbedarf). So kommen wir nicht weiter.
Wir können nicht ins Doing kommen, wenn immer wieder ohne fundierte Argumente die Relevanz des Themas in Frage gestellt wird und Experten mit dem Argument „der/die profitiert ja nur von Hype“ diskreditiert werden. Wer das Thema nicht für relevant hält, kann ja gerne in anderen Threads über andere Themen diskutieren.
Es gibt schon Leute, die den Hype befeuern, um zu profitieren. Das heißt aber nicht, dass KI nicht jetzt ein Stadium erreicht hätte, dass sie in den nächsten Jahren in vielen wichtigen Bereichen massiven Einfluss haben wird.
Ich glaube, was wir tun können, um die Diskussion voranzubringen, ist, Chancen und Risiken konkreter zu benennen. Davon ausgehend sollte dann über Ziele gesprochen werden, also was wir angesichts mancher Chancen oder Risiken erreichen wollen, und über mögliche Massnahmen und ihre Wirkungen und Kosten.
Natürlich kann es so etwas immer geben. Auch in der Corona-Pandemie mag es Virologen gegeben haben, die das Thema gepusht haben, um daran zu verdienen. Aber die Frage ist doch: wird das Thema in signifikantem Ausmaß durch Profiteure gepusht. Und da muss man ganz klar sagen: Nein. Dafür gibt es keine Anzeichen. Bei KI nicht und bei Corona auch nicht. Es sind im wesentlichen Wissenschaftler und KI-Forscher, welche die offenen Briefe unterschrieben haben. Altman und Musk werden nur in der Presse besonders häufig genannt.
Na ja, ich würde Precht jetzt nicht als Informatiktechnische Doppelnull bezeichnen. Klar, er ist kein Informatiker und ich bin auch nicht immer seiner Meinung (z.B. was KI, Russland oder Baerbock angeht). Aber er argumentiert logisch, nachvollziehbar und faktenorientiert. Das finde ich gut.
Eine echte informatiktechnische Doppelnull sieht für mich anders aus: Vielleicht habt ihr auch [das Video von „tante“] gesehen, das weiter oben gepostet wurde. Der Vortrag strotzt nur so vor Desinformationen und abstrusen Verschwörungstheorien. Der Sprecher legt ziemlich am Anfang eine Folie mit der Message „Hype !“ auf und suggeriert, dass ganze KI-Thema werde maßlos übertrieben. Schuld seien Leute wie Sam Altman. Im ganzen Rest des einstündigen Vortrags gibt es dann aber nicht ein schlüssiges Argument, das diese These untermauert.
Ich fände gut, wenn wir uns in zukünftigen Diskussion im Stil mehr an einem faktenbasierten Precht orientieren würden und weniger an solchen Internet-Schwurblern.
Ich würde sogar noch weiter gehen: Die Frage, um die es hier geht, ist, ob KI eine relevante Technologie ist, die wahrscheinlich manche Aspekte unseres Lebens signifikant beeinflussen wird. Und da ist die Antwort meiner Meinung nach ein klares Ja, egal, ob es auch Profiteuere gibt, die das Thema zusätzlich pushen.
Ich bin jetzt nicht der Experte für Precht, aber ich habe einen Podcast gehört, den er kurz vor der russischen Invasion aufgenommen hat, und da schien er mir einen recht großen Selbstbewusstseinsfachkompetenzquotienten zu haben. Würde er z. B. als Satiriker nur Denkanstöße geben wollen, würde das vielleicht passen, aber als wertvollen ernsthaften Diskussionsbeitrag habe ich das nicht empfunden. Da höre ich lieber die Meinung von Experten wie General a. D. Erhard Bühler.
Ich habe mir nur die ersten 10 Minuten angehört, und auch da habe ich den Eindruck, der Sprecher hört sich selbst gerne reden, ist außerdem Aktivist und bringt kaum Argumente.
Beide (Precht und Tante) scheinen mir eher Qualitäten als Entertainer (für ihr jeweiliges Publikum) zu haben als die Diskussion ernsthaft und sachlich weiterzubringen. Insofern würde ich keinen von beiden als Vorbild für eine gute Diskussion hier empfehlen.
Precht ist auf dieselbe Weise „intelligent“ wie aktuelle LLMs „intelligent“ sind. Er kann sehr lange, tief geschachtelte, komplexe und grammatikalisch korrekte Sätze zusammenbauen. Er kann recht eloquent daherreden, und zwar zu nahezu jedem Thema - und völlig unabhängig davon, ob er tatsächlich irgendeine tiefergehende Expertise im fraglichen Thema hat, kommt dabei immer ein irgendwie auf den ersten Blick recht überzeugender Wortschwall heraus. Auf den zweiten und dritten Blick hingegen findet man die Fehler und Widersprüche, die mal mehr, mal weniger gut kaschierten Logiklücken und die Stellen, an denen er „Handwaving“ betreibt, damit seine Argumentation weiterhin auf scheinbar sicherem Boden steht oder nicht auffällt, dass sein Wissen über Oberflächlichkeiten nicht hinausgeht.
Und: genau wie ChatGPT muss Precht, wenn er sich überhaupt mal auf irgendwas festlegt, immer irgendwie auch den „Contrarian“ geben. Es darf nicht sein, dass eine als Mainstream-Meinung wahrgenommene Einschätzung einfach mal zutreffend sein kann. Es muss partout noch hier ein Kontrapunkt und da eine Einschränkung fabriziert werden. Dass dabei konträre Aspekte in einer Variante des „False Balance“-Phänomens oft völlig überbetont werden - unwichtig, denn womit soll man sich denn sonst profilieren, wenn nicht mit dem Hinweis auf seine eigene, selbstverständlich vom Mainstream abweichende Meinung?
Wenn zukünftige Versionen von ChatGPT irgendwen schnell und gut ersetzen können, dann Typen wie Precht.
Puh. Ich steig hier aus. Ich helf dir hier nicht die offensichtlichen Fakten zu verdrehen. Die Anhörung zum Thema Blockchain hat wohl ihre Spuren hinterlassen.
Nette Methode, aber was sagt denn das über dich aus, wenn du zwischen den beiden keinen qualitativen Unterschied erkennen kannst.
was ist denn dieses Anschreiben gegen @tante? Der nichts gemacht, ausser sich fachlich zu positionieren, sehr fundiert wie ich meine, beim Thema ‚KI‘ auch eher konservative Positionen beziehend.
Als jemand der sowohl ‚KI‘ als auch ‚Kryptowährungen‘ schon mal in echt und auch beruflich macht(e) (as in ‚it puts my fodd on the table‘) steht ihr mit solchen Bewertungen im Umfeld was ‚vom Fach ist‘ oft nicht in der Mehrheit. Klingt komisch, ist aber so. Auch ich stimme nicht in allen Punkten mit @tante überein, in beiden Themen seiner großen Vorträge. Ich würde mich aber nicht dazu herablassen, jemand so abzuwerten wie ihr (?) es grade getan habt.
Wir sollten jetzt aufpassen, dass wir nicht wieder abschweifen und völlig andere Themen (Blockchain, Precht) diskutieren als die, um die es hier geht: KI und das Tante-Video. Ich verkneife mir daher meine Kommentare zu Precht, die ich eigentlich sagen wollte und zu Blockchain (womit ich mich eh nicht auskenne).
Wie du das für sehr fundiert halten kannst, ist mir schleierhaft. Tante stellt einfach nach Trump Manier Behauptungen in den Raum, die im krassen Gegensatz zu dem stehen, was Wissenschaftler sagen.
Nehmen wir die offenen Briefe: Da warnen vor allen Wissenschaftler und KI-Forscher davor, dass die künftigen KIs außer Kontrolle geraten und Menschen schaden könnten. Die Experten warnen deshalb davor, weil wir mit den Large Language Models seit einigen Jahren etwas komplett Neues haben, dass es so in der KI vorher noch nicht gegeben hat (die Transformer-Architektur wurde 2017 entwickelt). Dazu gibt es auch viele Berichte von Experten, die das eindrucksvoll beschreiben (einige hatten wir hier im Thread verlinkt).
Tante hingegen hält „den ganzen KI-Hype“ für übertrieben. Die Fähigkeiten der Modelle seien gar nicht so beeindruckend oder besorgniserregend, wie es die Experten behaupteten. Er bringt für diese abweichende Position aber KEINERLEI Belege. Keine Begründung (falls jemand von euch in dem einstündigen Vortrag doch eine finden sollte, bitte mal hier posten). Stattdessen versucht er das Ganze so darzustellen, als würde der „Hype“ durch die KI-Firmen zu Werbezwecken generiert. Natürlich haben auch einige KI-Firmen-Chefs die Briefe unterschrieben (das ist ja auch eher ehrenwert) - aber die Initiative zu den Briefen und das Gros der Unterschriften kam aus der Wissenschaft.
So ähnlich wie Tante könnte auch ein Klimawandel-Leugner argumentieren: das ganze Gerede um den Klimawandel sei ja alles nur ein einziger “Hype”. Auf die Argumente der Klima-Wissenschaftler würde er überhaupt nicht eingehen. Stattdessen weist er auf die Äußerungen von Windpark-Betreibern hin, die vor dem Klimawandel nur deshalb warnen (und den Hype befördern) weil sie selber davon profitieren. Ergo: die Windpark-Betreiber sind die Ursache des ganzen Klimawandel-Hypes - den gibt es nicht wirklich.
Das ist analog das Argumentationsmuster von Tante. Ich kann daran nichts fundiertes erkennen. Und so ähnlich geht es in dem ganzen Vortrag weiter.
sebs303, das will ich gar nicht in Zweifel ziehen. Ich arbeite auch in der Software-Entwicklung. Es ging hier nicht um eine technische Einschätzung, sondern darum, ob Tante in dem Vortrag fundiert argumentiert - rein auf der Argumentationsebene. Und ich glaube, ich habe oben gezeigt, dass das eben nicht der Fall ist.
Hallo ??
Konnte man das nicht verstehen, dass ich den Absatz oben mit dem Klimawandel-Leugner nur als Analogie-Beispiel zur Veranschaulichung des Tante-Narrativs geschrieben habe ? Basiert der FLICC-Detektor vielleicht noch auf GPT-3 ?
Ich weiß nicht, ob das schon extra-thread niveau hat - bitte notfalls gerne verschieben
Wenn es darum geht den Zusammenhang zwischen KI und „Verstehen“ zu beleuchten, reicht es nicht, immer detailierter oder bespielhafter zu Zeigen wie man KI sieht, sondern man muss auch sagen, wie man „Verstehen“ sieht. Es ist schwer zu beurteilen, wie weit ihr bei der Frage nach dem Verstehen auseinander liegt, wenn wir eure Definitionen nicht kennen.
Daher würde ich gerne nochmal wissen: Welche Aspekte hat „Verstehen“ die Computer-Programme, die nach stochastischen Mustern Texte als Antworten auf Texte generieren, nicht erfüllen.
Oder anders herum gefragt: Was tut der Mensch, was über „nach stochastischen Mustern Texte als Antworten auf Texte generieren“ hinaus geht?
Wenn wir eines wissen, dann ist es, dass dieses Thema endlose Diskussionsschleifen produziert.
Bitte daher in einem neuen Thread starten.
Und gebe dem Tread einen prägnanten Namen, z.B. "Können Maschinen „verstehen“ ?'. Dann weiß jede/r, worauf er/sie sich beim Drauf-Klicken einlässt. Und wir haben einen Thread, auf den wir verweisen können, wenn das Thema immer wieder und wieder aufpoppt.
Ich habe nicht behauptet, zwischen denen gäbe es keinen qualitätiven Unterschied. Darauf kommt es mir nicht an, sondern darauf, dass ich sie anhand der genannten Stichproben beide nicht als Vorbilder für eine gute Diskussion empfehle.
Vielleicht ist das der Unterschied zwischen uns beiden: ich kenne die Arbeiten von @Tante, der ja schon rech lange im CCC Umfeld Aktiv ist und sich nicht zum ersten mal kritisch oder hilfreich über Dinge äussert. Ich finde deine Strategie des ‚ich verstehe das nicht‘ wirklich schwer in einer Diskussion und beende das hiermit mit einem weiteren Mute auf unbestimmte Zeit. Es ist echt respektlos, hier eine Generalkritik abzufeuern und eigentlich nicht (ausser mit abwertenden Kommentaren) auf die Inhalte des doch recht guten Talks einzugehen. Das will ich dir nicht weiter ermöglichen, in dem ich hier naiv mit dir diskutiere. Ausserdem muss ich aus dem Office heraus, die drei Grafikkarten quäle ich grade mit einem Datenset zu Wissenschaftsleugnung und grade Strategien wie sie von dir hier verwendet werden sind spannend. In so fern: Thanks for contributing to science.
Also ich habe mir den Beitrag von Tante eben auch mal angeschaut und ich bin ehrlich gesagt enttäuscht. Fast alles was Tante macht ist, Menschen zu zitieren, die KI aus dem einen oder anderen Grund kritisieren. Er geht mit nahezu keinem Wort auf den Forschungsstand ein, um eben die besprochenen Probleme zu beseitigen, oder darauf dass viele KI Systeme schon heute den Menschen in vielen anspruchsvollen Aufgaben outperformen.
Das kann man machen, aber das ist halt krass konservativ und wenig innovativ. Würde man seine Logik konsequent weiter denken, dann dürften wir mit der Energiewende noch gar nicht starten, da die Technologie noch nicht auf dem Level ist, dass wir damit eine globale Lösung haben (Stichwort Ressourcenlimitierung).
Dass Technologie sich über die Zeit weiter entwickelt und massiv verbessert, scheint für ihn wertlos. Man möchte ihn nur laut fragen, ob das Internet in den frühen 90ern auch nur ein Hype war oder Züge im 19. Jhd. oder ob nicht eben die weise waren, die die Möglichkeiten gesehen und an der Optimierung anfangs noch begrenzter Möglichkeiten, gearbeitet haben.
Ich stimme dem meisten nicht zu, glaube aber auch, dass eine weitere Diskussion wenig erhellend wäre. Wir beide haben offenbar recht unterschiedliche Vorstellungen davon, wie eine Diskussion geführt werden sollte.
Es können alle nachlesen, was ich tatsächlich gesagt habe, und wie Du es interpretiert hast.
sebs303, meine Kritik bezog sich rein auf das zitierte re:publica Video von Tante („I’m, sorry HAL…“) und nicht gegen Tante als Person. Ich kenne Tante’s Background nicht und ich kenne auch seinen Vortrag zu Blockchain nicht und könnte den auch gar nicht beurteilen, weil ich mich mit Blockchain gar nicht auskenne. Es mag gut sein, dass der Blockchain-Vortrag total fundiert ist.
Tante setzt bei dem KI-Vortrag auffallend häufig politische Statements (“Trans-Rights”, “Asyl ist Menschenrecht”, Klimawandel, Spitzen gegen Lindner und Spahn) - und bekommt dafür auch jedesmal Zustimmung aus dem Publikum. Das ist eine PR-Technik, die sich „Astroturfing“ nennt. Damit versucht sich ein Redner als Teil einer Gruppe darzustellen und sein Anliegen als „Grassroots“-Impuls der Gruppe. Die Gruppe hat den Eindruck, das Anliegen käme aus ihrer Mitte - von einem Gleichgesinnten. Und sie ist dann eher geneigt, dem Glauben zu schenken und den Impuls zu unterstützen. Gleichzeitig erscheinen Leute, die das Gesagte kritisieren, als „außerhalb der Gruppe“. Es ist hier also wichtig, zwischen den eingeworfenen politischen Statements (die du vielleicht genau wie ich im Großen und Ganzen gut findest) und dem eigentlichen Inhalt des Vortrags zu unterscheiden…
Bedenklich finde ich, dass „tante“ im hinteren Teil des Vortrags Parallelen zu den Ludditen zieht, die zu Beginn der industriellen Revolution aus Angst vor Arbeitslosigkeit die Webmaschinen ihrer Arbeitgeber zerstörten. Mit Slogans wie „Nichts ist alternativlos“, „Man kann Nein sagen“ ,
und „Widerstand gegen KI ist nicht nur nötig, sondern dringend“ ruft er zum Widerstand gegen KI auf. Was genau er damit meint, sagt er nicht. Soll die Nutzung von KI verboten werden ? Soll sich Deutschland abschotten wie Nord-Korea ? Soll es bei den zu erwartenden Arbeitsplatzverlusten und -verschiebungen Proteste wie in Frankreich geben ?
Die Politik muss doch hier zu konstruktiven Lösungen kommen. Die Entwicklung können wir nicht aufhalten (auch wenn Tante das so suggeriert).
Bei welcher neuen Technologie war das nicht der Fall?
Gerade Technologien, die Start-Ups ermöglichen (weil sie nicht so Anlagenintensiv sind wie Produktionsunternehmen) führen immer dazu, dass es zu Beginn einen Pioniergeist gibt, der auch viele schlechte Ideen sowie Menschen anzieht, die nur einen schnellen Dollar machen wollen. Dieses Trial & Error ist doch gerade das, was die Start-Up-Szene ausmacht - da verhältnismäßig wenig Startkapital gebraucht wird, kann man auch mal Dinge einfach ausprobieren.