LdN 493: Anthropomorphisierung der KI

Kommentare zum Podcast
61

Kurz zur Definition:
Mit LLM meine ich das reine Large Language Modell (Sprachmodell), nicht den Chatbot.

LLM (was du als „KI“ bezeichnest) können nicht rechnen und sie halluzinieren (Quelle), fertig. :wink:

Das weiß ich auch nicht genau. Aber ich weiß, dass mein Taschenrechner es (im menschlichen Sinne) nicht ist. Und mit LLM ist es genauso.

Das ist falsch. Du sprichst hier vermutlich eher von Chatbots, aber Chatbots und LLMs sind nicht das gleiche.

Sorry, aber du wirfst die ganze Zeit Begriffe durcheinander. KI umfasst viel mehr als nur LLM. Aber letzteres ist es, über das wir hier reden. Und LLM sind einfach nicht (im menschlichen Sinne) intelligent.

Definiere was du unter AI verstehst:
Ein LLM → Nicht (menschlich) intelligent
Irgendeine zukünftige Technologie → vielleicht intelligent

Chatbots können zwar z.B. rechnen, aber das liegt nur daran, das man ihnen programmierte Computer-Programme zur Seite stellt, die das übernehmen. Das ist hier ganz gut dargestellt:

Der große Unterschied zu einem Menschen, der ja auch einen Taschenrechner benutzen kann:
Der Mensch muss dem Taschenrechner nicht blind vertrauen. Er kann das Ergebnis überschlagen oder sogar exakt nachrechnen. Ein LLM hat dagegen keine Möglichkeit das Ergebnis zu prüfen.

Das heißt auch nicht, dass Chatbots oder Argenten nicht eine Menge Schaden anrichten können. Es sind halt Werkzeuge und es kommt darauf an, was Menschen mit ihnen machen.

Ja so sehe ich das auch. Trotzdem wird morgen wieder einer mit irgendeiner reißerischen Pressemeldung von einem der Chatbot-Hersteller kommen…

Genauso wie Musk vor 6-7 Jahren immer meinte: Nächstes Jahr kommt das autonome Fahren ganz bestimmt…

1 „Gefällt mir“
62

Ah super, dann wirst du mir ja bestimmt eine Reihe an Matheaufgaben nennen können, die LLMs nicht lösen können werden. Und dann die nächste Frage, ein Mensch der nicht rechnen kann, besitzt keinerlei Intelligenz?

Und Menschen machen keine Fehler?

Das ist eine komplett nutzlose Definition. Am Ende interessiert es mich, welche Probleme etwas lösen kann und nicht, wie es das tut. Das was wir als „Intelligenz“ bezeichnen, ist hilfreich/notwendig, um Probleme lösen zu können. Zum Beispiel Sachen die man in einem Gebiet gelernt hat, in einem anderen Gebiet anzuwenden. Ein Taschenrechner kann das nicht, genauso wenig kann das ein Machine Learning Modell, das gelernt hat Katzen zu erkennen. Ob ein LLM das wirklich kann, weiß ich nicht, aber es scheint dem zumindest schon extrem nahe zu kommen.

63

Auch die US-Regierung ist eine Informationsquelle für die KI :wink:

64

„Die Systeme des Unternehmens hätten mit den Websites der US-Börsenaufsicht sowie mit öffentlich zugänglichen Daten der US-Statistikbehörde interagiert, berichtete die Agentur Bloomberg News“

Was heutzutage so als Hacking zählt :thinking:

1 „Gefällt mir“
65

Alle die nicht in ihren Trainingsdaten sind.

Doch, natürlich. Er kann sich ja ein Mathebuch nehmen und es lernen.

Einem LLM kann man hingegen hunderte Mathe-Bücher als Traningsdaten geben und trotzdem wird es nicht rechnen lernen. Das Sprachmodell kann dann zwar alle Rechenregeln runterbeten, aber es versteht sie nicht, weil es nicht den notwendigen Grad an Intelligenz besitzt.

Doch tun sie.
Menschen können aber „intelligentere“ Fehler machen, so blöd das auch klingt z.B. sich verrechnen. Und sie können den Fehler selbstständig finden und korrigieren, wenn man sie darauf hinweist.

Das ist ja auch völlig okay.
Aber hier ging es ja zuletzt um die eher akademische Frage:

Wobei KI-Systeme hier Chatbots auf Basis von Sprachmodellen meint.

Naja Sprachmodelle können nicht rechnen (sorry wenn ich da immer drauf rumreite), da sie Matheregeln nicht verstehen und nicht verallgemeinern können. Daher würde ich sagen, dass sie die Übertragungsleistungen, die du beschreibst auch nicht wirklich bringen können.

66

Können wir uns darauf einigen, dass es noch lange Fähigkeitslücken in KI-Systemen geben wird, es aber trotzdem interessanter ist, über deren Fähigkeiten zu sprechen, als über die Frage, ob sich diese Fähigkeiten als Intelligenz bezeichnen lassen?

67

Wir können nicht sagen, welche Daten in den Trainingsdaten sind. Aber ich nehme an, deine Behauptung ist hier, dass LLMs nicht rechnen können, sondern nur auswendig lernen. Das könnten wir testen, in dem wir sagen, dass das Model zum Beispiel 100 Multiplikationen mit zufälligen Zahlen die größer als 1 Million sind, machen soll. Wenn es dann mehr als bspw. 80% schafft können wir davon ausgehen, dass es das nicht auswendig gelernt hat, weil die Anzahl an Kombinationen so groß sind, dass die nicht alle in das Model passen.

Also sagen wir ein LLM würde diesen Benchmark schaffen, dann wäre das Intelligenzkriterium für dich erfüllt und du wirst den Goalpost nicht wieder verschieben und dir einen neuen Benchmark ausdenken?

KI Modelle können auch fehler korrigieren wenn man sie drauf hinweist. Und manche Menschen können Fehler nicht erkennen, wenn man sie darauf hinweist. Aber diese Definition ist eh sinnlos, da du hier in die Definition von Intelligenz wieder das Wort Intelligenz mit reinbringst.

Ich nehme an, dass auch @Diplom-Ingenieur eher darauf hinaus will, ob KI-Systeme komptetenter als Menschen werden können (also Menschen in allen Bereichen schlagen) und nicht was unter der Haube passiert. Also anders gesagt, kann die KI einen Status erreichen, dass würde ein Mensch so handeln wie die KI, würden wir ihn als intelligentesten Menschen der Welt bezeichnen.

Nur weil es das deiner Meinung nach nicht in Mathematik kann, heißt das ja nicht automatisch, dass es das nicht vielleicht in anderen Bereichen kann. Ich gehe aber soweit mit dir mit, dass Mathematik zumindest in soweit gut ist, objektiv zumindest eine Art von Übertragungsleistung zu testen.

68

Also wenn ich zb. Claude Code oder einem anderen Coding Agent diese Aufgabe stelle, dann würde dieser sich eine kleines Python Programm schreiben und dann im Hintergrund ausführen udn das Ergebniss dem Benutzer mitteilen, vermutlich schneller als die meisten geübten Programmierer tippen können. Ob man diese Fähigkeit als intelligent bezeichnen will sei dahin gestellt, es kann aber dann etwas tun, was die meisten Menschen nicht können, also weder hohe Zahlen im Kopf fehlerfrei multiplizieren können oder programmieren.

69

Weil ich ja auch der einzige Mensch bin, der jemals die mangelnden Rechenkünste von LLM festgestellt hat.

Außerdem:

Da waren wir uns doch schon einig, dachte ich.

Und trotzdem wusstest du doch sicherlich wie ich das meinte, oder?

70

Dieses Thema wurde nach 12 Stunden automatisch geschlossen. Es sind keine neuen Antworten mehr erlaubt.

71

Meine Frage ware eine andere, würde ein LLM das rechnen kann, deine Bedingung für Intelligenz erfüllen?

Du bist doch derjenige, der gegen eine Superintelligenz argumentiert, weil du Intelligenz auf eine emotionale Ebene schiebst.

1 „Gefällt mir“