Interessanter Vortrag.
Gerade die Entwicklungsstufen (ab Minute 44:40) von Information über Wissen über Reasoning bis zu Bewusstsein sind ja genau das, was ich oben auch beschrieben habe. Da GPT-4 zumindest eindeutig die Schwelle des „Reasoning“ überschritten hat ist der Weg zum Bewusstsein tatsächlich nicht mehr weit.
Meines Erachtens setzt das nur noch voraus, dass die KI ein aktives Gedächtnis bekommt, daher dass sie in der Lage ist, sich auch nach der Trainingsphase noch (selbständig!) weiter zu entwickeln. Daraus erwächst dann zwangsläufig etwas, das man als „Bewusstsein“ definieren kann (wenn man sich von religiös-verklärten Bewusstseins-Definitionen frei macht…). Denn das Gedächtnis ermöglicht es, „Erfahrungen“ in Interaktionen mit anderen Wesen (Menschen oder andere KIs) zu machen und sich „Meinungen“ auf diesen Grundlagen zu bilden. Sobald es darüber keine menschliche Kontrolle mehr gibt (wie das aktuell im Rahmen der Trainingsdaten zumindest begrenzt noch der Fall ist) sind wir schon sehr nah an etwas, das man auch „Persönlichkeit“ nennen könnte.
Für eine KI gilt hier tatsächlich das Gleiche wie für den Menschen: „Das Ganze ist mehr als die Summe seiner Teile“. Auch der Mensch hat, wenn man es auf Neuronen und Hormone herunterbricht, kein bestimmbares Bewusstsein, dennoch sind wir uns einig, dass so etwas wie ein Bewusstsein existiert. Es entsteht aus dem Zusammenwirken all dieser kleinen Teile. Und nur, weil eine KI keine biologischen Störfeuer wie Hormone hat, heißt das nicht, dass hier ein Programm aus einer Unmenge individueller Interaktionen mit Menschen und anderen KIs keine „Persönlichkeit“ entwickeln könnte.
Der Sprung zu einer „starken KI“ könnte in der Tat nur noch wenige Jahre in der Zukunft liegen, die LLM, um die es in diesem Vortrag geht, sind relativ eindeutig eine Vorstufe auf diesem Weg und bieten im Prinzip schon fast alles, was als Basis zur Entstehung einer starken KI nötig ist.
Aber tatsächlich hängt das alles davon ab, wie wir Dinge wie „Bewusstsein“, „Persönlichkeit“, „Intelligenz“ oder - um zu der früheren Diskussion zurück zu kommen - „Verstehen“ definieren. Der Vortrag bestärkt mich jedenfalls darin, GPT-4 zuzugestehen, „verstehen“ zu können, da „verstehen“ eine unentbehrliche Grundlage für das „Reasoning“ ist, zu dem GPT-4 zweifelsohne schon in der Lage ist.
