Das ist definitiv super-anspruchsvoll.
In diesem Quarks & Co.-Beitrag von Gestern kommt u.a. ein Museum vor, in dem eine Arbeitsweise einer Bilderkennungs-KI verbildlicht wird (ab Minute 13:08). Das ist noch eine denkbar einfache KI mit geringem Datenbestand, aber auch schon enorm komplex.
Man kann in der Tat u.U. nicht mehr nachvollziehen, wie eine bestimmte neuronale Verbindung ursprünglich erstellt wurde, aber anhand eines klaren Pfades alle neuronalen Verbindungen durchzugehen sollte - wie gesagt mit extrem viel Aufwand - möglich sein.
Aber auch die Vorgänge im Lernprozess müssten stärker dokumentiert werden, um ein tieferes Verständnis der Arbeitsweise zu erhalten. Wichtig ist halt, den zentralen Unterschied zum menschlichen Gehirn zu verdeutlichen:
Im Rahmen einer KI ist alles theoretisch dokumentierbar, weil alles, was innerhalb der KI abläuft, theoretisch bekannt und in Worte und Konzepte fassbar ist. Für das menschliche Gehirn gilt das nicht.
Dass die hohe Komplexität von Lern- und Durchführungsprozessen bei einer KI die Sache nicht alltagstauglich macht, weil hier oft tausende, gar Millionen Einzelschritte durchgeführt werden, ist dabei klar. Aber wie gesagt: Es geht darum, in Einzelfällen Lernprozesse und Antworten von KIs nachvollziehen zu können, um daraus zu lernen.