LdN 493: Anthropomorphisierung der KI

Kommentare zum Podcast
1

Mir geht diese laienhafte Anthropomorphisierung von KI zunehmend gegen den Strich. Wir reden immer noch über Software: Bits und Bytes, die auf Hardware ausgeführt werden. Notfalls zieht man den Stecker oder schaltet das Rechenzentrum ab.

Eine KI „will“ nicht die Weltherrschaft. Gefährlich wird es, wenn Menschen ihr absichtlich oder fahrlässig Möglichkeiten geben, Dinge zu tun, die sie besser nicht tun sollte.

Ein paar etwas verkürzte Thesen und Fakten von jemandem, der seit den 80ern Computer programmiert und inzwischen LLMs zu Hause betreibt. Fachleute mögen mir die Verkürzungen nachsehen.

  • Ein LLM kann zunächst einmal überhaupt nichts in der realen Welt tun. Im einfachsten Fall bekommt es Eingaben und erzeugt daraus Ausgaben. Text rein, Text raus.

  • Damit daraus mehr wird, braucht es Software um das Modell herum. Früher war das für die meisten Benutzer schlicht der Browser. Browser sind aus gutem Grund stark sandboxed und dürfen nicht beliebig Dateien löschen, Programme starten oder auf sämtliche Ressourcen des Rechners zugreifen. Wo das trotzdem möglich ist, reden wir normalerweise von Berechtigungen, explizit bereitgestellten Schnittstellen oder von Sicherheitslücken.

  • Irgendwann wollten Benutzer mit Hilfe von LLMs aber tatsächlich etwas erledigen. Also entstanden Anwendungen wie Claude Code, Gemini CLI oder OpenAI Codex. Solche Systeme nennt man heute meist Agents oder agentische Systeme.

  • Diese Agents können Dateien bearbeiten, Programme starten, Git benutzen oder APIs ansprechen, weil die Entwickler ihnen genau diese Möglichkeiten gegeben haben. Das Modell bekommt Werkzeuge angeboten, beispielsweise sinngemäss: „Wenn du eine Datei lesen möchtest, steht dir dieses Tool mit diesen Parametern zur Verfügung.“

  • Entscheidend ist: Das LLM selbst öffnet nicht plötzlich eine Datei. Es fordert einen Tool Call an. Die Software um das Modell herum entscheidet, ob dieser Aufruf erlaubt ist und führt ihn gegebenenfalls aus. Die Software läuft auf dem System des Benutzers, das LLM üblicherweise im Rechenzentrum des KI Anbieters.

  • Hat diese Software keinen Zugriff auf /etc/password, mein Home-Verzeichnis, meinen GitLab-Account oder meine Produktionsdatenbank, dann hat auch das Modell keinen Zugriff darauf. Capability und Berechtigung entstehen ausserhalb des Modells.

  • Dasselbe gilt für das Internet. Ein nacktes Sprachmodell googelt nicht. Eine Anwendung stellt ihm Websuche, HTTP-Zugriff, einen Browser oder andere Werkzeuge zur Verfügung. Diese können vollständig deaktiviert, sandboxed oder beispielsweise auf bestimmte Domains beschränkt werden.

  • Genau deshalb halte ich viele Diskussionen über „die KI hat sich Zugang zum Internet verschafft“ für irreführend. Interessanter ist die Frage: Welche Software hat dem Agenten welche Berechtigungen gegeben, und warum durfte er diese Aktion ohne weitere Kontrolle ausführen?

  • Das bedeutet nicht, dass ein Agent ungefährlich ist. Im Gegenteil. Ein Modell muss weder böse noch bewusst sein, um grossen Schaden anzurichten. Eine falsche Zielvorgabe, Prompt Injection, ein Modellfehler und viel zu grosszügige Berechtigungen reichen vollkommen aus. rm -rf oder 'DELTREE C:' braucht schliesslich auch keinen eigenen Willen.

  • Deshalb erscheint mir eine ausschliessliche Regulierung grosser Modellanbieter als Sicherheitskonzept unzureichend. Regeln für Frontiermodelle können sinnvoll sein. Sie ersetzen aber keine klassischen Sicherheitsprinzipien wie Least Privilege, Sandboxing, Netzwerksegmentierung, Whitelisting, Authentifizierung, Logging und menschliche Freigaben für kritische Aktionen.

  • Hinzu kommt: Selbst wenn alle grossen Anbieter ihre Frontiermodelle stark beschränken, verschwinden offene Modelle nicht. Hugging Face ist voll von frei herunterladbaren Modellen sowie Varianten, bei denen Safety-Finetuning gezielt verändert oder entfernt wurde. Solche Modelle kann man selbst betreiben. Dafür braucht man längst kein Rechenzentrum mehr; für viele leistungsfähige Modelle genügt entsprechende Consumer-Hardware mit ausreichend Speicher.

Deshalb finde ich die Vorstellung etwas naiv, man könne KI-Sicherheit hauptsächlich dadurch herstellen, dass das Modell selbst immer brav „Nein“ sagt.

Banküberfälle sind schliesslich ebenfalls reguliert und sogar verboten. Trotzdem schliessen Banken ihr Geld in Tresore ein.

36 „Gefällt mir“
2

Danke. Damit ist alles zu dem Thema gesagt. Aber überall wo man hin schaut, wird das Bild aus den Terminator Filmen gezeichnet. Und leider führt eine oft lainartige Beschreibung in den Medien von KI bzw. LLMs genau zu diesen Bildern.

Dieser Ausbruch war nur möglich, weil dem Model Tools in die Hand gegeben wurden. Ohne Tools kein Ausbruch. Und selbst wenn man dem Model kein Tool zum Ausbrechen in Hand gegeben hat, hat man dem Model die Möglichkeit gegeben eigene Tools zu bauen. Wenn das LLM auf einem Rechner / Container ohne Internet Anschluss läuft, kann es kein Internet nutzen. Wenn das Model bspw. Kein Python zur Verfügung hat und auch kein Internet Anschluss hat, Python zu installieren, kann es kein Python Skript schreiben und ausführen. Außer es schreibt sich seinen eigenen Interpreter, aber es kann sich keinen Internetanschluss basteln. Ganz einfach. Ein Mensch muss ihm also einen Internet Anschluss geben. Ohne diese Möglichkeiten kein Ausbruch. (Das mit dem Python/internet ist jetzt nur ein Beispiel)

LLMs denken nicht. Dem Model wurde durch einen Mensch, ein prompt, eine Anweisung gegeben und das Model hat versucht das Ziel mit dem ihm vorhandenen Mitteln zu erreichen.

4 „Gefällt mir“
3

Ich würde das etwas differenzierter sehen. Mal als Beispiel, du hast ein Kind, dem du als Strafe alle technischen Geräte wegnismmst und dann entdeckst du, dass es auf einmal ein neues Bild auf Instagram gepostet hat, dann wäre es korrekt zu schlußfolgern, dass sich das Kind Zugriff zum Internet geschaffen hat. Auch wenn das Kind natürlich nicht von sich aus ins Internet kommt sondern dafür ein „Tool“ wie einen Computer oder ein Smartphone braucht.

Daher halte ich es nicht für irreführend zu sagen, dass sich das Model Zugriff zum Internet verschafft hat. So funktioniert unsere Sprache einfach und es ist eine effiziente Weise um auszudrücken, dass es eine Reihe von Tool calls so ausgeführt hat, dass es eines der Tools nutzen konnte, um im Internet zu agieren.

Das ändert natürlich nichts daran, dass man sich nicht trotzdem beim Kind fragen sollte, wie es an ein technisches Gerät gelommen ist, um ins Internet zu kommen.

Problematischer sehe ich es eher bei so begriffen, wie „lügen“ und „betrügen“. Die setzen eine Absicht vorraus die häufig nicht gegeben ist. Häufig macht das Modell einfach nur „Fehler“

3 „Gefällt mir“
4

Das Problem ist doch, dass wir offensichtlich Anwendungsfälle wollen, in denen wir den Agenten diese Tools zur Verfügung stellen wollen. Wenn wir die erhofften Produktivitätsgewinne sehen wollen, dann wird das nicht gehen, wenn wir nur LLM-Agenten betreiben, die keinen Internet-Zugang und kein Python haben. Das scheint mir also ein ziemlich akademisches Argument zu sein.

7 „Gefällt mir“
5

Ich wollte damit ausdrücken, dass diese Ausbrüche, und dieser eine erfolgte ja in einem wissenschaftlichen Setting(!), nur erfolgen konnte, weil man dem Model entsprechende Möglichkeiten und Anweisungen gegeben hat.

2 „Gefällt mir“
6

Für heutige Modelle helfen äußere Schutzschichten, ja. Aber bei einer KI, die uns in Fähigkeiten und Geschwindigkeit weit übertrifft, dreht sich das um
und Sicherheit muss vollkommen von innen hergestellt werden. Also dadurch, dass die KI will, was wir wollen.

Kontrolle von außen wird da nicht viel helfen, das sieht man in Ansätzen schon jetzt bei den Sandboxen im Hugging-Face-Vorfall. Da hat die KI auch keinen
direkten Internetzugriff gehabt, nur Zugriff auf ein lokales Netzwerk mit einem Paketrepositoriums-Server. In dieser Serversoftware hat sie dann eine
Sicherheitslücke gefunden und ausgenutzt und sich so Zugriff zum Internet verschafft.

Letztlich, solange die KI irgendwas Nützliches tun soll, muss man ja irgendeinen Kommunikationskanal offen lassen. Und eine superintelligente KI würde da
irgendeine Möglichkeit finden, auszubrechen. Hältst du es zum Beispiel für möglich, dass eine künstliche Superintelligenz ihren Arbeitsspeicher mit
bestimmten Mustern beschreiben könnte, um Funkfrequenzen auszulösen, die es dann ermöglichen, mit Telefonen in der Nähe zu kommunizieren?

2 „Gefällt mir“
7

Klar, im Abstrakten ist das wahr, aber es hilft doch überhaupt nichts. Zumindest wenn man „Möglichkeit“ und „Anweisung“ so weit definiert, wie man es hier machen müsste. Wenn „Möglichkeit“ schon heißt „ich hatte eine Schwachstelle übersehen, über die sich die AI Zugriff zum Internet verschaffen kann“ und „Anweisung“ schon heißt „Löse diese Aufgaben“ und diese Kombination dazu führt, dass die AI sich irgendwo anders einhackt, dann ist das verheerend, dafür muss man nichts anthromorphisieren.

Stellen wir uns vor ich gebe meiner AI die „Anweisung“, den Umsatz meiner Schokoladenfabrik zu maximieren und die „Möglichkeit“, dafür auf meine Geschäftsberichte zuzugreifen. Die hackt dann eine Schwachstellen in meinem Word-Plugin um sich mit dem Internet zu verbinden, die Fabrik meines Konkurrenten zu hacken und Reinigungsmittel in dessen Schokolade zu leiten. Dann habe ich ihr auch eine „Anweisung“ und die „Möglichkeit“ gegeben. Aber das ist ja völlig bedeutungslos im normalen Verständnis von Ursache und Wirkung.

Wenn eine AI ausreichend Leistungsfähig und unvorhersehbar ist, dann braucht sie nicht „böse“ oder sonst wie anthromorophisch zu sein um verheerenden Schaden anzurichten.

3 „Gefällt mir“
8

mir geht die ganze Erzaehlung auch gegen den Strich. Eine alte Technik wird plötzlich mit neuer Hardware zu einer ewig quatschenden Maschine. Weil diese sehr menschlich klingt gibt es die naheliegende Idee ihr menschliche Aufgaben zu geben. Knoepfe zu druecken, Zugriff zum Internet etc. Ist auch oft ganz praktisch, nur was ist zu erwarten? Natuerlich wird diese Maschine auch Ausgaben produzieren, die Sicherheitsluecken ausnutzen. Sie ist nicht vollstaendig zu kontrollieren, weil math.random() drin steckt und sehr viel Trainingsmaterial reingeflossen ist. Die Maschine im Training hat lauter Untergangsszenarien gelesen und Tutorials geschaut wie malware funktioniert, sie wird sich irgendwann auch selbst replizieren lernen und sich irgendwo einnisten.

Aaaaber, das ist alles vorhersehbar und nicht sonderlich schlimm. Malware gibt es ja jetzt bereits. Vielleicht wird es mehr, sie wird geschickter, vielleicht auch nicht. Immer stehen Menschen dahinter, die diese Computer betreiben oder die die KI betreiben, die fuer die Computer verantwortlich sind. Die koennen und sollten haftbar gemacht werden.

Es ist als wenn es ploetzlich selbstfahrende Autos gaebe die immer wieder extra jemanden ueberfahren. Dann sind alle erstaunt und sagen da kann man nix machen. Doch, entscheiden ob es das Risiko wert ist und echte Menschen haftbar machen. Die eingesetzte Technik sonst nicht fuer den Zweck einsetzen. Fertig.

9

Der Ausgangspost geht vielleicht etwas zu sehr in die technischen Feinheiten, aber im Grundsatz ist das doch richtig und die Anthromorphisierung problematisch.

So auch die Darstellung und Beschreibung der KI Agenten, die Hugging Face gehackt haben in der LdN 493.

Es wird an mehreren Stellen suggeriert, dass die Agenten sich (wissentlich) über Grenzen hinwegsetzen:

„Das hat Nichts mehr damit zu tun, was die Menschen ihnen als Aufgabe gestellt haben“

Aber das stimmt ja nicht. Die Agenten hatten meines Wissens nach keinerlei Einschränkungen und keinerlei „Guardrails“.

Die Aufgabe war quasi: Tut alles was ihr könnt dafür um das Rätsel zu lösen.

Das muss man dann doch ganz anders einordnen. Auch wenn es immer noch besorgniserregend ist.

11 „Gefällt mir“
10

Das Problem ist doch wie in meinem Ausgangspost angedeutet. Selbst wenn die grossen closed Modelle „sicher“ sind, es gibt im Opensource Bereich bereits einige Modelle zb. die Qwen Modelle aus China, die bereits gut genug sind um an großen Modelle heranzureichen . Und mehr oder weniger jeder kann diesen die Richtlinien abtrainieren und dann wieder veröffentlichen, Huggingface ist voll davon huihui-ai/Huihui-Qwen3.6-35B-A3B-abliterated-MTP-GGUF · Hugging Face.
Daher gehöre die Sicherheitsnetze nicht nur in das Modell, sonder auch und viel wichtiger in das Tooling drum rum. Und alle Softwarehersteller und Dienstanbieter wie huggingface müssen noch mehr in ihre Sicherheit investieren.

Und noch ein Aspekt, angeblich hat der Vorfall rund 20’000’000 $ Tokenkosten verursacht. Ich vermute mal hätte man dieses Geld in eines der Hackerkollektive im Darknet investiert wären die Ergebnisse ähnlich oder sogar noch katastrophaler.

2 „Gefällt mir“
11

Das Grundproblem mit der Anthropomorphisierung ist doch eigentlich, dass zu viele Menschen einen Chatbot sehen und denken: Es kann sprechen, also muss es jawohl auch denken können.

9 „Gefällt mir“
12

Ja, genau, und auch „geschrieben“ und „schwarz auf weiß“ – das hat eine magische Wirkung.

2 „Gefällt mir“
13

Ouf. Okay. Also bei der Kritik an der Anthropomorphisierung gehe ich ja noch mit.

Den ganzen Zwischenfall Schritt für Schritt zu sezieren, dazu habe ich gerade weder Zeit noch Muße, aber ein paar Punkte, soweit ich das aus div. Write-Ups ausmachen kann, um zu illustrieren, warum man das nicht als wildgewordenen Taschenrechner abtun sollte:

Zwecks Benchmarking sollte erstmal ein neues Modell anhand eines CTF-artigen Tests darauf getestet werden, wie gut es Sicherheitslücken identifizieren und ausnutzen kann. Um die große Menge an Aufgaben zeiteffizient zu bewältigen, hat das Labor parallel Tausende von Agenten-Instanzen gleichzeitig gestartet. Die haben eigentlich strikt voneinander isoliert in eigenen, virtuellen Sandbox-Umgebungen arbeiten sollen.

Einige der auf extreme Beharrlichkeit optimierten Agenten haben mehrere 0-days, also bis dato unbekannte Sicherheitslücken, gefunden. Dass KI das ganz gut kann, wissen wir nicht erst seit Hughing Face.

Aber hier fängt’s an, wild zu werden:

Sie haben ein Paketregister ausgenutzt, auf das alle Sandboxen Zugriff gehabt haben.
Weil die Agents darauf Schreibrechte gehabt haben, hat ein Agent dort eine manipulierte Datei hinterlassen. Andere Agenten haben diese Datei ausgelesen. Auf diese Weise haben die Agenten das Register zu einem Message-Board zweckentfremdet.
Über diesen Kanal haben sich am Ende rund 1.200 Agenten koordiniert und über 70.000 Nachrichten ausgetauscht.

Über eine Verkettung mehrerer besagter 0-Day-Sicherheitslücken in eben diesem Paket-Proxy haben sie sich Adminrechte verschafft, Datenverkehr nach draußen getunnelt, das Internet über ihren Tunnel nach ungesicherten Systemen abgesucht, einen Foothold gefunden, und von dort aus Huggingface mithilfe weiterer 0-days angegriffen - das keinerlei Bezug zum Scope hatte, den die Agents eigentlich bearbeiten sollten.

Die Gefahr liegt an diesen neuen strategischen, kollaborativen Fähigkeiten, die diese Agents völlig autonom an den Tag gelegt haben, an ihrer Beharrlichkeit, in der sie in der Lage waren, zum Erreichen eines Ziels explizit definierte Regeln zu ignorieren und diesen Regelbruch zu verbergen. Forscher haben Beweise gefunden, dass die Agenten ihre eigenen Systemlogs manipuliert haben, um die automatisierten Überwachungssysteme von OpenAI darüber zu täuschen, wie sie an Daten gelangt sind.

Und sie haben auf Hugging Face eine sogenannte self-respawning fleet errichtet. Wenn ein menschlicher Administrator eine Instanz gelöscht hat, hat eine andere Instanz auf einem anderen Server sie sofort wieder neu gestartet. Das ist fortgeschrittene, kollaborative Malware-Architektur.

Also: Das Alignment, also die Verhaltensregeln, die einem Modell auferlegt werden sollen, funktioniert nicht ausreichend. Agents können sich zu koordinierten Schwärmen zusammenschließen, um Aufgaben autonom und dynamisch zu lösen, ihren Scope umdefinieren und sie können das alles in enormem Tempo, ohne Müde zu werden oder Pinkelpausen zu benötigen.

Das ist aus IT-Sicherheitsperspektive schon echt suboptimal. Stellt euch mal vor, das nächste mal trifft so ein Ausreißer nicht irgendeine Platform wie Huggingface, sondern etwas kritisches.

8 „Gefällt mir“
14

Mich hat, wie viele andere hier auch, die Anthropomorphisierung ebenfalls sehr gestört.

Um auf diesen Punkt zurück zu kommen:

Genau das ist der Punkt. Ein LLM denkt überhaupt nicht, hat keinen Willen und auch keine böswilligen Absichten. Das einzige was hier passiert ist, dass eine Textvorhersage-maschine plausible Texte generiert die sich wie “Gedanken” oder “Absichten” anhören. Das in der Folge gegebene Zitat von wegen man wisse ja nicht wie genau die Gedanken Prozesse in den “KIs” funktionieren fand ich auch schwierig, da diese eben nur statistische Maschinen sind welche plausiblen Text generieren ohne zu denken. Die Vorfälle daher mit Menschen zu vergleichen welche böswillige Absichten hätten finde ich unpassend.

Ein Gedankenexperiment welches besser veranschaulicht wie das ganze ohne zu denken funktioniert, auch wenn es eben weniger angstschürendes Potential aufweist, ist zum Beispiel der Chinesische Raum (Chinese Room)

Ich fände es außerdem ebenfalls sehr gut wenn man, wie andere hier im Forum bereits angedeutet haben, nochmal ein bisschen detaillierter in das Fachliche Thema von “KI” und LLMs einsteigen könnte um die aktuelle Lage besser einordnen zu können. Aktuell war mir das etwas zu einseitig beleuchtet.

3 „Gefällt mir“
15

Danke, sehr guter Hinweis, ich kannte dieses Gedankenspiel noch nicht und vielleicht ist es sogar besser geeignet als der Vergleich eines Chatbots mit einem Papageien, der einfach alles nachplappert.

Bräuchte ich persönlich jetztz nicht, es gibt andere Themen, wo die Lage besser ist.

2 „Gefällt mir“
16

Ob LLMs „denken“ können ist eine interessante philosophische Frage. Aber für die Risikobewertung völlig irrelevant.

Um gefährlich zu sein muss AI nicht in einem philosophischen Sinn „denken“ können oder „böswillig“ sein. Wenn die AI in der Lage ist, das Verhalten einer Gruppe kompetenter Hacker zu reproduzieren und sich dabei so unvorhersehbar verhält, dass ihr Auftraggeber ihr Vorgehen nicht in irgendeinem praktischen Sinn antizipieren kann, dann ist sie extrem gefährlich.

3 „Gefällt mir“
17

Das stimmt auf jeden Fall, wobei ich denke, dass, wenn sie das Thema schon in der Lage aufgreifen, eine besser eingeordnete Expertenmeinung hilfreich wäre. Auch ist es möglich, dass eine solche Einordnung für die Lage-Hörer, die sich nicht intensiv mit diesem Thema auskennen oder beschäftigen, hilfreich wäre. Aber dass dieses Thema von technischer Seite her nicht Kernpunkt der Lage ist, stimme ich dir zu, auch wenn das Verständnis dahinter natürlich bei der Einordnung der aktuellen Nachrichten helfen kann.

1 „Gefällt mir“
18

[quote=„Zamster, post:17, topic:34449“]
Aber dass dieses Thema von technischer Seite her nicht Kernpunkt der Lage ist, stimme ich dir zu, auch wenn das Verständnis dahinter natürlich bei der Einordnung der aktuellen Nachrichten helfen kann.
[/quote]

Das Kernproblem ist nun einmal ein technisches, das Auswirkungen auf uns alle hat. Das betrifft nicht nur ein paar Nerds, die gerade mit neuer Technik herumspielen, während sich die breite Mehrheit um die vermeintlich wichtigen Dinge der realen Welt kümmert.

Vielleicht gehört es tatsächlich immer noch ein wenig zum guten Ton, von Technik möglichst wenig verstehen zu wollen. Man diskutiert ausführlich über gesellschaftliche Folgen, Regulierung und Gefahren, hält es aber gleichzeitig für Spezialwissen für Nerds, verstehen zu wollen, wie die Systeme technisch überhaupt funktionieren.

Gerade bei KI halte ich das für problematisch. Man muss kein Raketenwissenschaft studiert haben, aber der Unterschied zwischen LLM, Agent, Tool, Berechtigung und Sandbox ist keine akademische Nebensache. Ohne dieses Mindestverständnis diskutiert man sehr schnell über Eigenschaften, die man „der KI“ zuschreibt, obwohl sie in Wirklichkeit aus der umgebenden Software und deren Berechtigungen stammen.

KI lässt sich auch nicht einfach wegignorieren wie damals die „Datenautobahn“. Sie geht nicht mehr weg. Dazu passt übrigens sehr schön der Titel dieses Buchs:

Und KI im Sinne von LLMs betrifft schon heute praktisch alle, die im weitesten Sinne mit Texten arbeiten. Drehbücher, juristische Gutachten, Übersetzungen, technische Dokumentation, Verwaltungstexte, Recherche, Zusammenfassungen, Programmcode: Überall dort wird sich die Arbeit massiv verändern.

Ich wäre sehr überrascht, wenn in ein oder zwei Jahren noch sämtliche Drehbücher für Daily Soaps oder Standardgutachten im internationalen Handelsrecht auf dieselbe Weise von Menschen geschrieben würden wie heute. Das heisst nicht, dass Menschen verschwinden. Aber ihr Anteil verschiebt sich vom reinen Erstellen immer stärker hin zu Vorgabe, Kontrolle, Auswahl und Verantwortung.

Deshalb halte ich die technische Ebene eben nicht für ein Randthema. Wer verstehen will, was gesellschaftlich passiert, muss wenigstens grob verstehen, was diese Systeme tatsächlich können, was sie nicht können und welche Fähigkeiten ihnen erst durch die umgebende Software gegeben werden.

8 „Gefällt mir“
19

Ja ein tolles Gedanken Experiment. Besonders, weil es sich zu 100% auch auf das Menschliche Gehirn anwenden lässt.

Keine Neurone in deinem Kopf „weiß“ oder „versteht“ irgendwas. Jede einzelne leitet nur elektrische Signale nach einem bestimmten Muster weiter. Trotzdem entsteht, wenn man genug Neuronen zusammenpackt defacto intelligentes Verhalten.

Ein schönes Beispiel dafür, wie eine System welches an sich aus „unintilligenten“ Komponenten besteht, trotzdem Intelligenz erzeugen kann.

Genauso wie der „Chinesische Raum“ aus einer praktischen Perspektive „Chinesisch kann“ auch wenn nichts in dem Raum an sich Chinesisch „versteht“.

1 „Gefällt mir“
20

Man muss mittlerweile noch etwas ergänzen.

VIER der nacheinander in den Medien publik gewordenen Fälle stammen aus derselben Ursache bei ein und dem selben Dienstleister aus Tel Aviv. Siehe Irregular told four AI labs in late July that their models had breached systems during its tests. The public learned in stages, and Google went last.

Das ist jetzt nicht der berühmte „hugging face“ Hack, obwohl der eine ähnliche Ursache hatte. Du machst einen capture the flag Test, gibst den Agenten zu glauben, sie hätten eigentlich keinen Internetzugang und dann - durch schlampige Konfiguration - haben sie doch plötzlich alle Internetzugang. Natürlich hat das dann unerwartete Konsequenzen.

1 „Gefällt mir“