Letzte Woche wurde von Antropic das Project Glasswing bekanntgegeben. Dabei geht es darum, dass deren neues Modell Mythos erhebliche Schwachstellen in allen möglichen Systemen gefunden hat und deswegen vor der Öffentlichkeit erstmal ein Konsortium aus IT Security Firmen Zugriff bekommt.
Mich würde mich freuen wenn ihr dazu eine Einschätzung im Podcast machen würdet. Aber natürlich auch gerne hier.
Logbuch Netzpolitik (Podcast Linus Neumann und Tim Pritlove) berichtet ausführlich darüber.
Beängstigend
Danke für den Tipp.
Bei Hard Fork haben sie auch schon ausführlich darüber gesprochen. Anthropic’s Cybersecurity Shock Wave + Ronan Farrow and Andrew Marantz on Their Sam Altman Investigation + One Good Thing - Pocket Casts
Was genau ist für Sie beängstigend?
Dass es offenbar Sicherheitslücken gibt? (Was unweigerlich bei Softwareentwicklung passiert, aber man natürlich sein bestes tut um sie zu schließen)
Oder dass eine „AI“ solche Dinge sehr effizient zu finden scheint?
Grundsätzlich bin ich eigentlich immer beruhigt, wenn Sicherheitslücken gefunden werden oder besser gefunden werden können. Das Vorgehen ist da auch recht löblich.
Selbst Claude Opus und Co finden auch jetzt schon recht viele Sicherheitslücken. Und viele Softwareunternehmen sind ja auch schon fleißig dabei sie Mithilfe dieser Tools zu schließen. Ein bisschen ist es ein Wettlauf gegen die Zeit, aber grundsätzlich muss man nicht mehr Angst haben als früher.
Solange wir noch beim Fehler finden und fixen sind, ist das gut. Aber es wird ja nicht lang dauern, bis Leute es nutzen, die wenig Gutes im Sinn haben.
Wer die Tech-Szene in den USA aufmerksam beobachtet. Karp, Thiel, Altman, Zuckerberg % Co., dem macht die aktuelle Entwicklung Sorge.
Ja, verstehe die Sorge.
Und das ist ja nie anders gewesen. Diese Möglichkeiten werden immer gerne auch missbraucht und ist im Grunde seitdem so, seitdem es das Internet gibt.
AI ist da allerdings wieder mal ein Katalysator. Man bemächtigt vor allem mehr Menschen dazu (egal ob ‚gut‘ oder ‚böse‘) Algorithmen zu programmieren/verändern.
Die neuen Agenten sind gerade dabei, großes Potenzial zu entwickeln. Das ist neu.
Und auch die Entwicklung vom Silicon Valley ist relativ neu.
In diesem Fall hat die KI allerdings anscheinend in vielen Fällen gleich noch ein Exploit geschrieben, das diese ausnutzen kann.
Wenn OpenAI das kann, dann können es vielleicht auch andere.
Und wenn OpenAI das kann, ist es nur eine Frage der Zeit, bis amerikanische Geheimdienste das nutzen dürfen.
Amerikanische Geheimdienste sind völlig irrelevant, weil die ohnehin zig Sicherheitslücken nutzen oder durch Microsoft selbst beispielsweise eingebaut sind. Eher ist das schlecht für diese, weil andere auf die großen Unternehmen schauen können, um das offen zu legen, zu verhindern oder im negativen Fall selbst nutzen.
Übrigens geht’s hier um Anthropic die auch gerade im Streit mit der Regierung sind bezüglich der Anwendung. OpenAI ist gerade recht abgehängt.
Das Problem ist da eher die Masse und die Geschwindigkeit der potentiellen Angreifer. Diese Möglichkeiten haben die Verteidiger allerdings auch.
Karp, Thiel, Altman, Zuckerberg & Co nutzen allerdings keine 0-day-exploits, sondern ihre Produkte und Dienstleistungen (und damit auch die Nutzer) werden durch 0-day-exploits angegriffen. Wenn diese Lücken KI-unterstützt aufgedeckt werden, können sie geschlossen werden. Das ist grundsätzlich vorteilhaft.
Was ich auch sehr problematisch finde ist, dass im Project Glasswing keine deutsche Unternehmen wie Simens oder AVM beteiligt sind.
AVM (inzwischen Fritz) ist ein absoluter Zwerg in der IT-Welt, auch wenn sie in Deutschland Marktführer für Endanwenderrouter sind.
Siemens ist nicht dabei, weil sie im OT statt IT Feld aktiv sind. Es sind auch keine vergleichbaren internationalen Unternehmen dabei. Das könnte tatsächlich kritisch sein, weil große Infrastrukturbereiche besonders vulnerabel sind. Ich vermute aber, dass dieser Bereich einbezogen werden wird, falls Glasswing mehr als Marketing ist.
Und jetzt das hier. Headline etwas übertrieben aber naja.
Und hier das Ganze mit weniger Übertreibung.
Der Bloomberg Artikel, auf den sich vermutlich beide beziehen, ist leider hinter einer Paywall. Ich bin aber geneigt eher den Leuten von Golem zu glauben.
Scheint doch nicht übertrieben, Mozilla hat 271 Lücken in Firefox mit Mythos Preview gefixt.
Die Übertreibung war, dass durch den “unerlaubten” vorzeitigen Zugriff einiger Weniger jetzt die europäischen Banken zittern müssen, und nicht wie gut oder schlecht Mythos ist.
Ich sage nur “big beautiful tarrifs”. Da hat Donald Duck wieder ein Epressungsmittel.