Feedback Anthropic Mythos

Cybernation
1

Hallo, erst einmal vielen Dank für den Podcast Cybernation.

Meiner Meinung nach habt ihr beim Thema Anthropic leider die politische Seite nicht ausreichend beleuchtet. Das Problem, was ich sehe ist, dass Software-Entwickler ihre Software von der KI prüfen lassen und hoffen, dass die KI wirklich alle Lücken, welche die KI findet auch wirklich den Entwicklern meldet. Ich kann mir aber auch Vorstellen, dass die US-Regierung irgendwann auf die Idee kommt, dass das Pentagon vorab entscheiden darf, ob die Lücke zurückgemeldet wird oder nicht. Dies macht mir die größte Angst. Stellt euch mal vor, die KI findet in OpenSSH oder iptables usw eine Lücke, welche sie nicht uns melden sondern dem Pentagon. Damit hätte die USA Zugriff auf nahezu allen Server die im Internet hängen.

2 „Gefällt mir“
2

Sowas ähnliches ist ja auch schonmal passiert:

2 „Gefällt mir“
3

Warum sollte die gleiche Lücke im Anschluß niemand finden können (mit dem gleichen oder einem anderen Modell)?

4

Welches anderen Modell denn? Kennst Du ein Europäisches? China würde die Lücke ja vermutlich auch nicht öffentlich machen.

1 „Gefällt mir“
5

Nach allem, was man aus der IT hört, ist Mythos zweifellos ein gutes Modell. Die Geschichte, dass es quasi über Nacht alle möglichen Sicherheitslücken gefunden hat, ist allerdings eher ein kluger PR-Gag.

Anscheinend hat das Modell die Lücken zwar gefunden, aber dafür hat Anthropic das Programm mit großem Ressourcenaufwand über längere Zeit laufen lassen. Natürlich findet man da etwas.

Mit genügend Ressourcen können auch mit anderen gängigen Modellen viele dieser Lücken gefunden werden. Das ist keine Fähigkeit, die Anthropic exklusiv hat.