Wie in der aktuellen Debatte zwischen Anthropic und dem Pentagon zu sehen, ist KI ein essenzieller Bestandteil von Sicherheitsarchitektur bzw. modernen Armeen.
In Deutschland/EU - so erscheint es mir zumindest - ignorieren wir diesen Teil bei der Debatte um den Ausbau der deutschen Verteidigungsfähigkeit relativ stark. Klar wird mal hier und da über “Project Glasswing” gesprochen, aber während die USA 100 Milliarden alleine im “Stargate” Projekt in Datacenter investiert, geben wir in Deutschland 100 Milliarden für neue Panzer, Jets und Co. aus, was allerdings ohne AI Optimierung wahrscheinlich nur "extrem teure Zielscheiben” sind. Um ein vereinfachendes Beispiel zu geben: Ein Jet der in Echtzeit alle Sensordaten mittels KI auswerten kann und darauf basierend autonom Entscheidungen trifft, wird jeden noch so guten Piloten in einem Eurofighter vom Himmel holen.
Und auf Mistral als einziges Europäisches KI Unternehmen zu setzen, fühlt sich für mich an wie beim Pferderennen mittendrin einzusteigen und auf das letzplatzierte Pferd zu wetten.
Studien zeigen: KI skaliert vor allem mit Modellgröße/Trainingszeit (was sich in Datacenter übersetzt) und gute Daten. Wenn wir nicht heute anfangen Datacenter zu bauen und unsere Daten-Souveränität wiederzuerlangen, geben wir meiner Meinung nach unser 100 Milliarden Budget an der falschen Stelle aus.
Was verstehst du unter KI? Nur weil Mistral das einzige konkurrenzfähige öffentliche LLM in Europa hat, sind sie noch lange nicht das einzige KI-Unternehmen. Sie wären noch nicht mal das einzige europäische Unternehmen, das KI fürs Militär entwickelt, wobei ich nicht weiß ob Mistral das überhaupt tut.
Ich meine mit KI in diesem spezifischen Fall tatsächlich LLMs. Natürlich gibt es eine Reihe spezialisierter KIs für andere Use Cases, aber ich wollte explizit die Anthropic-Pentagon Debatte anführen, um zu zeigen, dass LLMs - genauso wie spezialisierte Systeme - entscheidend sind für ein effizientes Militär, weil die Informationsverarbeitung auf einer höheren Ebene damit viel schneller stattfinden kann.
Außerdem sind LLMs extrem gut im Software bauen. Wenn Europa kein LLM hat, das gut genug darin ist, Software für die Rüstungsindustrie zu bauen, müssen wir uns im Rennen um die technologische Waffenhegemonie an US Unternehmen halten, bei denen wir in Kauf nehmen müssen, dass deren proprietäre Modelle eine ‚Black Box‘ bleiben. Wir verlieren die Kontrolle darüber, nach welchen moralischen oder strategischen Prioritäten diese Systeme im Ernstfall filtern oder entscheiden. Echte militärische Souveränität gibt es nur mit eigenen Basismodellen.
Ähm. Der Build-Prozess ist seit Jahrzehnten stark automatisiert. Da sehe ich wenig Optimierungspotential durch LLMs. Das läuft entweder zeitgesteuert (z.B. jede Nacht, mitunter auch noch öfter), oder auf Knopfdruck (im Sinne von Fire and Forget).
Du meinst sicher, gut im SW schreiben. Das stimmt aber nur für vergleichsweise einfache Aufgaben - für Aufgaben, die man gerne an neue Kollegen delegiert, damit sie sich mit dem Thema und dem im Team üblichen Programmiervorgaben vertraut machen können. Jenseits einer bestimmten Komplexität stimmt das aber nicht mehr: LLMs sind einfach schlecht dabei, Aufgaben umzusetzen, die selten in ihren Trainingsdaten auftauchen.
Also mir ging’s nicht um die Begrifflichkeiten, sondern darum, dass (fast) kein Software Entwickler heute ohne die Hilfe von LLMs arbeitet. Auch für das erstellen von Unit Tests oder Überprüfung von Code auf Sicherheitslücken kann man LLMs hervorragend nutzen, auch wenn man nicht jede Zeile Code von der KI schreiben lässt. Ich denke der Effizienzgewinn sollte hier hoch sein. Aber ich kenne mich tatsächlich nicht mit Softwareentwicklung in der Rüstungsindustrie aus, also wenn Sie hier spannende Insights haben, würde mich das interessieren.
Der Artikel beginnt mit „Was die gehackten Signal-Chats für den Bundestag bedeuten […] Signal gilt eigentlich als besonders sicher und wird auch von Politikern genutzt - doch nun wurden offenbar mehrere Konten gehackt.“ Das steht wohl sinnbildlich für die desolate Digitalkompetenz in Deutschland.
Signal wurde nicht gehackt! Weder die App noch das verwendete Verschlüsselungsprotokoll sind in irgendeiner Form gefährdet.
Was der Bundestagspräsidentin Klöckner und vor ein paar Wochen auch einem ehemaligen BND-Vizechef(!) passiert ist, ist, dass sie auf eine Phishing-Nachricht hereingefallen sind. In der Nachricht wird nach der privaten PIN für den Signal-Account gefragt und die Betroffenen haben diese weitergegeben und damit den Angreifern die Kontrolle am Account überlassen.
Von kostenlosen Produkten kann nicht mehr erwartet werden. Mindestens die Telefonnummer muss offengelegt werden und da ist die Schwachstelle des Systems.
Ich verwende Threema selbst auch, aber der Artikel ist selbstverständlich auf eine positive Darstellung Threemas aus. Genannte Maßnahmen (Vertrauensstufen, einschränken/deaktivieren der Auffindbarkeit durch Fremde) gibt es auch bei Signal.
Das stimmt so nicht. Es gibt auf den Protokollen Matrix oder XMPP basierende Messenger, die zb ebenfalls ohne Telefonnummer auskommen. Signal ist mittlerweile komplett über Usernamen nutzbar.
Es stimmt, dass die Verwendung von Handynummern ein Datenschutzrisiko sein kann und grundsätzlich nicht so datensparsam ist wie anonyme Accounts zb von Threema. Ein wichtiger Punkt ist aber, dass Messenger und soziale Netzwerke nur funktionieren, wenn sie von vielen genutzt werden. Die Nutzung und Verbreitung wird durch den Identifier Handynummer vereinfacht. Es bringt einfach nichts, dass Threema ohne die Nutzung von Handynummern noch datenschutzfreundlicher ist, wenn die App einfach niemand nutzt. Ich habe zum Beispiel freiwillig meine Email-Adresse und meine Handynummer mit meiner Threema-ID verknüpft, um einfacher auffindbar zu sein. Trotzdem habe ich auf Threema nur Kontakt zu zwei Personen, während es auf Signal deutlich mehr sind. Dazu kommt wie gesagt, dass Signal auch mit Usernamen statt Handynummer funktioniert.
Danke für die ausführliche Bewertung. Da habe ich dazugelernt. Ich frage mich nur, was man von einem kostenlosen Produkt erwarten kann. Mit irgendwas muss Signal ja Geld verdienen. Meine Vermutung wäre gewesen, dass die über die Handynummern die Vernetzumg von Petsonen einschl ä. Der dahinter liegenden Identität darstellen und verkaufen? Wovon lebt Signal? Threema Nutzer gibt es zu hauf in den Bereichen, die Sicherheitsaffinität im Geschäftsstelle haben. Vielfach insbesondere THW und Bundeswehrangehörige. Für das THW gilt dies Set Einführung der THW-Bundesapp “Hermine” dann nicht mehr.
Die Finanzierung von Signal basiert nach Aussage der Signal Foundation rein auf Spenden und Zuwendungen. Was du vermutest wäre ein klarer Verstoß gegen alle Versprechen, die Signal den Usern macht.
Hier sollte man sich eingängig mit OpenSource beschäftigen, um diese Frage zu beantworten.
Es gibt eben sozialistische Ideen die durchaus funktionieren, weil Idealisten gemeinsam an eine Sache glauben und dafür in ihrer Freizeit arbeiten - und kapitalistische Unternehmen hier die Möglichkeit sehen frei von Lizenzkosten an gute Software zu kommen und darum die Entwickler zusätzlich finanziell und mit Man-Power unterstützen (und damit sogar individuelle Bedürfnisse berücksichtigen können).
Wer sich mal informiert, was individuell angepasste Software normalerweise kostet, erkennt den Wert von OpenSource. Denn der Quellcode liegt offen. Mit nur wenig Aufwand kann der Nutzer Anpassungen einbauen und die Software auf seine Bedürfnisse zuschneiden. Diese können dann als sogenannte Forks (ausgegliederte Varianten) der Öffentlichkeit wieder zur Verfügung gestellt werden, wodurch auch hier gemeinsam gearbeitet werden kann, zum Beispiel verschiedene Unternehmen mit gleichen Interessen.
Alles richtig, aber nur der Vollständigkeit: die größten OSS Contributoren sind die großen Tech Companies selbst. Der Großteil der offenen ML und Data Libraries stammt nicht von Freiwilligen, sondern wurde von Big Tech an die Community gegeben. Auch ein Teil der großen, offenen LLM stammt von denen. Meta veröffentlichte bspw. die Gewichte von Llama Modellen, Google die kleineren Exemplare seiner Gemini-Modelle.
Es ist absolut nicht so, dass Unternehmen für Open Source gar nichts tun. Im Gegenteil, viele Tech Firmen tun sehr viel dafür. Ebenso wie Consultants , die sich mit Open Source Contributions einen Namen machen (bspw. Paiqo) oder solche, die mit Open Source ein Produkt in die Welt werfen bei dessen Implementierung sie dann unterstützen (bspw. Tiangolo, der Macher von Fastapi).
Open Source ist keineswegs mehr allein der findige Civil Developer, der nach Feierabend mal eine Stunde investiert. Stattdessen ist es ein ganzes Ökosystem verschiedenster Personen, Firmen, Stiftungen und Motivationen.
Also gerade wenn wir KI auf LLMs einschränken, macht die Forderung nach mehr politischer Führung für mich keinen Sinn.
Die komplette Industrie versucht gerade händeringend Businesscases für LLMs zu finden und selbst in Branchen wo der Einsatz bereits recht hilfreich erscheint, wird nach wie vor erst ausgelotet, ob und wie sich das wirtschaftlich am besten nutzen lässt.
Die Erwartung Politik könne hier bereits gestaltend tätig werden, traut den Politikern definitiv zu viel zu. Konkrete Anforderungen müssen auf jeden Fall von der Bundeswehr kommen. Für den Fall dass bei einer Ausschreibung dann keine europäischen Produkte gefunden werden, muss im Einzelfall das Risiko gegen den Nutzen abgewogen werden. Also vergleichbar mit den amerikanischen Jets. Im Bezug auf Palantir scheint das ja bereits so ähnlich gelaufen zu sein.
Ich kann gut nachvollziehen, dass man solche Entscheidungen als Bürger bei demokratischen Entscheidungsträgern verortet sehen möchte. Vor allem bei der Bundeswehr bekomme ich da aber enorme Bauchschmerzen.
Kann mich noch gut erinnern wie damals das Thema bewaffnete Drohnen vom Kabinett zerredet wurde. Jetzt steht man vor vollendeten Tatsachen und hat keine.
Was verstehst du unter KI? Nur weil Mistral das einzige konkurrenzfähige öffentliche LLM in Europa hat, sind sie noch lange nicht das einzige KI-Unternehmen. Sie wären noch nicht mal das einzige europäische Unternehmen, das KI fürs Militär entwickelt, wobei ich nicht weiß ob Mistral das überhaupt tut.