Das Thema wurde ja hier schon vielfach diskutiert, aber ich möchte nochmal an das Lageteam appellieren, dazu eine Folge zu machen (oder wenn ihr das alles für Hype haltet, eure Logik offen darzulegen), denn ich bin wirklich alarmiert. Der Anlass für diesen Post ist dieses Szenario,
Das ist ebenso alarmierend wie plausibel, und dabei lassen die Autoren die schlimmsten Szenarios (Kontrollverlust an Maschinen, Bioterrorismus, Machtübernahme durch KI Oligarchen) außen vor.
Nur zur Erinnerung, das ist wo wir jetzt schon sind:
KI Modelle knacken mittlerweile mathematische Probleme an denen sich unsere klügsten Köpfe die Zähne ausgebissen haben (Siehe hier für eine Zusammenfassung https://scottaaronson.blog/?p=9782)
Mystral hat neue Standards für Cybersicherheit gesetzt; Firmen wie Mozilla mit mit frühem Zugang haben ihre gefundenen Hintertüren verzehnfacht.
Im meiner persönlichen Arbeit sehe ich von erster Hand, wie gut und umsichtig diese Modelle mittlerweile sind. Spätestens jetzt sollte jedem klar sein, wie sehr diese Technologie unsere Welt prägen wird. Und Europa hat da in so vielen Bereichen Aufholbedarf, von Kapital, KnowHow, Rechenzentren bis Chipproduktion und Stromkosten. UND NIEMAND IN DER DEUTSCHEN POLITIK REDET DARÜBER. In den USA gibt es Wahlkämpfe darüber, in der Schweiz feiern sie, dass sie das OpenAI Büro anstatt München bekommen haben, im UK wird oft besprochen welche Verwaltungsfunktionen sich automatisieren lassen, hier geht es komplett unter.
Ich denke die Menschen merken, das hier etwas wirklich bedrohliches kommt, und je mehr unsere Politik das unter den Teppich kehrt, desto unruhiger werden sie. Daher nochmal meine eindrückliche Bitte, das Thema in der Lage aufzugreifen.
entweder als wahnsinnige Bereicherung einer Gesellschaft und Wirtschaft (zukünftig wird KI und Robotik die Leistung erbringen und wir alle können chillen)
oder als alles Unglück dieser Welt (Zerstörung von Massen von Arbeitsplätzen, massive Fehler durch Haluzinierung, massive Befähigung von Cybercrime und Falschinformation, …) bringende Technologie.
Gefragt ist hier eine Einordnung. Wie sehen das „Experten“?
So eine Folge kann höchsten ein „work in progress“ werden. Denn zum einen ist die Entwicklung atemberaubend schnell. Zum Anderen wächst die wissenschaftliche Erkenntnis über Fluch und Segen von KI ständig, so dass man eine solche Einordnung eigentlich alle halbe Jahre aktualisieren müsste.
Wichtiges Thema, aber aus meiner Sicht immer recht schwer zu greifen.
Weiß nicht, ob das stimmt, nur weil es in Großbuchstaben geschrieben ist.
Das wäre vermutlich immer noch besser als der übliche deutsche Anti-Migrationswahlkampf oder „innere Sicherheit“ und es gibt viele KI-verbundene Themen, die politisch relevant sind (die Dimensionen gutes Leben - inklusive Arbeiten -, technologische Souveränität und Freiheit fallen mir spontan ein). KI in Wirtschaft & Behörden sollte als Thema aber mMn nicht zu sehr (bundes-)politisiert werden. Wir brauchen nicht noch ein Thema, in dem wir nicht weiterkommen, weil es populistisch aufgeladen wird (s. Klimaschutz).
Und in Deutschland trauern sie, dass sie die Intel-Fabrik nicht bekommen haben. So als Gegenbeispiel dafür, dass hier niemand über KI-Themen spreche (ja, es ist „nur“ vorgelagert in der Wertschöpfungskette). Weiß auch nicht, ob ein Büro eines US-Unternehmens so viel Aussagekraft hat, selbst wenn dort wirklich technisch entwickelt werden soll. Mehr dazu (inkl. der Info, dass OpenAI schon Büros in London, Brüssel und Dublin hat): OpenAI eröffnet Büro in der Schweiz – samt neuer Mitarbeiter | heise online
Also ich hab 5 Jahre lang KI-Begleitforschung gemacht und den Eindruck gewonnen, dass man daran nicht vorbeikommt. Alle machen irgendwas mit KI, um Forschungsmittel abzugreifen. Außerdem war mein Arbeitgeber viel mit Digitalisierung der Verwaltung beschäftigt und auch dort stand das Thema hoch im Kurs.
Insgesamt ist mir das als Thememvorschlag ein bisschen zu unkonkret. Aber führt mich mal wieder zu meiner liebsten politischen Forderung: Mehr Geld in (MINT-)Forschung, Entwicklung und Bildung investieren. Und dabei vielleicht weniger in den aktuellen Buzzword-Wettbewerb und mehr in Grundausstattung, Grundlagen und Raum für Eigeninitiative und Kreativität.
Entschuldigt die verspätete Rückmeldung und auch den leicht erregten Ton. Ich weiß nicht, ob sich einer von euch das Szenario mal angeschaut hat
aber ich würde es euch sehr empfehlen. Die Gegenüberstellung von brüsseler Beamtenmentalität und dem Silicon Valley fängt tatsächlich genau ein, was in meinen Augen gerade schief läuft.
Wir begeben uns hier in eine Abhängigkeit von den USA (bzw. China), die mMn noch deutlich gravierender seien wird als die bisherige Abhängigkeiten von Software und Chips. Das ist eine Entscheidung, die wir hier passiv treffen, ohne dass das offen diskutiert oder verstanden wird obwohl sie die wirtschaftliche Entwicklung und politische Unabhängigkeit Europas maßgeblich beeinflussen wird.
Zu den einzelnen Punkten:
Ich erhoffe mir erstmal mehr Aufmerksamkeit, aber auch eine sachliche Einordnung auf Basis derer Leute sowohl im Politischen als auch im Privaten entscheiden können wie sie damit umgehen.
Natürlich, aber das bedeutet ja, dass man um so mehr darüber diskutieren muss. Die Lösung ist sicher nicht, da den Kopf in den Sand zu Stecken und als Gesellschaft abzuwarten bis die Technologie ausgereift ist und die Amerikaner und Chinesen das unter sich ausgemacht haben. Dann ist es zu spät.
Danke fürs teilen. Ich sehe die Sachen etwas anders als der Interview Gast, der nicht zu glauben scheint, dass KI auch in den verbleibenden Bereichen ein menschliches Niveau erreicht. Aber das ist ja Teil des Diskurses, dass unterschiedliche Lager da für ihre Ansichten werben.
Nein, ich interessiere mich für die strategische Ausrichtung der Politik zu KI (können wir das hier?) und den Einfluss auf das Leben normaler Leute. Das erklärte Ziel der KI Firmen ist es, alle “Laptoparbeit” zu automatisieren. Vielleicht schaffen sie das oder vielleicht auch nicht, aber das ist ja eine Entwicklung die man mal erörtern kann. Interessant dazu finde ich auch Tokensteuern, die es vielleicht ermöglichen würden eine Teil dieser Wertschöpfung in der EU zu halten bzw. den Wettbewerb mit menschlicher Arbeit fairer machen.
In seinem Vortrag im Rahmen der Petersberger Gespräche vertritt der Philosophie-Professor Markus Gabriel die These, dass die EU auf dem Gebiet der ethischen KI noch eine Chance habe. Der Rest sei gewissermaßen zugunsten der Platzhirsche bereits gelaufen.
100%, wirklich, es ist so surreal. Ich arbeite ebenfalls täglich damit, kaum eine Zeile Code wird selbst geschrieben, geschweige denn, dass nicht ein LLM darüber schaut in einem Review.
Und was machen wir? Wir unterhalten uns über Rentenreformen, und Arbeitspolitik, insbesondere der Kanzler wir seien faul, weil wir nicht genug arbeiten, obwohl wir steigende Arbeitslosenzahlen haben. Mehr Arbeit ist schon länger nicht mehr das Thema.
Ich denke würde man einem finegetuntem Modell mal einmal die Deutschen Gesetze und Daten geben würde es ziemlich schnell ne Reform ausspucken, die dir die Probleme besser löst als die aktuelle Regierung.
Sehe ich nicht so. In der Gesellschaft in manchen Bubbles, aber wo wird in der Regierung darüber gesprochen. Höchstens mal oberflächlich mit ein paar Buzz-Words, aber ich hab noch keinen Plan gesehen, wie darauf reagiert wird, was zu tun ist, wie es gestützt werden kann und für unsere Zwecke genutzt werden kann. Ich sag mal so, Thema Digitalisierung: Aktuell könnten in null komma nichts Tools und Verfahren in Behörden entwickelt werden mithilfe von AI und die Arbeitskräfte hätte man aktuell auch. Viele MINTler finden keinen Job nach der Uni. Projekte, die vor 3 Jahren noch 5 gedauert haben, sind heute vermutlich innerhalb von 1 Jahr live.
Gesellschaftlich sehe ich bei AI, anders als Friedrich auch eher, dass wir (fast) alle weniger Arbeiten müssen, als mehr. Und dann fangen die Probleme erst richtig an. Die Menschen werden ja nicht mehr bezahlt. Das Geld stecken sich Shareholder, Unternehmer und die AI Betreiber selbst ein, müssen aber irgendwie auch wieder an die Menschen transferiert werden. Schließlich sollen die ja weiter konsumieren… Solche Fragen sehe ich nirgends bzw. nur sehr nieschig diskutiert - betreffen aber die gesamte Gesellschaft. Und das sehr disruptiv.
Nenne mir ein deutsches Unternehmen, das bereit ist, Milliarden an Risikokapital in die Hand zu nehmen. Die Politik kann da wenig tun, wenn unsere Wirtschaft gar nicht gewillt ist, mit den USA in den Wettbewerb zu treten.
Ja danke fürs teilen. Ich kannte den Sprecher nicht, aber er scheint ja zu einem sehr weiten Feld von Dingen sehr dezidierte Meinungen zu haben. Ich kann das nur bei den Quantencomputern selber einordnen, und da ist seine Analyse komplett unsinnig (quantum supremacy 2019 sagt nichts über den Wettbewerb mit den USA aus).
Wir sind sicherlich weit hinten bei KI, die Frage ist ob wir versuchen zumindest ein fast follower zu werden und eigene Infrastruktur aufzubauen, und vielleicht dann irgendwann gleich zu ziehen. “Ethische KI” halte ich für eine Luftnummer, es wird primär um Fähigkeiten und Kontrolle (Alignment), beides sehr umkämpfte Forschungsfelder.
Gerade beim Arbeitsmarkt oder der Umverteilungen von KI Gewinnen habe ich wirklich das Gefühl, dass die Politik (und viele Bürger) hier einfach den Kopf in den Sand stecken, weil es zu unangenehm ist sich mit diesen Szenarien auseinander zu setzen.
Es wird schin viel über KI besprochen. Was im öffentlichen Diskurs aber schonmal fehlt ist eine Trennung zwischen KI, ML und LLM.
Es gibt durchaus Chancen, so hat die EU zB Maschinen teilweise aus dem Anwendungsbereich der KI Verordnung genommen (Warum der Maschinenbau die KI-Ausnahme nutzen muss, leider Paywall) was für den europäischen Maschinen und Anlagenbau eine große Chance darstellt.
Was es aus Europa ziemlich sicher nicht geben wird ist ein Allzweck-LLM wie ChatGPT. Das hat aber mit mangelnder Aufmerksamkeit nichts zu, sondern wchlicht mit der fehlenden Investitions- und Risikobereitschaft bei ins.
Das ist ein guter Punkt, und solche “Machinen KI” ist auch ein großes Thema in dem Szenario.
Das ist genau mein Punkt, von alleine sehe ich nicht, dass das hier passiert. Das würde sehr viel politische Unterstützung erfordern, um auch nur eine Chance zu haben.
Die Frage ist, was sind die Folgen KI hier nicht zu entwickeln? Das Szenario legt nahe (und ich sehe das auch so), dass dies viel gravierender werden wird, als manchen das klar ist.
Man kann trotzdem sagen, dass es besser ist da einfach nichts zu unternehmen (großer Fehler mMn), aber das sollte eine bewusste Entscheidung sein, die sich der Nachteile bewusst ist. Daher ist es auch so wichtig, dass das hier mal besprochen wird.
Wir bekommen es im Moment nicht mal hin Softwareprodukte auf einem hohen Niveau in Sachen Usability und Sicherheit zu bauen. Und Geld ausgeben will dafür auch niemand wirklich
Wie das mit Machine Learning und LLM aussehen soll, keine Ahnung. Das ist ein Forschungszweig, wo wir viele Lehrstühle und Studenten brauchen. Ich weiß nicht mal wie gut wir im Vergleich dastehen.
Und dann muss auch jemand das Problem erkennen und Gelder müssen dahin wandern, wo es für die Entwicklung gut eingesetzt wird.
Und das Moral und Ethik gleich über Bord geworfen werden ist auch ein riesiges Problem.
Ich habe die Story auch gelesen und generell denke ich auch dass man hier im Sinne der Autonomie und aufgrund strategischer Erwägungen europäisch denken und handeln müsste. Vielleicht wäre eine Art KI-Airbus denkbar? Auch die impliziten Forderungen nach Investmentscreening, erweiterter internationaler Kooperation mit Staaten jenseits der USA und dem Aufbauen strategischer Hebel würde ich sofort unterstützen (z.B. könnte ASML ja Lieferungen in EU-Länder priorisieren und wenn die Chips dann in EU-Rechenzentren fließen gleich doppelt). Und mehr Wagemut würde ich mir seitens der Kommission / nationalen Politik auch wünschen.
Ich glaube jedenfalls, dass man die Prämissen der Geschichte aufrollen und einordnen sollte:
Es kommt bei KI zu einem selbstverstärkenden Lerneffekt, der auch keinerlei Ende findet. Ist vermutlich schwierig von außen zu beurteilen ob das eine S-Kurve ist bzw. selbst wenn, wo das Ende ist.
Die Entwicklung findet primär zentral in den großen KI-Unternehmen statt und Profite akkumulieren sich dort (im Gegensatz zu anderswo in der Wirtschaft und verteilter auf mehrere Unternehmen)
Offene Modelle werden verboten
China greift Taiwan nicht an (wenn China Taiwan angreift können im Endeffekt nur sehr sehr wenig weitere Chips gebaut werden, China könnte eigene Lithografietechnik weiter entwickeln)
Die EU arbeitet nicht mit China zusammen. Und auch nicht mit dem Rest der Welt.
Soziale Unruhen, Proteste etc. ändern an der Entwicklung nichts
Am Ende hat eine Künstliche Superintelligenz (Vermutung meinerseits) alles übernommen - also wozu ärgern?
Da kann man schon an viele Punkte ein Fragezeichen machen. Und unter all diesen Prämissen, stellt sich für mich die Frage, ob die klügere Strategie nicht wäre im großen Massstab marktgewichtet die 50 größten US-Unternehmen oder die 10 Top-KI-Unternehmen zu kaufen bzw. ob man damit nicht mehr Hebelwirkung erhält.
Die EU scheint doch eher abhängig und abgehängt zu sein:
Einer der radikalsten Gedanken, die seit einigen Wochen in Berlin kursieren, klingt zunächst nach Spinnerei: Könnte Anthropic nicht nach Europa umsiedeln? Der SPD-Digitalexperte Matthias Mieves schrieb schon im Frühjahr an Ursula von der Leyen, Friedrich Merz, Vizekanzler Lars Klingbeil und Digitalminister Karsten Wildberger, Anthropic stehe »unter existenzbedrohendem Druck der US-Regierung«. In einem Papier von ProjectTogether, einer gemeinnützigen Organisation, die Ideen aus der Zivilgesellschaft in die Politik trägt, wurde ausformuliert, was dafür alles nötig wäre: Zugang zu Rechenleistung, Nachfragegarantien im zweistelligen Milliardenbereich, beschleunigte Visa-Verfahren, weniger Bürokratie.
Realistischer dürfte ein Ansatz sein, den Philip Fox, KI-Sicherheitspolitik-Experte bei der unabhängigen Berliner Denkfabrik KIRA Center »gemanagte Co-Abhängigkeiten« nennt: Europa wird nicht über Nacht ein zweites Silicon Valley, aber es kann Bedingungen stellen, wenn Teile der KI-Wertschöpfungskette nicht ohne europäische Unternehmen auskommen. Ohne die Lithografiemaschinen von ASML und Spezialoptiken von Zeiss würden schon heute kaum noch moderne Chips gebaut. »Das müssten wir stärker ausspielen«, sagt Fox: nicht als Drohung, sondern als Verhandlungsmasse – bei Exportregeln oder vertraglich abgesichertem Zugang zu KI-Modellen.
Fox gehört zu den Autoren des Szenariopapiers »Europa 2031«, das vergangene Woche erschien – drei Tage bevor Washington den Zugang zu Mythos sperrte. Darin zeichnen die Autoren ein düsteres Bild für den Fall, dass alles so weitergeht wie bisher: Europa verliert Zugang zur besten KI, kann Sicherheitslücken nicht mehr beheben, Schlüsselindustrien und Jobs wandern ab. »Da hat uns die Realität eingeholt«, sagte Fox am Montag. »Unser Szenario sieht jetzt schon fast konservativ aus.«
