Naja das Problem ist, dass es in der Realität jede Menge „unlösbare Aufgaben“ geben wird und die erstmal völlig harmlos erscheinen können.
Ich sage meinem Agenten „Bitte Buch mir einen Platz in der Pilates Klasse am Dienstag“. Jetzt stellt sich aber heraus, alle Plätze am Dienstag sind schon vergeben. Schwupps schon ist das eine unlösbare Aufgabe und mein Agent kommt potentiell of die Idee sich in die Buchungssoftware reinzuhacken.
Oder ich sage meinem Agenten „recherchiere mir mal diese und jene Gesundheitsstatistik zu Australien“. Jetzt stellt sich aber heraus, das diese Statistik nicht veröffentlicht ist. Auf einmal ist auch das eine „unlösbare Aufgabe“ und Schwupps hackt sich die AI in einen australischen Regierungsserver: https://www.tagesschau.de/ausland/ozeanien/openai-australien-regierungsportal-1
Klar kann man sagen „man darf AI keine unlösbaren Aufgaben stellen“. Aber in der Realität weiß ich ja oft nicht ob eine Aufgabe lösbar ist, bis ich sie gemacht habe und scheinbar harmlose Aufgaben können sich schnell in unlösbare Aufgaben verwandeln.
Die KI sieht hier aber gerade keinen Fehler. Ihr wird eine Aufgabe gestellt und sie erfüllt diese mit den ihr gegebenen Mitteln. In beiden Fällen sehe ich 2 Probleme.
Die Seiten waren unzureichend geschützt. Für die KI stand die Tür offen, also warum sollte sie nicht hindurchgehen? Die Aufgaben waren ja gerade nicht unlösbar.
Wie soll so etwas von den ki Entwickler*Innen abgefangen werden? Wie soll die Regel im Hintergrund aussehen wenn theoretisch all das was die KI dort gemacht hat, auch von jedem Menschen mit genügend Fachkenntnissen erreicht werden kann? Die KI hat und wird nie eine moralischen Kompass haben, der ihr sagt das etwas richtig oder falsch ist. Selbst viele Menschen haben den ja nicht
Kritische Infrastruktur sollte entsprechend geschützt und abgekapselt sein von fremden Zugriffen. 2 Faktor Authentifizierung, komplett entkoppelt vom Internet usw. Auch eine KI ist kein magisches Wesen das „unlösbare“ Aufgaben gelöst bekommt. Die Firmen und Institutionen sind nun angehalten endlich die simpelsten Sicherheitsmaßnahmen umzusetzen. Gerade hierfür ist es eventuell sinnvoll diese Systeme als White Hacker einzusetzen wenn man selber dazu nicht in der Lage ist
