Nachdem immer mehr Möglichkeiten entwickelt werden, Bilder, Texte, Ton und (vermutlich schon bald?) Videos mit simplen Prompts zu erstellen, frage ich mich, was das für die Zukunft von Gerichtsverfahren, Journalismus und unserem Zusammenleben bedeutet.
Dank der stetigen Weiterentwicklung von GPT-3 und anderen Modellen zur Texterzeugung wäre es vermutlich nahezu trivial, z.B. umfangreiche Akten und Korrespondenz zu fälschen. Bilder, die entsprechende Situationen belegen, spucken Midjourney und Konsorten aus, ggf. ergänzt durch passende Videos. Hier und da noch ein Mitschnitt eines nie geführten, aber stimmlich identischen Telefonats, und schon kann man quasi jeder Person jeden beliebigen Skandal anhängen.
Falschaussagen vor Journalisten oder Gerichten sind natürlich nichts Neues, aber ich könnte mir vorstellen, dass die Qualität und Quantität in naher Zukunft ganz neue Dimensionen erreicht.
ich finde das auch ein Interessantes Thema. Eine ausführliche Übersicht (auf Englisch) wurde hier (Deepfakes are going to tear the world apart | Kialo) bereits angefangen. Das Hauptgegenargument scheint zu sein: „Society will develop more advanced deepfake detection so that we always know whether media is natural or faked“, also zu Deutsch: „Wir werden einfach bessere DeepFake-Detection entwickeln müssen.“
und der Hinweis des „Club of Rome Report“, dass wir gesellschaftlich ein grosses Problem haben bei der Unterscheidung von Fakt und Fiktion ( Querdenker/Klimaleugner/Rechtspopulisten) :
einfach mal fake news und arte bei YT eingeben:hugs:
Hi,
wir hatten auf der Remote-Ersatz-Jahresendveranstaltung des CCC eine sehr interessante Referentin - Mela Eckenfels. Ich durfte ihren Beitrag moderieren.
Sie stellt den historischen Kontext zu Fake News und Falschinformation dar und das war insofern einmal anders, als nicht nur die Falschinformationen im Zusammenhang mit Covid und Trump im Fokus standen, sondern es ging los bei Cassius Dio über Kleopatra, John Metthews (Sklavenhandel), Teares of Ireland etc.pp.
Und Tenor ist, dass wir nicht unbedingt ein Problem mit den Tools unserer Zeit haben.
Leider wird der Stream nicht auf media.ccc.de verewigt sein, denn mittendrin brach die Technik zusammen.
Aber ich persönlich fände es cool, wenn Ulf und Philip Mela mal zum Interview einladen.
Weitere Links: Notion – The all-in-one workspace for your notes, tasks, wikis, and databases. https://mela.eckenfels.net/
Beste Grüsse - Sylvia
