Im Zeitalter der KI ist keine Bild- und Tonaufnahme mehr glaubwürdig

Anlass ist dieser Bericht auf ZON, aber der Grundgedanke beschäftigt mich schon seit einiger Zeit: Dresden: Staatsschutz ermittelt nach gefälschten "Tagesschau"-Audios bei Demos | ZEIT ONLINE

Von Seiten der technologischen Entwicklung sind wir inzwischen auf dem Stand, dass

  • Texte vollautomatisch und in beliebiger Menge in einer Qualität erzeugt werden können, die von einem menschlichen Autor meist nicht mehr unterscheidbar sind. Diese Texte können zudem im „Stil“ eines Mediums oder eines bestimmten Autors generiert werden.
  • Tonaufnahmen von Menschen mit viel öffentlichem Referenzmaterial (Politiker, Journalisten, Promis) können (mit ein wenig Aufwand) in einer Qualität gefälscht werden, die bei normalem Zuhören nur mit sehr viel Aufmerksamkeit vom Original zu unterscheiden ist.
  • Bilder können (mit ein wenig Aufwand) in einer Qualität gefälscht werden, die bei flüchtigem Anblick (etwa auf Social Media) überzeugend erscheint. Die Geschwindigkeit der technischen Entwicklung legt nahe, dass die nächsten Qualitätssprünge hier Monate, nicht Jahre dauern werden.
  • Videos sind noch weitgehend vor künstlich generierten Fälschungen (die auch überzeugen) sicher. Ich schätze, da ist der kritische Punkt noch 2-3 Jahre weg.

Schon heute läuft diese Konstellation darauf hinaus, dass man im Prinzip keiner Text-, Ton- oder Bildreproduktion mehr glauben darf, die nicht in irgendeiner Form verifiziert ist. Das Bild des Lokalpolitikers mit einer angeblichen Geliebten? Gefälscht. Der Nachbar, der illegal Müll im Umweltschutzgebiet verklapp? Gefälscht. Das wunderschöne Bild einer Schleiereule im Mondschein? Gefälscht. Der Regierungssprecher, der etwas kontroverses sagt? Gefälscht. Jedenfalls bis die Echtheit bestätigt wurde.

Aber wer bestätigt sie? Hier müssen völlig neue Dynamiken des Medienkonsums und der Produktion von Inhalten entwickelt werden. Diese Verantwortung allein auf die Medien selbst abzuschieben greift zu kurz. Die gesellschaftliche Erwartungshaltung muss sein, dass auch Konsumenten grundsätzlich eine gesunde Skepsis mitbringen, wenn angeblich etwas seltsames, verstörendes oder illegales dokumentiert wird. Und das bringt wieder ganz eigene Probleme mit sich.

6 „Gefällt mir“

Siehe dazu auch die Diskussion in (ab Beitrag Nummer 4):

1 „Gefällt mir“

Ich sehe da auch eher schwarz. Wir haben bei der Digitalisierung und der Web2-Welle schon viele Teile der Bevölkerung verloren. Das Ergebnis sieht man an der erschreckenden Leichtgläubigkeit bei allem, was durch Social Media Feeds und WhatsApp-Gruppen schwappt.

Das wird so schnell nicht besser werden.

Ich sach mal, 25% der Menschen im Land sind schlicht lost.

3 „Gefällt mir“

Und falls ihr glaub, ihr wisst es besser, macht gerne mal nen Test: https://der-newstest.de

2 „Gefällt mir“

Der Test ist ganz spaßig, aber ich finde es ein bisschen problematisch, wie da bestimmte Werturteile in ein binäres „falsch/richtig“ eingeteilt werden.

Immerhin habe ich jetzt gelernt, dass die Frage, ob es meine Freund:innen interessiert, nicht wichtig dafür ist, ob ich bestimmte Nachrichten weiterleite. Das nächste Mal, wenn sie sich beschweren, zugespammt zu werden, kann ich offiziell auf die BPB verweisen!

1 „Gefällt mir“

Noch viel sachlicher: in einer Frage muss man sich entscheiden, ob die Position von Frau Merkel zu regionalen Strukturen in der Fleischproduktion wichtig für die Gesellschaft ist.

Spätestens seit sie nicht mehr Kanzlerin ist, ist ihre persönliche Meinung gänzlich unwichtig. Und auch als Kanzlerin wäre die Position eigentlich nicht wichtig, solange sie keine politischen Ziele daraus ableitet. Der Test scheint hier anderer Meinung zu sein.

Anyway, der Test kann einen groben Überblick vermitteln worauf man beim Konsum von Nachrichten achten sollte. Und im großen und ganzen sind die Fragen schon völlig in Ordnung.

2 „Gefällt mir“

Ich wiederhole mich da bestimmt, aber das halte ich für zu kurz griffen. Viele Menschen, die z.B. die AfD wählen, tun das nicht, weil sie deren Lügen glauben oder meinen, dass sich dadurch etwas ändert, sondern weil sie die „etablierten“ Parteien damit im Grunde ärgern wollen. Meistens aus einem Gefühlt der Hilflosigkeit, weil sie über Jahrzehnte gesehen haben, dass es egal ist, ob sie SPD oder CDU wählen, beide bauen den Sozialstaat ab, beide lassen die Vermögenssteuer aus Kraft usw.

Daher halte ich es auch immer für wenig zielführend, sich mit der Glaubwürdigkeit von KI-Bildern zu beschäftigen, wenn einfache Mund-zu-Mund-Propaganda genauso bereitwillig geglaubt wird.

Ich glaube, wir sind da in einer Übergangsphase. Wenn eine Welle von fakes anrollt, werden selbst die Leichtgläubigen langsam merken, dass sie Bildern nicht mehr vertrauen können. Selbst ohne Kompetenz fürchtet man sich lächerlich zu machen. So weit sind wir aber noch nicht, deshalb grassiert die Leichtgläubigkeit. Insofern halte ich die Welle geradezu für heilsam.

Da gab es jüngst eine Studie der Bertelsmann Stiftung zum Thema: Große Mehrheit erkennt in Desinformation eine Gefahr für Demokratie und Zusammenhalt

Das spannende dabei ist der Unterschied zu den USA der herausgestellt wird. Beispielsweise die Frage, wie oft einem Fakenews begegnen. Das passiert in den USA der Studie nach doppelt so viel.

Nun kann man das so interpretieren, dass es in den USA mehr Fakenews gibt. Die Medienlandschaft dort ist schon etwas anders als hier (Looking at you Fox News!), aber man kann auch sagen, dass man in Deutschland vielleicht nicht so geübt ist im Umgang mit Fakenews wie in den USA und dass die Menschen mehrheitlich glauben, mit Desinformation umgehen zu können. Und diese Trittsicherheit bezweifle ich stark aufgrund von alltäglichen Beobachtungen und der oftmals durchwachsenen Berichterstattung in den Medien.

Die These, dass Leute in den USA gut mit Fake News umgehen können, halte ich doch für ausgesprochen gewagt.

2 „Gefällt mir“