Ist Dir klar, was 0,1% False Positives auf einer Plattform mit 3 Milliarden Usern bedeutet?
Weißt Du, was 20% bedeuten?
Nein… Die Ungenauigkeit ist Prinzip-bedingt. Es ist z.B. unmöglich software-seitig zu prüfen, ob es sich bei einem Nacktbild um Kunst, ein Strandfoto, oder illegale Kinderpornographie handelt.
Ist Dir klar, was 0,1% False Positives auf einer Plattform mit 3 Milliarden Usern bedeutet?
Weißt Du, was 20% bedeuten?
Ja, 20% bedeutet, dass mit, vielleicht einfachen Mitteln, 80% gefiltert werden.
Nein… Die Ungenauigkeit ist Prinzip-bedingt. Es ist z.B. unmöglich software-seitig zu prüfen, ob es sich bei einem Nacktbild um Kunst, ein Strandfoto, oder illegale Kinderpornographie handelt.
Da haben wir aber wieder das Thema Kunst. Ich finde es schlimm, dass beim Thema Gewalt gegen Kinder, das Argument der künstlerischen Freiheit überhaupt zur Debatte steht oder auch in irgendeiner Weise gegenüber der „Massenüberwachung“ bevorzugt wird.
Im Podcast zu Zeit Verbrechen, gibt es eine Folge über Die Kriminalakte zu Adolf Loos.Hier wird auch über das Thema diskutiert, was die Kunst alles darf, gerade in Bezug auf minderjährige. Ich finde das Erschreckend, dass viele immer noch der Meinung sind, die Kunst stehe über allem.
Nein, das bedeutet es nicht!
Du verstehst glaube ich das System noch nicht. Es geht nicht um Filter! Es geht um Strafverfolgung.
Deine 80% bedeuten NICHT, dass dort wirklich auch Missbrauch stattgefunden hat, sondern nur, dass der Filter das erkannt hat, was er erkennen sollte, als z.B. ein nacktes Kind. False Positive, wäre, wenn der Filter anschlägt auf dem Bild aber Erwachsene drauf sind (oder eine Baby-Katzen).
Und wenn der Filter anschlägt, muss ein Mensch da drauf schauen!
Wenn bei Facebook (3 Milliarden User) nur 10% der User alle 14 Tage ein Bild posten hast Du bei einer False Positive Rate von 20% etwa 4,2 Millionen Bilder mit zugehörigen Usern die falsch beschuldigt werden…PRO TAG!!!
Dafür kann man SEHR viele Polizeidienststellen mit mehr Personal ausstatten (denn hier bringt das auch was)
Nein, es ist schlimm, dass man Kindesmissbrauch IMMER und immer wieder als Totschlagargument benutzt mit dem man alles rechtfertigt, und wo zentrale Grundrechte für die lange gekämpft wurde untergraben werden um die Überwachungsphantasien einiger Politiker zu implementieren. Das darf nicht passieren! Auch nicht beim Kampf gegen Kinderpornographie.
Und ich kenne mich mit dem Thema ein bisschen aus (besser als mir lieb ist)… Du erreichst damit so gut wie NICHTS! Nur ein paar Konsumenten die es nicht rechtzeitig kapiert haben. Die Urheber steigen schnell auf Kanäle um. die sicher sind…
Aber das habe ich ja im Eingangspost schon geschrieben (denn Du ja sicherlich gelesen hast 
)!
Weiterer Aspekt, der mir gerade einfällt wo ich mich gerade damit rumärgern muss, eine exe per Mail zu verschicken…
Man muss noch nichtmals die Plattform wechseln um den Filter zu umgehen.
Schmuddeldatei verschlüsselt zippen… Problem gelöst. Da kann man dann das Passwort sogar direkt in die Nachricht da drunter schreiben… Der Filter wird das nicht kapieren.
Im Allgemeinen wird man wohl nicht einmal verschlüsseln müssen sondern einfach nur die Dateiendung ändern. Der Algorithmus dürfte damit schon aussteigen, denn präventives checken aller möglichen Dateien ob ein möglicher Bild-Fingerprint übereinstimmt dürfte wohl allein schon zu etlichen Fehlklassifikationen führen wenn man bedenkt wieviele Mrd Dateien pro Sekunde weltweit erzeugt werden.
Und schon ist eine einfache MS DLL File ein möglicher KiPo.
Feedback:
Ich hoffe die Aussage, dass das Kind dem Papa sagen solle „Machst du noch mal so was, dann melde ich dich …“ (sinngemäß) war ein Versprecher.
Ziel muss es doch sein, dass das das Kind den Vater ohne Umschweife meldet und in eine sichere Umgebung kommt bis die Sache vollständig beleuchtet und geklärt ist.
Sagt das Kind dem Papa den obigen Satz, dann sucht der sich am Ende nur ein anderes Opfer.
Hallo allerseits,
ich befasse mich seit Jahr und Tag mit dem Thema Chatkontrolle und muss mich vielen Bedenken anschließen. Auch mit Ulf Buermeyers Einschätzung, ein Hashwert-Abgleich auf dem Smartphone sei „wohl noch okay“ bin ich so nicht einverstanden:
• wie ihr selber angemerkt habt, ist die „Slippery Slope“ ein immerwährendes Szenario – ich habe noch kein einziges mittel- bis langfristig bestehendes Gegenbeispiel gefunden. Angenommen es gäbe einen fiesen Terroranschlag, eine gefährliche Pandemie oder gar einen Krieg in Europa – die Filter-Kriterien wären schneller hinweggeschwemmt als wir piep sagen können. „Terror“ ist ein sehr dehnbarer Begriff und wird z.B. gern auch für friedlichen/demokratischen Separatismus verwendet.
• Wenn von Rechtspopulisten wie Orbán immer wieder Homosexualität mit Pädophilie gleich gesetzt wird, ist auch das kein gutes Zeichen. Wenn er Zeitungen schließen kann – warum sollte er nicht, ebenso wie Putin oder Erdogan außerhalb der EU, Einfluss auf Provider nehmen können?
• Wir wären ein denkbar schlechtes Beispiel für den Rest der Welt, die freiheitliche europäische Identität hätte einen erheblichen Knacks mehr, wenn wir unsere Geräte für staatliche Spyware öffnen müssten.
• Die wirklichen Täter erreicht man sehr viel erfolgreicher durch aufwendige Infiltration.
usw.
Insgesamt bin ich enttäuscht, dass die EU-Kommission auf die vielfachen Bedenken inhaltlich nicht eingeht, die seit Inkrafttreten der ePrivacy-Derogation (die „freiwillige“ Chatkontrolle ist bereits seit Juli 21 wieder legal) gekommen sind, nicht eingeht. Eine Evaluierung ist nirgends zu finden. Die von uns in unserem „offenen offenen Brief“ vorgebrachten Argumente sind allesamt auch für diesen neuen Vorstoß gültig.
Mehr dazu unter ePrivacy erhalten, Kinderrechte schützen – Stoppt die #Chatkontrolle - Online petition
Ansonsten wie immer ein toller Podcast! Viele Grüße!
So, ich hab mich jetzt bis hierhin durch gearbeitet und hoffe, ich schreibe hier an der richtigen Stelle.
Ich hatte beim Zuhören folgende Situation im Kopf.
Geburtstagskaffee bei Oma. Die ganze Hütte voller Omas, Opas, Tanten und Onkel. Dazwischen meine damals drei oder vierjährige blondgelockte Tochter und ich. Alle wollten sie küssen und auf ihrem Schoß haben. Es gab ziemlichen Ärger als meine Tochter das strickt ablehnte und ich sie darin unterstützte.
Nun sind meine Kinder inzwischen erwachsen und so hoffe ich inständig, dass sich diese Zustände inzwischen geändert haben. Und auch die Mütter sich trauen zu ihren Kindern zu stehen. Da fängt denke ich die Selbstbestimmung über den eigenen Körper an.
Hallo,
Chatanbieter war etwas sehr unkonkret. Die Seite der so genannten Cybertipline des NCMEC lautet CyberTipline und ich meine die Grundlage bildet in den USA folgendes Gesetz 18 U.S.C. § 2258A
Chatanbieter war auch sehr unkonkret. Es geht um Electronic Service Provider. Es gibt auf der Seite auch eine Auflistung, welcher Anbieter, wie häufig gemeldet hat (laut Seite 1800 Anbieter insgesamt). Ich möchte nicht den Link für die PDF einfügen, aber den der Seite, auf er zu finden ist:
CyberTipline Data (unter dem Titel: „2021 CyberTipline Reports by Electronic Service Providers (ESP)“ findet man die PDF.
Ob verschlüsselte Kommunikation überprüft wird, kann ich nicht sagen. Es sind auf jeden Fall Messenger wie WhatsApp mit drin und so wie ich es verstanden habe, zählt jede Gruppe dort mit mehreren Teilnehmern als öffentlich(aber dazu habe ich jetzt keinen Beleg).
Ein Großteil der gemeldeten Fälle betrifft wohl Nutzer außerhalb der USA und die Organisation leitet die geprüften Meldungen an die dortigen Strafvollzugsbehörden weiter.
Auf der Seite gibt es zahlreiche Infos zu dem Thema, auch die Diskussion mit den Hash-Werten wird dort glaube ich geführt. Da habe ich mich jedoch noch nicht genauer mit beschäftigt.
Ich hoffe ich konnte damit etwas helfen.
Nein, das bedeutet es nicht!
Du verstehst glaube ich das System noch nicht. Es geht nicht um Filter! Es geht um Strafverfolgung.
Nein, es geht mir nicht um die Strafverfolgung. Es geht mir darum, den Usern eine gewissen Eigenkontrolle zu geben. Solche Bilder gehören nicht in Messenger und fertig. Es muss keine Strafverfolgung angehängt werden. Wenn 80% der Kinder Nacktbilder geblockt werden würden, wäre das für mich ein rieser Erfolg. Du bekommt die Straftäter eh nicht.
Was das Thema cyber grooming angeht, bin ich mit nicht sicher, ob dies überhaupt abzubilden ist. Auch hier müsste viel mehr mit den Kinder und den Eltern gearbeitet werden
Nein, es ist schlimm, dass man Kindesmissbrauch IMMER und immer wieder als Totschlagargument benutzt mit dem man alles rechtfertigt, und wo zentrale Grundrechte für die lange gekämpft wurde untergraben werden um die Überwachungsphantasien einiger Politiker zu implementieren. Das darf nicht passieren! Auch nicht beim Kampf gegen Kinderpornographie.
Ich glaube wir reden aneinander vorbei. Ich bin genau dieser Meinung. Nur, wenn darüber geredet wird, darf dem Kindeswohl fast kein Thema übergeordnet werden. Und die Kunst schon mal gar nicht.
Was mir beim Hören der Folge aufgefallen ist, normalerweise wird in der Lage ja gegendert. Das wird bewusst (oder unbewusst) bei dieser Folge nicht gemacht. Da wird von Onkel, Freund der Mutter, Papa gesprochen und damit das Narrativ „Männer sind immer die Täter“ bewusst gefördert. Das finde ich sehr schade, da dieses Narrativ eine Katastrophe gerade für die Jungs ist. Leider existiert weiblicher Missbrauch, genauso wie Missbrauch durch Männer und die Dunkelziffer ist enorm, nur leider ist dies nicht in der Öffentlichkeit präsent. Solltet ihr eine weitere Folge zu diesem Thema machen, würde es mich freuen, wenn ihr mal mit Experten sprecht (z.B. Björn Leimbach), der sexueller Missbrauch durch Frauen therapieren. Zumeist ist das Muster ein anderes. Der Junge wird dann als „Partnerersatz“ benutzt. Muss z.B. im Bett der Mutter schlafen oder wird „liebevoll“ als „Alternativer Kuschelpartner mit Massageeinheiten“ missbraucht. Die Grenzen sind deutlich fließender, das Ergebnis aber am Ende das Gleiche: Die Psyche des Kindes nimmt einen enormen, meist lebenslangen Schaden. Und durch das weitverbreitete Narrativ „Frauen können kein Täter sein“, ist die Bearbeitung dieser Traumata deutlich erschwert, wie zum Beispiel bei Mädels.
Dann bist Du hier im Thread aber einfach falsch. Wir reden hier über die in LdN289 beschriebenen Maßnahmen die eingeführt werden sollen
Doch! Denn hier geht es um das Recht auf informationelle Selbstbestimmung, dem Recht auf sicherere, verschlüsselte Kommunikation, die nicht durch die Hintertür aufgebrochen wird. dem Recht, dass ICH auf MEINEM Gerät speichern kann was ich will und ICH da die Kontrolle habe - und nicht Google oder Facebook.
Da geht es um Grundrechte! Die dürfen nicht eingeschränkt werden. Auch nicht, wenn es um das Thema Missbrauch und Kinderpornographie geht!
Nach einer kurzen "Google Recherche, bin ich auf folgende Statistik gestoßen:
Nach Zahlen der PKS für das Jahr 2016 sind bei sexuellem
Missbrauch von Kindern (§§176, 176a, 176b StGB) 4 % der erwachsenen Tatverdächtigen weiblich. Bei
weiteren Straftatbeständen wie sexuellem Missbrauch von Jugendlichen (§ 182 StGB) liegt der Anteil der
Täterinnen bei ca. 3 %, bei sexuellem Missbrauch von Schutzbefohlenen (§ 174 StGB) bei ca. 8 %, bei
Verbreitung, Erwerb, Besitz und Herstellung kinder- und jugendpornografischer Schriften bei jeweils ca.
5 %
Wenn man dieser Studie glauben kann, liegt der Anteil der Frauen bei knapp 5%. Sprich nur jede 20. Tat wird von Frauen begangen.
Ja, das ist ein Thema, welches nicht totzuschweigen ist. Aber deshalb ein Fass wegen fehlender Gendergleichheit aufzumachen, finde ich ein bisschen über das Ziel raus.
Klar, muss es angesprochen, über die andere Vorgehensweise ausgeklärt werden. Es muss rechtliche Konsequenzen geben. Das Thema muss in die Öffentlichkeit und in die Köpfe der Meschen (jung wie alt) aber es gibt hier aber, mMn. keine Argumente dies auf eine Stufe zu stellen.
…ist hier unheimlich wichtig! Das Problem haben nämlich primär die Opfer!
Denn auch männliche Kinder werden missbraucht. DA ist es schon schwer, das jemandem zu erzählen! Aber wenn es dann auch noch eine TäterIN ist, ist das ein doppeltes Problem für die Opfer, damit nach außen zu treten!
Und das ändern wir nur, wenn wir es immer wieder offen betonen, dass es nicht nur kleine Mädchen sind, die von bösen Männern missbraucht werden…
@vieuxrenard : Markiere Dich mal hier, damit das nicht untergeht.
Als Informatiker und Wissenschaftler im Bereich KI fand ich die Ausführungen hochspannend.
Was mir, um den Trade-off zwischen Hashing (treffsicher, aber keine neuen Inhalte) und Metadatenanalyse (ungenau, kann aber dynamisch auf neue Inhalte reagieren) zu addressieren, spontan in den Kopf kam, war eine hybride Lösung, die man unter „weak supervision“ fassen würde: man nutzt eine Menge von initialen Hashwerten (von bekannten illegalen Inhalten) und analysiert die Gruppen, wo diese geteilt werden. So könnte man Gruppen identifizieren, in denen illegale Inhalte getauscht werden, und die Hash-Werte der dort verbreiteten Inhalte einer stetig wachsenden Liste von problematischen Inhalten hinzufügen. Diese Methode wäre natürlich auch nicht perfekt, weder hinsichtlich Datenschutz noch hinsichtlich Treffsicherheit, aber vielleicht ein interessanter Mittelweg.
Ich glaube, ich habe mich vielleicht ein wenig ungenau ausgedrückt. Ich wollte nie sagen, dass Gewalt gegen Kinder, welche von Frauen ausgeht, weniger schlimm oder nicht anzusprechen ist.
In meiner Auffassung ist das Gendern eine Form, Dinge zwischen m/w/d gleichzusetzen, sprich jedem Individuum einen gleichen Anteil von „Kuchen“ zuzuordnen oder es, sprachlich zu fördern, dass jeder die gleichen Möglichkeiten hat.
Wenn es aber um dieses Thema geht, und so ein massives Ungleichgewicht besteht, finde ich das durchaus akzeptabel, dass in der Hauptsache über Täter und nicht über Täter*innen gesprochen wird.
Nochmal, Es hätte angesprochen werden müssen und es muss immer mit thematisiert werden. Aber gleichsetzen sollte man es im quantitativen Sinne nicht. Dies wird, mMn nach durch das Gendern getan.
Einer relativen Angabe irgendeinen Wert beizumessen, ohne die absoluten Größen zu kennen, ist ein Anfängerfehler. Dave hat es dir technisch erklärt. Ich versuche es mal mit einfachen Worten: 20% von „unglaublich viel“ ist immer noch „wahnsinnig viel“. Klar, oder? 
Genau so ist es. Um es mal zu verdeutlichen.
Eine Verschlüsselung mit einem Generalschlüssel der Behörden auszuhebeln? Das Äquivalent dazu ist, dass jedes Schloss an jeder Tür eines jeden Gebäudes in diesem Lande von einem Generalschlüssel aufgeschlossen werden könnte und die Behörden diese Generalschlüssel besäßen.
Die gesamte Kommunikation aller Bürger durch die Behörden überwachen zu lassen? Das Äquivalent dazu wäre, dass jeder Raum eines jeden Gebäudes dieses Landes mit Kamera und Mikrofon ausgestattet wäre und die Behörden da mitschauten und mithörten.
Also: Jeder, der für diese Überwachung der Kommunikation ist, müsste eigentlich noch viel eher für den Generalschlüssel für alle Schlösser und für die Mikrofone und Kameras in allen Räumen sein. Denn Kindesmissbrauch findet schließlich in Räumen irgendwelcher Gebäude statt. Da wäre man dann direkt an der Quelle. Würde das der Kampf gegen den Kindesmissbrauch nicht rechtfertigen? Verzeiht mir bitte meine leichte Polemik, aber jeder, der die Überwachung der Kommunikation befürwortet muss sich der Tragweite bewusst sein. Und mir scheint so, als ob sich die Befürworter ebendieser Tragweite nicht einmal annähernd bewusst sind.
Als Familienvater empfinde ich Kindesmissbrauch als eines der widerwärtigsten Verbrechen überhaupt. Allein der Gedanke, dass es Menschen gibt, die unseren Kindern derartiges anzutun imstande sind, bedrückt mich zutiefst. Und ich bin sofort für den Kampf dagegen zu haben. Aber bitte mit den geeigneten Mitteln an geeigneter Stelle!
Es gibt so viele andere Möglichkeiten - auch technischer Natur. Und die EU zielt es wahrlich auf die Grundrechte aller ihrer Bürger ab, ohne diese Möglichkeiten zuvor ausgeschöpft zu haben? Oder was heißt hier ausgeschöpft? Nicht einmal ernsthaft in Angriff genommen.
Und stellt euch bloß das Missbrauchspotential vor. Wir würden damit also Kindesmissbrauch verfolgen. Echt? Als ob uns Prism, Pegasus und all die andern Spionageprogramme, wie sie auch immer heißen, nicht Besseres gelehrt hätten.
Und darüber hinaus: Was hindert die Despoten dieser Welt, diese Technologie dann für sich und ihre eigenen, despotischen Zwecke nutzbar zu machen? Oder die Kriminellen dieser Welt für ihre mafiösen Zwecke? Oder die Hacker dieser Welt für ihre erpresserischen Zwecke? Oder die Autokraten dieser Welt für ihre disruptiven Zwecke? Oder, oder, oder…
An alle Befürworter dieser Überwachungstechnologien: überlegt euch mal bitte, was ihr damit heraufbeschwört. Welch Büchse der Pandora damit geöffnet würde!
Ich arbeite im Kinderschutzdienst in Rheinland-Pfalz. Dieser Dienst ist nicht vom Jugendamt, er wird von kirchlichen oder freien Trägern „gestellt“ und wird vom Landesjugendamt bezahlt. Wir begleiten Kinder und Jugendliche, die von sexueller, psychischer und physischer Gewalt oder auch Vernachlässigung betroffen sind, waren oder wo ein Verdacht besteht. Wir sind genau das, was es landesweit braucht: das Mandat für die Kinder und Jugendlichen. Wir verfolgen einen kindzentrierten Ansatz und das Kind oder die Jugendlichen stehen bei uns an erster Stelle. Wir begleiten Kinder, wenn zu Hause nicht auf ihre Rechte geachtet wird und schauen mit ihnen zusammen, was es braucht, was diese sich wünschen würden, wer mit wem am besten sprechen kann. Was viele nicht wissen: Kinder haben ein Recht auf Beratung ohne Wissen der Eltern! Da wir nicht das Jugendamt sind, müssen wir auch nicht allparteilich sein und können uns bewusst nur mit dem Anliegen des Kindes/ der Jugendlichen befassen. Das Jugendamt muss nicht die Institution sein, die solche Angebote stellt. Ich finde auch nicht, dass Lehrerinnen dafür auch noch die Verantwortung tragen müssen.
Es braucht eine Beratungsstelle wie unsere.
Wir machen Präventionsprojekte, wenn sexuelle Gewalt vermutet wird. Wir gehen gezielt in die Klasse mit dem vermeintlich betroffenen Kind, sind an 3 Tagen vor Ort und machen unsere Präventionsthemen, so lernen uns die Kinder kennen und können eine Beziehung aufbauen. Die Erfahrung zeigt: ist das Kind betroffen, so wird es sich an uns wenden oder auch an die/den Lehrerin.
Ab sofort ist das Kind nicht allein. Wir begleiten durch den ganzen Schutzprozess und das Kind hat die ganze Zeit eine Ansprechperson nur für sich. Darüber hinaus begleiten wir die Betroffenen auch danach, damit sie sich in der neuen Situation gut zurecht finden können und vor Allem: nicht alleine sind.
Das traurige: unseren Dienst gibt es nur in Rheinland-Pfalz und Thüringen…
Ich bin der festen Überzeugung, dass dieser Dienst landesweit einen großen Unterschied machen würde, denn genau was Ulf und Philipp beschrieben hatten: Der Weg zwischen Betroffenen und Jugendamt/staatliche Hilfsmaßnahmen zum Schutz, der wird durch Arbeit wie meine abgedeckt. In unserem Landkreis sind wir sehr gut vernetzt und haben eine sehr gute Zusammenarbeit mit Schulen, Kitas und Jugendamt.
Ich frage mich oft, wie schlimm es eben in anderen Bundesländern sein muss, weil eben dieses Beratungsangebot für Kinder und Jugendliche nicht existiert. Leider wieder ein Armutszeugnis, dass hierfür in anderen Bundesländern keine Mittel zur Verfügung gestellt werden geschweige denn die Notwendigkeit gesehen wird!
Hallo, mich hat gestört, dass nur Männer reden. Und der abfällige Kommentar über die Emma - den Brief unterstütze ich nicht - hat mich richtig gestört. Das Ansinnen der EU-Initiative wird nicht wertfrei dargestellt. Muss es ja nicht, stört mich aber.
Bei mir bleibt der schlechte Nachgeschmack, dass man Errungenschaften bei verschlüsselten Daten mit der Strafverfolgung von sexualisierter Gewalt gegen Kinder abwägen will. Geht das? Wie ist der Zusammenhang zu Orban? Habe ich nicht verstanden.
Als Ergänzung zur technischen Diskussion wünsche ich mir eine Folge über Prävention und Strafverfolgung von sexualisierter Gewalt gegen Kinder. Mit Expertinnen. Viele Grüße
Zum Thema Prävention:
An Hamburger Grundschulen gibt es von Vereinen initiert durchaus tolle Präventionsprojekte zum Thema sexualisierte Gewalt. Im Rahmen bspw einer interaktiven Wanderausstellung „Echt Klasse“ vom Verein Zündfunke werden Lehrer und Eltern informiert und Grundschulkinder geschult. Dies passiert innerhalb dieses beispielhaften Projektes zweimal innerhalb der Grundschulzeit eines Kindes. Kern dieses Engagements ist das Selbstbewusstsein der Kinder zu stärken, Worte für Emotionen zu finden, sensible und problematische Situationen aufzuzeigen und konkret Hilfe anzubieten.
Also: es gibt durchaus sehr gute Programme zur Prävention und klar könnten und sollten genau solche Projekte und Vereine noch viel stärker gefördert werden!