Grundsätzlich richtig.
Apple fasst aber die Hashwerte mittels KI deutlich weiter als ein 1:1 vergleich der Hashwerte. Deshalb auch der Name: Neural Hash.
Dieses Sytem MUSS - das ist statistisch unumstößlich - deutlich mehr False Positives produzieren.
Die Unschärfe beim Vergleich bezieht sich darauf, dasselbe Bild noch zu erkennen, wenn man die Grösse verändert, es beschneidet, Farbe oder Kompression verändert. Solche Verfahren werden seit vielen Jahren von allen grossen Cloudanbietern serverseitig angewandt. Man hörte da bisher nicht über Probleme mit False Positives. Ja, die sind möglich, aber wohl extrem selten.
Das ist nicht die Gefahr, die von Apples Ansatz ausgeht.
Apple wird dies sicher damit begründen, dass sie die iCloud nun e2e verschlüsseln können, da schumtziges Material vorher gefiltert wird. So nimmt man den Strafermittlungsbehörden das stärkste Argument gegen die Verschlüsselung.
Das könnte in der Tat ein Grund sein, warum Apple das macht. Trotzdem schafft Apple hier technisch quasi den Anfang für eine Art Online-TKÜ als Service für Strafverfolgungsbehörden.
Wenn man das weiterdenkt: Was ist schlimmer? Die heute gesetzlich geregelte Online-TKÜ, die technisch nur funktioniert, weil Sicherheitslücken staatlicherseits ausgenutzt und nicht gemeldet werden, damit sie offen bleiben und die technisch nicht auf TKÜ beschränkt werden kann, also das komplette Gerät kompromitiert. Oder Apples NeuralHash basierte Suchfunktion?
Ich weiss es nicht. Scheint mir so eine typische Pest oder Cholera Frage sein.
Oft wird […] Bildmaterial aus Quellen genutzt, die normale Familienfotos sind. Bspw. Instagram etc. also Alltagsfotos und private Bilder. Wenn ich diese Bilder in meiner Familien iMessage Gruppe teile, dann falle ich eben absolut ins Raster.
Das würdest du dann heute schon, weil alle grossen Cloudspeicheranbieter seit Jahren serverseitig auf diese Weise suchen.
Und vermische diese nicht-KI-basierte Suche nach bekannten Missbrauchsdarstellungen nicht mit der KI-basierten opt-in Warnfunktion für sexuell explizite Bilder, die Apple in der Message-App plant. Das sind zwei verschiedene Dinge.
