Apple filtert iCloud-Uploads mit iOS 15

[Jörn]

Wenn man eine Hash Datenbank mit Kinderpornofotos aufbauen kann, warum sollte man dann keine Hash Datenbank mit anderweitig verbotenen Fotos aufbauen können?

Aber warum sollte man einen hochpräzisen Hash verwenden? Das macht für China keinen Sinn. China braucht eine allgemeine, unscharfe Suche. Diese gibt es aber schon seit vielen Jahren. Also haben wir bereits viele Jahre Erfahrung damit, ob und wie diese Funktion missbraucht werden wird. Es wurde aber nicht missbraucht. Deine These, dass es zwangsläufig missbraucht würde, hat sich bereits als falsch erwiesen.

Ich würde mal darauf tippen, dass Bewegungsprofile viel attraktiver sind. Wer trifft sich wann mit wem? Wenn man zwei "Verdächtige" hat, mit wem treffen sie sich noch? Diese Daten bekommen die Chinesen (vermutlich) von den Providern, keine Ahnung. Ich verstehe nicht, warum eine hochpräzise Suche nach Fotos für die Chinesen so verlockend sein soll. Außerdem gibt es leichtere Zugänge als ausgerechnet Apple. Zahlungssysteme, Facebook, Mobilfunkdaten... das ist doch alles viel leichter zu bekommen und zudem wertvoller.

In China wirst Du keinen Root Hash einsehen können. Oder es wird ein anderer sein.

Apple sagt dazu, dass der Root-Hash bei allen Anwendern identisch sein wird, weil es nur ein einziges iOS-Image gibt. Die Datenbank ist Bestandteil von iOS, und sie ist mit einem Hash gesichert. "Gesichert" bedeutet, dass iOS einen ganz bestimmten Wert erwartet.

[cordcam]

Nein, China hat ein Interesse daran, ein genaue Suche zu haben.

Das hast Du ja selbst vorhin argumentiert. China möchte nicht hunderttausende Treffer mit dem Platz des himmlischen Friedens, China will einfach und unbürokratisch genau die Personen finden, die genau das verbotene Foto vom Mann vor dem Panzer auf eben diesen Platz auf ihren iPhones haben.

Da bietet Apple mit der neuen Spyware genau das Richtige an.

Natürlich sagt Apple das. Und wenn China dann erst mal auf die Idee gekommen ist, setzt Apple noch ein „außer lokale Gesetze geben uns etwas anderes vor“, an das Gesagte dran.

Grad so, wie sie es immer machen. Es ist ja nicht so, dass Apple sich für das von mir prophezeite jetzt arg verbiegen müsste….

Warum das für die Chinesen so verlockend ist, musst Du die Chinesen fragen. So funktioniert halt 1984. Du kannst Dir das Foto ja mal auf ein Shirt drucken lassen und dann damit nach China reisen.

Berichte bitte!

[Jörn]

Da bietet Apple mit der neuen Spyware genau das Richtige an.

Du unterschlägst allerdings, dass Apples dies keineswegs anbietet.

[DerMing]

Ich versuche mal meine entscheidende Argumentationskette heraus zu arbeiten:

Apple baut ein System, mit dem beliebige Dateien auf meinem Iphone gescannt werden können. Welche das sind, mit welchen Hashes verglichen wird und wann dieses angewendet wird, ist nur eine Frage der Konfiguration. Das ist das perfekte Überwachungsssystem.

"Aber Apple sucht nur nach KiPo"
Mag vielleicht jetzt so sein. Es gibt keine Garantie das es so bleibt. Finanzieller Druck oder Gesetzgebung können in anderen Ländern eine Erweiterung erzwingen. Vielleicht gibt es eine Datenbank mit KiPo und je Land eine weitere, die wir nicht kennen und von denen wir auch den Root-Hash nicht checken können. Auch, ob die geheime Datenbank auch Teil des IOS ist, kann man sehr einfach ändern.

"Apple würde das nie tun"
Apple hat gerade in der Türkei eine schwule Dating App entfernt. Apple ist an lokale Gesetze gebunden bzw. hat finanzielle Interessen. Weißt Du was Apple in 5 Jahren macht?

"China und co brauchen das nicht oder hätten es schon gemacht"
Das weißt Du nicht. Nur weil sie es bislang vielleicht nicht gemacht haben ist keine Garantie, daß es auch so bleibt. Es gibt viele Texte, Memes, Bilder, die sich viral verbreiten die man dann schnell in die DB einpflegen kann. Dann kann man gucken wer die hat.

"Deine Bilder werden schon jetzt gescannt"
Ja, auf meinem Device. Die Ergebnisse werden nicht versendet und von dritten ausgewertet. Zumindestens hoffe ich das. Sonst hätte ich mein Iphone nicht gekauft. Das ist der Grund warum ich kein Android habe!

Für den jetzigen Usecase mag Apple ein technisch brilliantes und minimalinvasives System gebaut haben. Ja, Apple kann dadurch seine Server sauber halten.

Aber: es hat ein enormes Mißbrauchspotenzial. Das ist eine riesige Büchse der Pandora die da geöffnet wird. Der Zweck heiligt meiner Meinung nach nicht das Mittel. Mein Iphone erhält eine Funktion um mich auszuspionieren und die Ergebnisse zu versenden. Was, wann wie und an wen gepetzt wird ist nur ein Konfigurationssache. Ich hätte erwartet, daß sich Apple mit Händen und Füßen gegen so etwas wehrt.

[Jörn]

Geht da nicht einiges durcheinander?

Apple hat kein "System gebaut, auf dem beliebige Dateien auf dem Gerät gescannt werden können". Was soll das überhaupt sein? Das Betriebssystem hat selbstverständlich Zugriff auf die Dateien. Dazu braucht es keinen "Scan". Denkst Du, der Finder würde die Festplatte "scannen" um Dir die Dateien anzeigen zu können?

Apple hat selbstverständlich Zugriff auf alle Dateien. Wenn Apple auf die Idee kommt, alle Deine Fotos nach Sehenswürdigkeiten zu verschlagworten, dann tun sie es. Die Idee, Apple hätte plötzlich und erstmals eine seltsame Software erfunden, mit der die einst geheimen Dateien offenbar werden, ist einfach falsch.

Wenn jemand denkt, dass die Gefahr besteht, dass Apple die gespeicherten Inhalte nach China funkt, dann muss er auf den Mac und das iPhone verzichten. Die Gefahr besteht so oder so, mit oder ohne die neue Technik. Wer Apple nicht vertrauen kann oder will, der muss auf die Produkte verzichten.

Woher willst Du wissen, dass die Telekom nicht heimlich alle Gespräche aufzeichnet? Selbst wenn ich es Dir 100% sicher beweisen könnte, könntest Du sofort sagen: "Ha! Aber was ist mit morgen?" Und dann könnte Dir der Telekom-Chef morgen alle Beweise liefern, und Du könntest die Frage dennoch jeden Tag wiederholen. So geht doch keine sinnvolle Argumentation.

[Jörn]

Vielleicht gibt es eine Datenbank mit KiPo und je Land eine weitere, die wir nicht kennen und von denen wir auch den Root-Hash nicht checken können.

Nun hatte ich (und Apple) ausführlich dargelegt, warum das nicht funktioniert.

Deine Entgegnung darauf ist: Na, dann funktioniert es in Zukunft eben anders!

[Jörn]

"Deine Bilder werden schon jetzt gescannt"
Ja, auf meinem Device. Die Ergebnisse werden nicht versendet und von dritten ausgewertet. Zumindestens hoffe ich das.

Du vertraust Apple also einfach, dass sie die bisherigen Ergebnisse nicht nach China senden? — Gut. Aber warum vertraust Du ihnen dann nicht weiterhin?

Zumal Apple ja überhaupt kein Geheimnis aus der neuen Technik macht. Sie haben es sehr genau erläutert. Früher hat Dich die Technik nicht weiter gekümmert, aber plötzlich bist Du im Fadenkreuz chinesischer Behörden.

Nur zu Deiner Info: Auch weiterhin werden Deine Daten nicht (Zitat) "von Dritten ausgewertet". Dieses Szenario ist nämlich frei erfunden.

[cordcam]

Alle doof, nur Jörn nicht:

„Kommentar: Apples CSAM-Scans – Ein Tabubruch, der in die Totalüberwachung führt“

https://www.heise.de/meinung/Kommentar-Apples-CSAM-Scans-Ein-Tabubruch-der-in-die-Totalueberwachung-fuehrt-6166219.html

[DerMing]

Keiner von uns beiden kann in die Zukunft sehen. Wir sind also im Bereich von Vertrauen und des Glaubens.

Da Glaube ein schwierige Sache ist, versuche ich Anzeichen im "Jetzt" zu finden:
Was tut Apple heute um mein Vertrauen zu haben daß sie mich (und ich Sorge mich eher um unsere Gesellschaft als mich persönlich) auch in Zukunft schützen?

Apple hat da in der Vergangenheit viel Vertrauen aufgebaut: Sehr einfache Vollverschlüsselung meiner Festplatte, Kampf gegen Werbetracker und co, ein IOS, daß schnell und lange gepatcht wird, die Liste ist lang...

Dagegen stand, daß es sich um ein amerikanisches Unternehmen handelt, der Code closed source ist und die amerikanischen Behörden seit dem 11. September viele Befugnisse haben.

Bislang überwog das Vertrauen. Jetzt begeht Apple aus meiner Sicht einen massiven Sündenfall. Das was sie bauen ist keine technische Neuerung im eigentlichen Sinne sondern ein Ökosystem mit Datenbank, Funktionen im OS, ein Backendsystem für die Auswertung/administrative Bearbeitung und co. Ja, Apple hätte mich schon immer an die Chinesen verraten können aber ich habe geglaubt daß sie es nicht wollen und auch nicht könnten (weil nicht implementiert). Jetzt weiß ich sicher, daß sie ein System bauen mit dem es möglich wäre.

Bislang habe ich in dem naiven Glauben gelebt, Apple wären die Guten und würden sich mit allem gegen "das Böse" stemmen. Apple war anders als das gewissenlose Google. Das mag naiv gewesen sein. Mein Glaube hat starke Dellen bekommen. Du bist in deinem Glauben an das Gute in Apple so fest, daß Du nicht einmal verstehen kannst, daß es Zweifler gibt.

[Neo]

Wenn man bedenkt, dass seit Jahrzehnten Antivirenprogramme freiwillig oder verpflichtend auf Rechnern jeder Art (Privat/Büro/Behörde) installiert wurden...

Die kamen aus unterschiedlichsten Quellen, hatten seit jeher Zugriff auf wirklich alles, was auf dem Rechner geschah ...

Aber Apple wird nun zum neuen emotionalen Feindbild, wenn sie wie geschildert mit KiPo umgehen.

Leute!

[DerMing]

Wenn man bedenkt, dass seit Jahrzehnten Antivirenprogramme freiwillig oder verpflichtend auf Rechnern jeder Art (Privat/Büro/Behörde) installiert wurden...

Die kamen aus unterschiedlichsten Quellen, hatten seit jeher Zugriff auf wirklich alles, was auf dem Rechner geschah ...

Aber Apple wird nun zum neuen emotionalen Feindbild, wenn sie wie geschildert mit KiPo umgehen.

Leute!

Wer spricht denn hier von Feindbild? Man wird sich doch wohl mit einer "Technikfolgenabschätzung" beschäftigen dürfen? Oder ist das unsittlich bei Apple?

[Jörn]

Apple hat gerade in der Türkei eine schwule Dating App entfernt. Apple ist an lokale Gesetze gebunden bzw. hat finanzielle Interessen. Weißt Du was Apple in 5 Jahren macht?

Deklinieren wir das mal durch.

Apple hat also im türkischen Store entsprechend der dortigen Gesetze eine App entfernt. Ok. Aber was folgt nun daraus? Bleiben wir zunächst beim Upload-Filter für Kinderpornos.

Wenn Apple in den USA den amerikanischen Gesetzen folgt, und in Deutschland den deutschen Gesetzen: Dann sind das zwei Länder, in denen nicht zu befürchten ist, dass demnächst eine Diktatur eingeführt wird. Es scheint so, als ob die zwei Länder, die ich derzeit am "lautesten" in der Debatte wahrnehme, überhaupt nicht betroffen sind von den Horror-Szenarien, mit denen die meisten Argumente begründet werden.

Stattdessen wir streiten uns um China. In China wird die Technik aber überhaupt nicht eingeführt. Jedenfalls gibt es im Moment keine konkreten Pläne. China ist aber auf Apples Technik nicht angewiesen. Die haben andere Methoden, um ihre Ziele zu erreichen.


Was die Dating-App angeht: Ich bin der Letzte, der Herrn Erdogan bei seiner schändlichen Präsidentschaft assistieren würde. Natürlich ist es affig, wenn eine lächerliche Dating-App wegen irgendeinem religiösen Blödsinn aus dem Store fliegt. (Nutzbar ist die App auf iPhones weiterhin, wer sie bereits geladen hatte.)

Aber nehmen wir zum Vergleich an, eine türkische Softwarefirma würde auf dem deutschen Markt anbieten. Selbstverständlich würden wir erwarten (und durchsetzen), dass deutsches Recht befolgt wird.

Unsere Erwartung, dass Apple sich (am besten nach einer flammenden Rede von Tim Cook) einfach über das Landesrecht hinwegsetzt, ist womöglich nicht realistisch. Sicherlich kann Apple seinen Einflussbereich wahrnehmen. Vielleicht können sie auch Methoden anbieten, damit die Türken im US-Store kaufen können. Wie ich gehört habe, tun sie das ohnehin. Aber am Ende muss das Landesrecht befolgt werden. So erwarten es die Deutschen, und so erwarten es die Türken.

Die Türken haben, äh... gewisse Möglichkeiten, den feinen Herrn Erdogan wieder loszuwerden. Die Türken können gemeinsam beschließen, weniger religiös zu sein. Das sind vielleicht schwierige Dinge. Aber man kann es nicht einfach Apple in die Schuhe schieben.

[Neo]

Wer spricht denn hier von Feindbild? Man wird sich doch wohl mit einer "Technikfolgenabschätzung" beschäftigen dürfen? Oder ist das unsittlich bei Apple?

Diese Beschäftigung setzt aber offenbar erst dann ein, wenn der persönlich gewählte weiße Ritter seine Vorgehensweise ändert.

Die dargestellten Bedrohungsszenarien galten doch schon immer in der Datenverarbeitung. Die wären auch nur in einem vollständig durchleuchteten Open Source-Umfeld einigermaßen abzuschätzen, zumindest potenziell. Nur hat die Privatkundschaft dieses am Rande verkommen lassen.

[DerMing]

Genau Jörn, Und da sind wir beim Punkt: Aus gutem Grund ist es gesellschaftlicher Konsens, daß Waffen nicht an Diktaturen geliefert werden. Das Landminen und Atomwaffen geächtet sind. Das FinFisher seine Überwachungssoftware nicht beliebig exportieren darf. Weil dort das jeweilige Landesrecht schlimme Dinge erlaubt.

Gerade deshalb bin ich entsetzt, daß Apple so eine potentiell gefährliche Technologie baut. Sie werden den Diktatoren nicht mal mehr sagen können "geht nicht, haben wir nicht, bauen wir für euch nicht" es bleibt dann eine Gewissensentscheidung von Apple was sie wo ermöglichen. Unternehmen haben kein Gewissen.

Und vielleicht sind die Deutschen an der Stelle so sensibel, weil wir im letzten Jahrhundert zweimal erlebt haben, was Staaten tun können.

[Jörn]

Mein Glaube hat starke Dellen bekommen. Du bist in deinem Glauben an das Gute in Apple so fest, daß Du nicht einmal verstehen kannst, daß es Zweifler gibt.

Nachdem ich seitenweise die Technik beschrieben habe, ist es echt verblüffend, dass es einfach als mein "Glaube" bezeichnet wird.

Man kann über die Zukunft glauben, was man will. Trotzdem müssen die technischen Argumente stimmen.

Wir sitzen hier über Apple zu Gericht und werfen munter mit allerlei Spekulationen um uns. Ich finde das nicht fair. Erstens geht man so nicht miteinander um, und zweitens wird man dadurch auch nicht schlauer.

Herr Müller, weil sie ja ihre Frau schlagen...
Entschuldigung, ich schlage meine Frau nicht.

Ja, aber in Zukunft!
Auch in Zukunft nicht.

Aber Sie könnten es tun! Wenn man sie unter Druck setzt!
Was für ein komischer Druck soll das sein??

Das weiß ich nicht. Aber mal angenommen!
Na schön. Mal angenommen.

Also geben Sie es zu?
Bitte??