Eine Brille mit Video-Aufnahme wird aus bekannten Gründen kontrovers diskutiert. Man möchte wissen: Wird man gerade aufgenommen oder nicht? Immerhin können erfahrene Anwender sehen, ob jemand eine solche Brille auf der Nase hat. Aber ein Mikrofon kann man überall verstecken. Die Heimlichkeit, die damit theoretisch möglich ist, erreicht nochmal eine höhere Stufe. Andererseits: Ein Smartphone in der Hosentasche kann ebenfalls Gespräche aufzeichnen, ist ebenso kaum zu entdecken, und überdies allseits akzeptiert.

Wie auch immer man dazu stehen mag: Mindestens sind die neuen Aufnahmefunktionen der Apple Watch 12 und der Ultra 4 zusammen mit Siri AI eine gute Gelegenheit, darüber nachzudenken. Und Nachdenken hat noch niemandem geschadet.

Vorab: In der EU ist ist diese neue Siri-Funktion ohnehin erstmal nicht geplant, solange Apple sich nicht mit der EU einigt. Das kann aber jederzeit geschehen. Nach meiner Ansicht zeigen die neuen Funktionen, warum Apple darauf besteht, dass man bestimmte Daten nicht einfach für Drittanbieter freigeben kann. Die EU hat einen Punkt, wenn sie entgegnet, dass man trotzdem den Markt erhalten muss. Aber man kann nicht einfach alle Schranken aufheben. Warum nicht? Weil die aufgezeichneten Gespräche nicht nur die Person betreffen, die sich eine Drittanbieter-KI installiert hat.

Gute Technik braucht Rücksicht

Genau deshalb verdienen Apples Funktionen Live Rewind und Siri Recap eine kritische Debatte. Live Rewind soll die letzten 15 Sekunden eines Gesprächs als Text anzeigen können. Siri Recap soll aus dem Gehörten Zusammenfassungen erstellen. Das klingt praktisch: Eine verpasste Information lässt sich nachlesen, eine Gedächtnisstütze entsteht nebenbei.

Doch Bequemlichkeit allein rechtfertigt nicht jeden Eingriff. Entscheidend ist auch, ob die Menschen, deren Worte dabei erfasst werden, davon wissen und mitentscheiden können. Menschen müssen miteinander reden können, ohne ständig darüber nachzudenken, was die Uhr am Handgelenk ihres Gegenübers gerade mithört.

Was machen diese Funktionen?

Live Rewind zeigt auf der Apple Watch einen Textausschnitt an, der das in den letzten 15 Sekunden Gesagte zusammenfasst, wenn man die Digital Crown zweimal drückt. So kann man Gesprochenes nachlesen, falls man etwas verpasst oder nicht verstanden hat. Den Text kann man per Tap in der Siri-App sichern.



Siri Recap erfasst im Hintergrund automatisch Notizen zu den Gesprächen im Laufe des Tages und generiert mit Apple Intelligence allgemeine Zusammenfassungen, die man anzeigen und durchsuchen kann. Oder man fragt Siri, was jemand damals gesagt hatte. Allerdings: Die Zusammenfassungen werden nach 7 Tagen automatisch gelöscht. Aber: Man kann sie vorher speichern, genau wie jeden anderen Text. Auch in der Siri App.

Apple nimmt den Schutz der Daten ernst

Die technischen Schutzmaßnahmen von Apple verdienen Anerkennung. Wir haben sie in einem Artikel zusammengefasst. Hier die kurze Fassung: Nach Apples Beschreibung müssen beide Funktionen ausdrücklich aktiviert werden. Die Verarbeitung der Audiosignale erfolgt auf der Apple Watch und auf dem iPhone in einem besonders geschützten Bereich. Das erfasste Audio soll danach sofort verworfen werden. Eine dauerhaft gespeicherte Tonaufnahme entsteht nicht.

Wo Cloud-Verarbeitung nötig ist, setzt Apple auf Private Cloud Compute. Dieses System soll persönliche Daten auch vor dem Zugriff durch Apple schützen. Zum Konzept gehört außerdem, dass unabhängige Sicherheitsforscher die Schutzmaßnahmen überprüfen können. Das ist mehr wert als die bloße Aufforderung, einem Unternehmen zu vertrauen.

Auch die weitere Nutzung ist begrenzt: Die Synchronisierung über iCloud ist laut Apple Ende-zu-Ende-verschlüsselt. Zusammenfassungen und kurze Textausschnitte werden automatisch gelöscht, sofern Nutzer sie nicht gezielt aufbewahren oder weiterverwenden.

Das sind sinnvolle Vorkehrungen. Sie sollen verhindern, dass aus beiläufigen Gesprächen frei zugängliche Datensammlungen werden. Es wäre unfair, diesen Aufwand einfach abzutun.

Verschlüsselung ersetzt keine Zustimmung

Trotzdem beantwortet Apple damit vor allem eine technische Frage: Wie bleiben erfasste Informationen geschützt? Die soziale Frage bleibt offen: Dürfen sie überhaupt erfasst werden?

Für Betroffene macht es einen Unterschied, ob jemand zuhört oder ein Gerät aus ihren Worten abrufbare Texte und Zusammenfassungen erzeugt. Der Hinweis, es werde keine Tonaufnahme gespeichert, löst dieses Unbehagen nicht auf. Gesagtes kann festgehalten werden, auch wenn die ursprüngliche Audiodatei nicht erhalten bleibt.

Hier liegt die Schwäche des freiwilligen Aktivierens: Freiwillig ist die Nutzung nur für die Person, der die Apple Watch gehört. Wer mit ihr spricht oder daneben steht, hat keinen eigenen Ausschalter. Apple ist das bewusst, deswegen weist Apple darauf hin, dass auch die Privatsphäre der Personen in der Umgebung gewahrt werden soll. Apple nennt folgende Maßnahmen:

• Keine Sprecherzuweisung. Die Audio Intelligence-Features können keine Sprecher identifizieren oder zuordnen. Siri Recap kann Namen enthalten, die im Gespräch erwähnt werden, ordnet die Sprecher aber nicht direkt zu (z. B. „John sagte …“ oder Bezeichnung als „Sprecher A“ vs. „Sprecher B“). Ganz ähnlich kann Live Rewind das Gesagte zwar wortgetreu transkribieren, aber ohne Zitate bestimmten Sprechern zuzuordnen.
• Akustische und visuelle Signale für Live Rewind. Bei Aktivierung des Features gibt der Apple Watch-Lautsprecher einen akustischen Signalton wieder, auch wenn die Apple Watch stummgeschaltet ist oder Kopfhörer angeschlossen sind. Eine Vollbild-Animation und ein Mikrofonsymbol erscheinen auf dem Display, und eine deutlich erkennbare Doppeldruckgeste ist erforderlich, um Live Rewind zu aktivieren. Dies weist Personen in der Nähe darauf hin, dass das Feature aktiviert wurde.
• Ausgelassene Inhalte. Bestimmte Inhalte werden in Siri Recaps ausgelassen, darunter potenziell schädliche Inhalte wie Formulierungen, die Selbstverletzung oder Hassrede fördern, sowie sensible Informationen wie Finanzdaten, behördliche Kennungen, Authentifizierungsdaten und bestimmte persönliche Kennungen.

Das bedeutet: Die Watch zeigt zumindest bei Live Rewind (nicht für Live Recap!) dauerhaft an, dass sie gerade aufzeichnet.

Ist das sicher?

Der entscheide Punkt ist für mich: Das System versteht die Inhalte. Apple schreibt, sensible Daten würden nicht aufgezeichnet. Aber dazu muss das System erstmal verstehen, was sensible Inhalte sind. Es erkennt, wenn jemand seine Kreditkartennummer und die PIN diktiert; oder wenn jemand sein Passwort nennt.

Es geht mir nicht darum, ob das wirklich jemand tun würde. Sondern es geht mir darum, dass ein kleines Gerät am Handgelenk, verbunden mit einem Smartphone und notfalls mit der Cloud, solche Inhalte tatsächlich versteht. Ob es diese Daten schützt oder missbraucht, ist die Entscheidung des Programmierers. Diese Technologie ist ebenso nützlich wie gefährlich.

Die Gefährlichkeit besteht nicht darin, dass etwas aufgezeichnet und später abgespielt wird. Die Gefährlichkeit besteht darin, dass eine KI die Inhalte versteht und auswertet. Apple mag das alles richtig machen — aber wer weiß, was andere Leute so am Handgelenk haben.

Reicht ein Piepston?

Live Rewind soll beim Abrufen einen Ton abspielen und einen deutlichen Hinweis auf dem Display zeigen. Das schafft zumindest Aufmerksamkeit. Aber es setzt voraus, dass alle Anwesenden das Geräusch bemerken, die Anzeige sehen und deren Bedeutung verstehen. Im Alltag ist das kaum selbstverständlich.

Bei Siri Recap ist das Problem noch deutlicher: Laut Apple gibt es für Umstehende keinen erkennbaren Hinweis darauf, dass die Funktion gerade aktiv ist.

Ebenso wenig genügt das automatische Aussortieren bestimmter sensibler Inhalte. Finanzdaten oder Zugangsdaten zu erkennen, mag helfen. Aber ein harmlos wirkender Satz kann im jeweiligen Zusammenhang sehr sensibel sein, beispielsweise in menschlichen Beziehungen und ihren Dramen.

Was folgt nun daraus?

Apples Technik verfolgt erstmal eine nützliche Absicht. Technik, die Gespräche verständlicher macht, ist unbestreitbar nützlich. Es wäre aber verkürzt, wenn man es als reine Hörhilfe betrachten würde. Eine Hörhilfe funktioniert auch ohne KI.

Wir werden in naher Zukunft Geräte haben, deren ganzer Zweck darin besteht, nonstop zuzuhören und ein Transkript zu erstellen. Aber wenn man nicht nur Selbstgespräche führt, ist eine solche Technologie in den meisten Szenarien übergriffig.

Nach meiner Ansicht sollte der Gesetzgeber (und meinetwegen die EU) hier vermitteln. Einfach deswegen, weil hier die Interessen von verschiedenen Parteien abgewogen werden müssen. Es sind eben nicht nur die Nutzer dieser Geräte, die davon betroffen sind. Sondern alle.

Mein Vorschlag an die EU wäre, den Markt für solche Funktionen nicht besonders frei zu gestalten, sondern besonders kontrolliert. Man muss ein Restaurant betreten sicher sein können, nach welchen Regeln hier gespielt wird, und zwar ohne jeden einzelnen Gast fragen zu müssen.

Ich finde außerdem, dass Apples Ingenieure sich in diesen nötigen Prozess einbringen sollten.