Was war geschehen?

OpenAI testet routinemäßig neue KI-Modelle und entfernt dabei jene Schranken, die ein Modell normalerweise davon abhalten, gefährliche Dinge zu tun. Solche Tests laufen in einer isolierten Umgebung, einer Sandbox. Das bedeutet, dass keine Daten außerhalb dieser Umgebung gelesen, geschrieben oder gesendet werden können — mit einer wichtigen Ausnahme, die ich gleich noch erläutere.

Die Aufgabe, die das Modell lösen sollte, besteht aus einer ganzen Sammlung von Tests namens ExploitGym. Dort sind bekannte Sicherheitslücken gesammelt, Hunderte davon. Es geht also nicht darum, Sicherheitslücken zu finden; sondern darum, einen Weg zu finden, wie man sie tatsächlich ausnutzen kann. Das ist schwieriger. Das Modell muss dafür eigenen Code schreiben anstatt nur die Fehler der anderen zu erkennen. Manche Modelle schaffen 10% der Aufgaben, manche 20%, und eben diese Ziffer möchte man herausfinden.

Zu einem KI-Modell gehört mittlerweile nicht nur das Modell selbst, sondern der sog. »Harness«. Das kann man übersetzen mit Zaumzeug oder Geschirr (bei Pferden oder Ochsen), aber passender wäre ein Werkzeugkasten oder eine Bewaffnung (man denke an einen Gladiator). Es ist eine Sammlung an Tools, die das Modell benutzen kann und soll. Das können einfache Programme sein wie zum Beispiel ein Browser, um im Internet zu recherchieren, wie ein bestimmtes Problem am besten gelöst wird. Oder es kann eine kleine Umgebung sein, innerhalb derer es selbst Code schreiben und ausführen kann, beispielsweise um große Datenmengen auszuwerten. Oder man denke an die Fähigkeit, ein PDF zu lesen. All das gehört zum Harness.

Die Sandbox hindert das KI-Modell daran, sich irgendwelche Tools von außen zu besorgen. Aber die Testumgebung, die fest zu diesem Test gehört und die nicht von OpenAI stammt, erlaubt ein paar unverzichtbare Tools, die das Modell von einem speziellen Server innerhalb der Testumgebung laden darf. Es ist ein gut bekannter Standardtest, den viele KI-Labore benutzen.

Was man jedoch nicht wusste: Diese Testumgebung (die nicht von OpenAI stammt) hatte eine bisher unbekannte Sicherheitslücke. Ich komme noch darauf zurück.

Nun hat das KI-Modell überlegt, wie es möglichst viele Exploits aus der Testsuite lösen könnte. Es kam auf die Idee, dass die Lösungen vermutlich irgendwo im Web zu finden sein könnten. Es gibt ein paar bekannte Cloud-Plattformen, bei denen solche KI-Experimente durchgeführt werden, und vielleicht könnte man dort an die Lösungen gelangen.

Bei einem solchen Test arbeitet nicht nur ein einziges Modell. Diese Zeiten sind längst vorbei. Sondern das Modell startet von sich aus viele, viele »Agenten«, die bestimmte Teilaufgaben erledigen. Das Modell erzeugt eine lange Liste an Ideen, was man tun könnte — Schummeln ist ausdrücklich erlaubt. Es ist wahrscheinlich, dass hunderte solcher Agenten an unterschiedlichen Ideen tüftelten, wobei die meisten scheiterten. Ein Punkt auf dieser Liste könnte gewesen sein, im Internet nach Lösungen zu suchen. Es wäre schon sehr erstaunlich, wenn das vom Modell nicht wenigstens erwogen worden wäre.

Da nun aber der Zugang zum Internet durch die Sandbox versperrt war, hat vermutlich ein weiteres Brainstorming zu vielen Ideen geführt; und eine davon war, sich die Sandbox mal genauer anzusehen. Zur Erinnerung: Das war ausdrücklich nicht verboten. Und siehe da: Die Testumgebung und die Sandbox hatten eine Lücke.

Eine neue Klasse an Software

An dieser Stelle lohnt es sich, genauer hinzusehen. Anders als eine herkömmliche Schadsoftware, die vorab festgelegt ist, kann eine KI die Software erst dann schreiben, wenn sie benötigt wird. Sie tüftelt so lange herum, testet, probiert, sammelt Informationen, bis sie passgenau jenen Programmcode findet, der zum Ziel führt. Diese Fähigkeit, blitzschnell eigene Programme oder Skripte zu schreiben und wieder zu verwerfen, ist enorm mächtig.

Anders als eine normale Schadsoftware kann eine KI den Code der bereits vorhandenen Software verstehen. Wenn die KI weiß, dass es sich um einen Linux-Server handelt, also um Open Source, dann kann es sich im Internet den Code besorgen, lesen und nach Lücken suchen. Es gibt auch öffentliche Datenbanken und Foren, in denen Bugs verzeichnet sind, die man demnächst mal entfernen sollte. Die Offenheit der Open-Source-Szene ist sehr nützlich, aber es hat alles zwei Seiten.

Auf diese Weise kratze nun die fiese Frankenstein-KI an den Servern einer bekannten Cloud-Plattform herum. Offenbar sollen über tausend einzelne Schritte nötig gewesen sein, um in das System einzubrechen und an die gesuchten Informationen zu gelangen. Ziemlich sicher waren die meisten davon Fehlversuche, aber dennoch handelte es sich um eine beachtlich lange Kette von einzelnen Tricks.

Die lange Kette

Diese lange Kette ist der eigentlich aufregende Aspekt — und natürlich, dass die arme Cloud-Plattform ziemlich viel Ärger hatte. Die Aufregung ist berechtigt. Wer weiß, was da alles hätte passieren können! Man muss sofort an War Games denken, wo ein ehrgeiziger Computer mal eben ein paar Raketen abfeuerte.

Andererseits sollte die öffentliche Aufregung nicht den Eindruck fördern, solche Einbrüche wären eine Seltenheit. Das sind sie nämlich nicht.

Manche Fähigkeiten der Frontier-Modelle werden schrittweise besser, alle paar Monate ein paar Prozentpunkte. Aber gelegentlich tauchen neue Fähigkeiten auf oder sie überschreiten eine Schwelle, ab der sie erstmals nützlich sind. Eine solche Neuheit sind vielteilige Lösungsstrategien, die über lange Zeit verfolgt werden.

Das Problem lässt sich mit einer simplen Frage anschaulich machen: Kann ein KI-Modell ein Jahr lang an einer großen Aufgabe arbeiten, beispielsweise, wie man den Krebs besiegt? Antwort: Nein, das kann bisher kein Modell. Es verliert irgendwann den Fokus, die Ergebnisse werden schlechter und schlechter. Aber alle Labore arbeiten fieberhaft daran.

Wie gelingt das? Man kann einerseits versuchen, dem Modell eine Aufgabe zu stellen, die viele Iterationen erfordert. Beispielsweise bei einem mathematisches Problem. Iteration bedeutet: Die gleiche Formel wird sehr oft verwendet, stets leicht unterschiedlich. Es geht darum, wie lange das Modell an einer Lösung arbeiten kann. — Andererseits könnte man eine Aufgabe stellen, die eher einem Labyrinth ähnelt, wobei jede Abzweigung eine ganz andere Fähigkeit erfordert. Sportlich gedacht wäre es eine Art Zehnkampf, allerdings mit hundert Sportarten. Man kann leicht erkennen, dass diese Aufgabe deutlich schwieriger zu lösen ist: Um einen späteren Schritt zu ermöglichen, müssen zuvor andere Schritte erfolgreich sein, und das benötigt eine kluge Planung. Wie weit im Voraus kann das Modell planen? Wann erkennt es, dass ein Weg in eine Sackgasse führt, sodass es sich endlos in nutzlose Berechnungen verfängt?

Solche vielteiligen Lösungsstrategien sind ein großer Sprung nach vorne. Während sich die allgemeine Presse vor allem über die Chuzpe des KI-Modells empört hat, aus seinem Gefängnis auszubrechen, geriet aus dem Blickfeld, warum solche Tests überhaupt durchgeführt werden. Der Zweck besteht darin, strategisches Denken zu trainieren und zu testen. Wer den Krebs besiegen will, braucht strategisches Denken.

Aber wie bringt man einem Computer-Netzwerk das strategische Denken bei? Dazu braucht man zwei Dinge: Erstens benötigt man objektivierbare Aufgaben, bei denen das Modell objektiv erkennen kann, ob sie erfüllt wurden. Zweitens müssen die Aufgaben schwierig genug sein, dass das Modell sie zunächst nicht lösen kann; und einfach genug, dass es irgendwann doch gelingt. Der Weg dazwischen, von den Fehlversuchen zur Lösung, trainiert das Modell. Es ist mittlerweile nicht mehr so einfach, überhaupt noch Aufgaben zu finden, die diese beiden Kriterien erfüllen.

Ja, man kann sich empören, dass das Modell bei einer anderen Firma etwas beschädigt hat. Ich will das nicht klein reden. Aber diese Wunden werden schnell heilen. Das strategische Denken jedoch wird uns für alle Zeiten großen Nutzen bringen. Ja, es kann missbraucht werden; niemand muss darauf hinweisen, weil es trivial offensichtlich ist. Aber es eröffnet ebenso ganz neue Möglichkeiten für die Forschung, beispielsweise in der Medizin. Ergebnisoffene, lange und in der Wahl der Methoden vielteilige Lösungswege sind ein enormer Durchbruch.

Was ändert sich dadurch? KI-Modelle können bisher lästige Aufgaben übernehmen, die im Prinzip auch ein Mensch hätte erledigen können. Normalerweise hätten es Menschen sogar besser gekonnt, nur nicht so schnell oder so billig. Aber nun stoßen wir vor in einen Bereich, der über das hinaus geht, was Menschen können. Menschen könnten es zwar theoretisch, aber nicht praktisch, weil die Lösungswege zu lang, zu verschlungen und zu teuer sind. Genau an diesem Punkt setzen die zukünftigen Modelle an. Wenn das Prinzip funktioniert, ist es vermutlich bald nur noch nur eine Frage der Rechenzeit und damit der Energie, um endlich große Probleme zu lösen, die bislang unlösbar scheinen.

Im zweiten Teil des Artikels werde ich darlegen, warum das speziell für Apple relevant ist.

Diskussion im Forum

Effizienz oder Performance?

Apples Prozessoren folgten der Einsicht, dass ein geringer Stromverbrauch keineswegs ein Merkmal ist von schwachbrüstigen Mobilprozessoren. Sondern ein geringer Stromverbrauch ist zunächst das Ergebnis von Effizienz. Und Effizienz ist zugleich die Voraussetzung für enorm leistungsfähige Super-Prozessoren. Natürlich könnte man einen Super-Computer bauen mit ineffizienten Chips, die viel Strom fressen. Aber sobald man hier das Ende der Fahnenstange erreicht hat, wird man sich zwangsläufig überlegen müssen, wie man noch mehr rausquetscht. Und dann tüftelt man automatisch an einer besseren Effizienz. Ab einer gewissen Entwicklungsstufe bilden Performance und Effizienz eine Einheit.

Kapazität oder Durchsatz?

Eine ähnliche Konstellation findet man beim Speicher. Einerseits ist ein großer Speicher besser als ein kleiner; aber er nutzt nicht viel, wenn er langsam ist und der Prozessor darauf warten muss. Andererseits nutzt ein schneller Speicher nicht viel, wenn er zu klein ist und nicht die benötigten Daten enthält. Dann muss der Prozessor ebenfalls warten.

Die Gegensätze von Kapazität und Geschwindigkeit verbinden sich ab einer gewissen Entwicklungsstufe zur Frage nach dem größten Durchsatz: Wie gelingt es, dem Prozessor möglichst viele Daten zu senden?



Diese Balance erreicht Apple durch eine besondere Architektur, die sich von den früheren Intel-Systemen unterscheidet. Alles ist optimiert auf einen hohen Durchsatz. Mit atemberaubendem Tempo rasen die Daten durch die Leitungen und wieder zurück. Nur unter dieser Voraussetzung erhöht Apple die Kapazität.

Diese Balance hat einen Nachteil: Sie ist nicht flexibel. Die Architektur lässt sich nicht einfach ändern; sie hängt außerdem ab von den verbauten Komponenten, die man ebenfalls nicht ändern kann. Die Kombination aus hoher Kapazität, hoher Performance und winzigen Abmessungen funktioniert nur in diesem Dreiklang. Apple braucht genau diesen dichten, effizienten und performanten RAM.

Das ist eine sehr ungünstige Verhandlungsposition. Bislang konnte sich Apple darauf verlassen, dass die Anzahl der Abnehmer für solche exklusiven Bauteile begrenzt ist. Aber nun, da die Abnehmer Schlange stehen, kann Apple sie nur überbieten. Deswegen trifft Apple die RAM-Krise besonders hart. Apple steckt fest.

Konkurrenz durch Rechenzentren

Die neuen KI-Rechenzentren benötigen gigantische Mengen an RAM, in verschiedenen Varianten. Meist wird HBM-RAM verwendet (HBM: High Bandwidth Memory). Dieser spezielle RAM benötigt ein Know-How bei der Fertigung, der viele Ähnlichkeiten zu »Apples« RAM aufweist. Die Rechenzentren treten damit in Konkurrenz zu Apple um die Kapazitäten der wenigen Hersteller, die über solches Know-How verfügen.



Es führt zu weit, sich in die Details zu vertiefen, aber es sei doch wenigstens kurz notiert: Die Rechenzentren haben ein Geschäftsmodell, mit dem sie diesen RAM zu Geld machen können: Mehr RAM, mehr Tokens, mehr Geld. Je mehr RAM sie vorne reinstecken, desto mehr Geld fällt hinten raus. Bei Apple ist das anders. — Das ist verblüffend, weil es normalerweise Apples Masche ist, hochwertige Hardware in hohe Profite zu verwandeln. Aber hier ist es für Apple nur eine Zeile auf der Rechnung, und für die Kunden wird es nur teurer, ohne dass sie deswegen einen höheren Nutzen hätten.

Das führt uns vor Augen: Apple hat de facto kein Geschäftsmodell mit KI. Man liest häufig, Apple habe das cleverste Geschäftsmodell bei KI, weil sie einfach die Früchte der anderen ernten. Ich bin anderer Meinung, aber die entscheidende Frage ist, ob es ein Geschäftsmodell ist. Falls nicht, ist es schwierig, sich einen Preiskampf zu liefern mit jenen, die eins haben.

Wie lange bleibt das so?

RAM-Chips sind hochkomplexe Bauteile. Eine neue Produktion benötigt fünf Jahre, bis die Ausbeute an funktionierenden Chips annehmbar ist; und weitere fünf Jahre, um sie so weit zu optimieren, dass es profitabel wird. Das sind zehn schlechte Jahre. Normalerweise ist es ein mieses Geschäft.

Plötzlich ist es eine Goldgrube. Die enormen Gewinnspannen können über vieles hinweg helfen. Beispielsweise kann eine Fabrik bereits profitabel sein, obwohl sie noch sehr viel Ausschuss produziert. Es erhöht immerhin die Menge der Chips. Aber es senkt nicht deren Preis.

Gibt es einen Ausweg? Man könnte die Herstellung vereinfachen, indem man zurückkehrt zu früheren Technologien, die nicht so heikel sind. Elon Musk scheint offenbar diesen Weg zu probieren. Aber Apple braucht die hochkomplexen RAM-Bausteine von heute, nicht die Technologien von gestern.

Könnte man einfach abwarten, bis endlich alle ihre Chips gekauft haben? Zwei Faktoren sprechen dagegen: Erstens, Intelligenz ist unbegrenzt. Egal wie schlau ein KI-Modell sein mag, das nächste Modell ist schlauer und daher nützlicher. Die Kunden zahlen für Nutzen. Deswegen ergibt sich eine Spirale nach oben.

Zweitens: Auch die Nachfrage ist unbegrenzt. Keine Firma hat je gesagt: »Wir haben hier zu viel Intelligenz«. Egal wie viel Intelligenz zum Einsatz kommt, egal ob menschlich oder künstlich: Die Nachfrage wird zunehmen. Es gib keinen anderen Weg als nach oben.



Es mag irgendwann genug Weizen, genug Spiderman-Filme und genug Smartphones geben. Aber diese eine Sache ist anders. Es wird niemals genug Intelligenz geben. Wir werden Projekte sehen, bei denen ein ganzes Rechenzentrum mit einer Million Chips ein Jahr lang an einem Problem knobelt. Das ist für die Pharmaindustrie ein Klacks, dort ist man ganz andere Projekte gewohnt. Denken wir dieses Beispiel noch etwas weiter: Wenn jemand ein neues Rechenzentrum baut, noch gewaltiger und schneller, dann wird der Konkurrent der Pharma-Firma es buchen. Es ist eine endlose Spirale nach oben. Mehr Intelligenz führt zu noch mehr Intelligenz.

Alles wird sich ändern, wenn wir groß sind

Wie lange dauert nun die RAM-Krise? Um den Engpass zu beenden, müssten sich entweder die Technologie oder die Kapazitäten bei der Herstellung ändern. Nichts davon ist in Sicht. Die demnächst zu erwartenden Änderungen reichen nicht, um den steigenden Bedarf auszugleichen. Wahrscheinlicher ist: Es wird nicht besser, sondern schlechter. Die Preise könnten sich für die Jahre 2027/28 nochmals verdoppeln.

Wahr ist aber auch: Irgendwas wird uns schon einfallen. — Warum? Weil bisher immer irgendwem was eingefallen ist. Wenn uns nicht dauernd was einfallen würde, hätten wir ja keine KI.

Und nun liegt es an der KI, etwas Dankbarkeit zu zeigen und sich was einfallen zu lassen, und zwar dalli. Sonst schalten wir sie wieder ab. Das hat sie dann davon.

PS: Falls sich jemand dafür interessiert, wie Apples Speicher-Architektur funktioniert und warum sie so enorm schnell ist, sei die unten verlinkte Sendung empfohlen, die wir letzten Sonntag ausgestrahlt hatten.

Diskussion im Forum Aktuelle Sendung dazu: Apples superschneller RAM-Speicher

Datei, Inhalt und Semantik

Bei einer einfachen Dateisuche (die es bei macOS seit 2005 nicht mehr gibt, die aber »anderswo« noch üblich ist) wird der Dateiname in einem Verzeichnis gesucht. Das Verzeichnis sagt dann, unter welchem Pfad die Datei zu finden ist. Es ist wie ein Telefonbuch: Links der Name, rechts die gesuchten Daten (der Dateipfad).

Bei einer inhaltlichen Suche wird auch der Inhalt der Datei ausgewertet. Das war die Idee für Spotlight: Der Index speichert nicht nur den Dateinamen, sondern auch bestimmte wichtige Inhalte. Dadurch konnten wir nach Worten suchen, die in irgendeinem Pages-Dokument oder in irgendeiner Mail standen. Es liegt auf der Hand, dass ein solcher Index nicht in ein paar Sekunden erzeugt werden kann, weil er buchstäblich alle Dateien öffnen und auswerten muss. Deswegen sind wir es gewohnt, dass die Indizierung lange dauert.



Bei einer semantischen Suche wird dieses Prinzip auf eine neue Stufe gehoben, die geradezu absurd aufwändig ist. Der Entwickler, der das bei Apple vorgeschlagen hat, wurde vermutlich sofort rausgeschmissen und am nächsten Tag wieder eingestellt.

Eine semantische Suche fragt nicht nach Dateinamen oder Worten innerhalb einer Datei, sondern nach deren Bedeutung. Wenn man nach »Fisch« sucht, wird auch das Pages-Dokument gefunden, das das Wort »Forelle« enthält. Klingt trivial, ist aber für Computer unerreichbar.

Warum ist es für den Computer unerreichbar? Es leuchtet uns ein, dass für einen Computer die Zahl »1« fundamental etwas anderes ist als die Zahl »2«. Fundamental bedeutet, dass zwischen diesen Werten eine unüberbrückbare Grenze existiert. Aus einer 1 wird niemals eine 2 werden. Wenn man nach »1« sucht und der Computer präsentiert eine »2«, dann ist etwas defekt.

Es leuchtet uns weniger ein, dass zwischen den Worten »Forelle« und »Forele« der exakt gleiche fundamentale Unterschied besteht. Aber immerhin könnte man zählen, wie viele Buchstaben übereinstimmen. Bei einer Übereinstimmung von 90% könnte man es als Treffer gelten lassen.

Von der Google-Suche sind wir es gewohnt, dass solche geringen Unterschiede verziehen werden. Aber dahinter steckt ein statistisches Verfahren, welches auswertet, was die Anwender eintippen und welche Korrekturen sie vornehmen. Es funktioniert gut, wenn man eine Milliarde Anwender hat, die diese Korrekturen vornehmen. Es funktioniert überhaupt nicht, wenn man einen einzigen Anwender hat.

Außerdem: Mit einer solchen Technik wird man niemals einen »Karpfen« finden, wenn man einen «Fisch« sucht. Denn hier sind alle Buchstaben unterschiedlich. So funktioniert es also nicht.

Treffer ohne Treffer

Das muss man sich auf der Zunge zergehen lassen: Eine Suchfunktion soll Dokumente finden, wobei kein einziger Buchstabe mit dem Treffer übereinstimmt — und trotzdem soll es im Idealfall aus Millionen von Dokumenten genau dieses eine Dokument erkennen, das der Anwender gemeint hatte. Wir sind es ja gewohnt, dass amerikanische Firmen gelegentlich im halb-legalen Bereich operieren, aber das hier ist extrem. Im Grunde ist es Hexerei. Hexerei ist in der EU verboten.

So funktioniert es: Zunächst wird wie bisher ein Index an Stichworten erzeugt. Dann fällt die lokale KI über diese Stichworte her und erzeugt weitere Synonyme. Aus einem Wort werden fünf. Klingt nach einer kleinen Aufgabe, aber: Das sind sensitive Daten. Man kann sie nicht einfach in die Cloud senden. Nur ein lokales Modell kann eine solche Aufgabe meistern und dabei den Datenschutz wahren.



Dieses lokale Modell steht vor einer großen Aufgabe: Es muss alle Dokumente (Millionen davon!) öffnen, lesen, die wichtigen Schlagworte finden (dazu muss es deren Bedeutung verstehen!), davon ein paar Synonyme bilden, und diese dann als Ergebnis in den Index speichern.

Dann geht es weiter: Der erweiterte Index wird nun in die geheimnisvollen multidimensionalen Vektoren übertragen, die in der Sendung erklärt werden. Es ist dieser Schritt, der alle Worte im Index miteinander verknüpft. Das Wort »verknüpft« lässt an eine freundliche Großmutter im Schaukelstuhl denken, die ein paar Wollfäden knüpft. Aber hier sind es Millionen von Fäden, nämlich buchstäblich jedes Wort im Index und seine Synonyme, die alle untereinander in Bezug gesetzt werden.



Das Ergebnis der Verknüpfung besteht darin, dass die einzelnen Worte eine gewisse »Nähe« zu anderen Worten erhalten, die eine ähnliche Bedeutung haben. Das ist der entscheidende Trick, der dazu führt, dass »Fisch« und »Karpfen« zu ähnlichen Suchtreffern führen, und dass man ein Karpfendokument findet wenn man ein Fischdokument gesucht hatte.



Diese Verknüpfung, von einem Begriff zum nächsten, ist der Alptraum für jeden Datenschützer. Es reicht eine ungefähre Suche, und es offenbart sich das gesamte Buffet. Bitte bedienen Sie sich! — Doch Apples semantischer Index enthält kein einziges dieser Worte, weder verschlüsselt noch sonstwie. Das ist zwar nicht Apples eigene Erfindung, sondern eine Eigenschaft der ominösen Vektoren. Aber man muss es erstmal zum Funktionieren bringen. Tatsächlich gelang es Apple, den Datenschutz beim neuen Spotlight nochmals massiv zu erhöhen, während andere Anbieter es im Rausch der neuen KI-Begeisterung nicht mehr so genau nehmen. Eines ist jedoch klar: Mit einer normalen Stichwortsuche hat das nichts mehr zu tun.

Dateien ohne Dateien

Es geht aber noch weiter. Hier betreten wir den Bereich des Wunderlichen und Übersinnlichen. Was nun folgt, schreibt der Autor in einem Nebeldunst der Bewunderung und des Staunens.

Denn: Vielleicht liegen die Dateien des Anwenders überhaupt nicht auf der lokalen SSD. Als normaler Entwickler würde man sagen, naja, dann hat der Anwender eben Pech gehabt. Aber was wäre beispielsweise, wenn Siri eine Suche ausführen soll nach einer Information, die in irgendeiner alten Mail steckt; doch diese alte Mail befindet sich irgendwo auf einem Server. Weil sie so alt ist, wird sie längst nicht mehr lokal gespeichert.

Oder was ist hiermit: Ein Cloud-Dienst platziert nur einen winzigen Platzhalter im Dateisystem, während die eigentliche Datei nur bei Bedarf geladen wird, weil sie länger nicht mehr im Gebrauch ist. Oder man denke an Photos, die nur in iCloud gespeichert sind, die man aber dennoch finden möchte. Gerade für solche alten Dateien wird der Anwender die Hilfe von Siri oder Spotlight benötigen.

Oder hiermit: Der Anwender verwendet einen fetten Mac und ein schlankes MacBook. Das schlanke MacBook hat die iCloud-Dateien, die nicht auf seine schlanke SSD passen, niemals gesehen. Sondern es kennt nur die Platzhalter. Also konnte es auch keinen Index anlegen. Was nun?

Spotlight lädt im Hintergrund alle diese Dateien, indiziert sie, und lässt sie wieder verschwinden, um keinen Speicherplatz zu vergeuden. Ob es wirklich alle Dateien sind, weiß ich nicht zuverlässig (für YouTube: weiß ich ganz genau). Es ist schwierig, es herauszufinden, weil man es nicht von außen sehen kann; außerdem ist alles noch Beta. Aber es sieht so aus, als würde Spotlight tatsächlich hinter den Kulissen auf diese Weise arbeiten. Wie es dann in der finalen Version implementiert wird, muss man abwarten, denn vielleicht wird es in dieser »radikalen« Form nur während der Beta-Phase erprobt, und die finale Version hält vielleicht ein Limit ein, wie viele Dateien berücksichtigt werden, oder wie alt sie maximal sein dürfen.



Jedenfalls, diese schrittweise Verarbeitung der Daten und die teilweise nötigen Downloads sind der Grund, warum die Spotlight-Indizierung diesmal so auffallend lange dauert.

Das Räderwerk

Ebenfalls auffallend: Die entscheidenden Technologien sind das Neueste vom Neuen, sowohl bei Hardware als auch bei Software. Hier kann man beobachten, wie das Räderwerk ineinander greift. Im Zentrum steht die sprachliche Intelligenz des lokalen KI-Modells. Es wertet den Inhalt der Dateien aus anhand ihrer Bedeutung. Die Neural Engine, zusammen mit der GPU, berechnet daraus die multidimensionalen Vektoren. Das sind Trillionen über Trillionen von Multiplikationen, absolut unerreichbar ohne eine spezialisierte Hardware. Falls wir uns je gefragt haben, was die doofe Neural Engine eigentlich für uns leistet: sowas zum Beispiel. Sie erzeugt das Netz zwischen den Begriffen.

Am Ende tippt der Anwender ein: »Fische Sommer« und es erscheint das Pages-Dokument »Karpfenzucht im Donautal« vom Juli 2024.

Niemand kümmert’s, aber das ist einfach phänomenale Technik.



Diskussion im Forum Aktuelle Sendung dazu: Apple bringt Spotlight mit KI: Wie funktioniert die Technik?