Läuft da was mit Apple und Qwen?

Eine sehr interessantes Geschehen lässt sich aktuell im Entwickler-Bereich von Apple beobachten, also auf den Webseiten, die Apple für Entwickler bereitstellt. Dort führt Apple vor, wie man die neuesten Technologien von iOS 27 und macOS 27 anwendet.

Das große Thema der letzten Keynote war zweifellos Siri AI. Mit Siri AI kann der Anwender andere Apps steuern, beispielsweise Mail oder iMessage. Damit Siri AI auch jene Apps steuern kann, die nicht von Apple stammen, müssen die Apps angepasst werden. Diese Anpassung, zusammen mit den üblichen Änderungen einer neuen Betriebssystem-Version, wird die Entwickler erstmal für die kommenden Monate beschäftigen. Es ist nicht leicht, mit Apple Schritt zu halten.

Die Entwickler sind natürlich viel mehr daran interessiert, eigene Funktionen in ihre Apps einzufügen. Denn für die bloße Kompatibilität mit Siri bekommt kein Entwickler noch Applaus.

Diese eigenen Funktionen bilden sozusagen die »zweite Welle« der Updates. Sie wird oft übersehen. Es bringt auch keine Klicks. Aber weil wir bei Mac-TV so wahnsinnige Nerds sind, möchte ich heute davon erzählen.

Die Überraschung

Jeder weiß: Apple betont die Wichtigkeit von lokalen KI-Modellen. Warum? Weil sie keine privaten Daten nach außen senden; weil sie ohne Online-Verbindung funktionieren; und weil sie kostenlos sind. Gerade der letzte Punkt ist für App-Entwickler wichtig: Wer zahlt am Ende die Rechnung, wenn man ein großes KI-Modell verwendet?

Nun würde man denken, dass Apple die eigenen Modelle empfiehlt; oder wenigstens jene, die man bei Google lizenziert hat. Doch die kleinen, lokal einsatzbaren Modelle sind für viele Zwecke zu schlecht. Sie taugen nur für sehr simple Aufgaben.

Die Lösung: Apple hat eine Architektur geschaffen, mit der ein App-Entwickler ein beliebiges Open-Source-Modell laden kann. Davon gibt es enorm viele, in allen denkbaren Größen. Man kann sie einfach als Datei laden.

Je größer das Modell ist, desto klüger ist es normalerweise. Aber man sollte natürlich nicht gedankenlos 64 GB auf der SSD verbrauchen. Deswegen muss der App-Entwickler vorsichtig abwägen, was er benötigt und was es dem Anwender wert ist. Und mal ehrlich: Welcher Anwender wird einen Download von 64 GB akzeptieren, wenn er einfach nur eine neue App ausprobieren wollte?

Apples Service

Apple löst dieses Problem mit einem fantastischen Feature, das wenig bekannt ist: Apps können große Dateien (egal welcher Art, beispielsweise auch Videos) im AppStore hinterlegen. Diese großen Dateien werden beim Installieren der App nicht geladen. Dadurch erhält der Anwender einen schnellen Download der App, und er kann sie erstmal ausprobieren. Vielleicht wird die große Datei nicht sofort benötigt.

Sobald die Datei aber benötigt wird, kann man den Anwender vorab fragen, ob er sie wirklich laden will. Man könnte unterschiedlich große Versionen zur Auswahl anbieten. Oder man könnte die Datei automatisch im Hintergrund laden, sobald der Anwender einen bestimmten Bereich der App zum ersten Mal benutzt. Vielleicht zeigt man ihm ein Erklär-Video, und im Hintergrund lädt die große Datei, sodass es der Anwender nicht bemerkt.

Das bedeutet: Wenn die App ein Erfolg wird, können z.B. hunderttausend Anwender eine Datei laden, die vielleicht eine Größe von 32 GigaByte hat — das ist ein riesiger Traffic!

Dass Apple sowas erlaubt und auch noch ermuntert, ist… krass. Man kann ja den AppStore und die gierigen Gebühren kritisieren, aber dann sollte man auch erwähnen, was dafür geboten wird. Diese Funktion ist ein sehr guter Service für die Anwender und für die Entwickler.

Apples Botschaft

Apples Botschaft an die Entwickler ist laut und deutlich: »Denkt Euch erstaunliche Anwendungen aus, wir unterstützen Euch!« Von der Zurückhaltung, die in den Interviews mit Fred Craigerighi oft zu hören ist, fehlt jede Spur. Im Gegenteil: Vollgas nach vorne!

Und anders als in den öffentlichen Interviews gibt Apple gegenüber den Entwicklern unumwunden zu, dass die eigenen Modelle für viele Zwecke nicht ausreichen.

Apples Lücke

In der Öffentlichkeit ist wenig bekannt, dass eine riesige Lücke klafft zwischen Apples winzigen lokalen Modellen und den gigantischen Server-Modellen von Gemini, die Apple lizenziert hat.

Geschlossen wird diese Lücke von Open-Source-Modellen in allen nur erdenklichen Größen. So funktioniert es: Von einem großen Modell werden kleinere Modelle abgeleitet. Dafür reduziert man die Genauigkeit aller Zahlen, aus denen das Modell intern besteht. Aus 0,267381723178238721 wird beispielsweise 0,26. Dadurch spart man man sehr viel Speicherplatz, und darum geht es.

Danach wird dieses reduzierte Modell weiter trainiert: Das große Modell stellt dem kleinen Modell eine Aufgabe und verrät ihm anschließend, ob die Lösung richtig war. Durch diesen Vorgang, millionenfach wiederholt, gewinnt das kleine Modell einen Teil der Intelligenz zurück, die es durch die reduzierte Genauigkeit der Zahlen verloren hatte. Das ist natürlich nur einer von vielen Tricks, und ich stelle es zudem nur skizzenhaft dar.

Jedenfalls existieren von manchen Modellen zahlreiche Varianten in unterschiedlichen Größen. Und diese Modelle – nicht Google! – schließen Apples Lücke. Ist das nicht interessant?

Ich heiße Qwen

China ist führend bei Open-Source-Modellen. Man kann gar nicht übertreiben, wie enorm bedeutsam das ist. In den USA und teilweise auch in Europa wird China als einer der großen Feinde betrachtet (neben Russland), und es gibt gute Gründe dafür. Aber hier geht’s um Technik. Das Tempo und die Cleverness, mit dem diese offenen KI-Modelle aus China fortentwickelt werden, ist atemberaubend.

Qwen ist ein Modell, das von Alibaba angeboten wird. Alibaba kann man sich vorstellen wie Amazon, jedoch mit dem Unterschied, dass Alibaba zwischen Geschäftskunden vermittelt und auf eigene Lager weitgehend verzichtet. Sondern Alibaba vermittelt lediglich. Der Umfang ist gigantisch: Es geht um hunderte Milliarden Dollar jährlich. Für den Export ist Alibaba wesentlich. Wenn z.B. private Händler auf Amazon irgendwelchen bekloppten Schrott für erstaunlich wenig Geld verkaufen — das haben sie zuvor bei Alibaba bestellt.

Der SPIEGEL berichtete im Jahr 2020, Alibaba würde pro Sekunde über eine halbe Million Bestellungen verarbeiten. Pro Sekunde! Daran kann man sehen, dass Alibaba vor allem ein riesiges Datenmonster ist. Deswegen hat Alibaba auch die Kapazität und das Interesse, eigene KI-Modelle zu entwickeln.

Die Häufigkeit, mit der Apple irgendwelche Qwen-Modelle zeigt, ist sicherlich kein Zufall. Nichts ist bei Apple Zufall.

Zum Vergleich: Apple hat einen Deal geschlossen mit OpenAI, sich aber anschließend kaum darum gekümmert. Dann hat Apple einen Deal geschlossen mit Google, aber Apple gibt sich alle Mühe, Googles Beteiligung kleinzureden. Im Entwickler-Bereich, wo es eigentlich rauf und runter erklärt werden müsste, muss man es mit der Lupe suchen. Stattdessen findet man: Qwen.

Was genau können diese Modelle von Qwen? Was verraten sie uns über die Zukunft der Macs und der mobilen Geräte? Sind sie irgendwann so gut, dass man auf OpenAI und Google pfeifen kann?

Das erkläre ich im nächsten Teil.

PS: Findest Du das überhaupt interessant?