Harbor: Apple entwickelt offenbar App für lokale KI-Modelle
Apple arbeitet offenbar an Harbor, einer Mac-App für lokale KI-Modelle. Sie soll mehrere Macs automatisch über Thunderbolt 5 zu einem Verbund verbinden.
Der Entwickler und Leaker Aaron Perris hat Hinweise auf die bislang unbekannte App entdeckt. Harbor befindet sich demnach derzeit unter Apples Marke Claris in einer privaten Vorschau.
Auf X ansehen
Harbor soll einen Mac mit Apple Silicon als privaten KI-Inferenzserver nutzen. Das bedeutet: Der Mac führt bereits trainierte Modelle lokal aus. Dabei sollen keine Nutzerdaten die Hardware verlassen oder in die Cloud gelangen. Unterstützt werden sollen Modelle mit offen zugänglichen Modellgewichten. Nutzer sollen sie direkt in der App durchsuchen, herunterladen und laden können.
Für größere Aufgaben soll Harbor mehrere Macs mit Thunderbolt 5 automatisch erkennen und verbinden. Dafür seien weder eine manuelle Konfiguration noch die Kommandozeile nötig. Die App soll den gemeinsamen Arbeitsspeicher von mindestens zwei Macs als eine Ressource für die KI-Ausführung nutzen. So könnten auch Modelle laufen, die für einen einzelnen Mac zu groß sind. Der Verbund soll zudem mehr Anfragen gleichzeitig bearbeiten können.
Die grundsätzliche Verbindung mehrerer Macs für lokale KI-Aufgaben ist bereits bekannt: Wir hatten über Apples Einsatz mehrerer Mac Studios über Thunderbolt 5 und RDMA berichtet. Neu ist nun der Fund der App Harbor, die einen solchen Verbund einfacher einrichten soll.
