Apple-Forscher beschreiben mit SimpleDesign ein KI-Modell, das Proteinsequenzen und dreidimensionale Proteinstrukturen gemeinsam erzeugt. Der Ansatz arbeitet direkt mit den Daten und verzichtet auf den bei vielen Verfahren üblichen Tokenisierungs-Zwischenschritt. Warum Apple sich mit diesem Thema befasst, ist nicht unmittelbar offensichtlich. Für Konsumenten könnte die Technik möglicherweise bei der Erzeugung von Bildern nützlich sein.

SimpleDesign erzeugt Aminosäuresequenzen und kontinuierliche dreidimensionale Strukturen in einem gemeinsamen Ende-zu-Ende-Prozess. Viele bisherige Modelle nutzen zunächst Autoencoder, die Proteinstrukturen in eine vereinfachte, tokenisierte Darstellung umwandeln. Erst danach erzeugt ein weiteres Modell neue Sequenzen und Strukturen.

Apple beschreibt SimpleDesign als Ansatz, der direkt mit Sequenzdaten und 3D-Koordinaten arbeitet. Für das Training nutzten die Forscher mehr als zwei Millionen Paare aus Proteinsequenzen und zugehörigen Strukturen. Die Daten stammten hauptsächlich aus dem AFESM-Datensatz, der vorhergesagte Strukturen aus der AlphaFold Database und weitere Proben zusammenführt.

Während des Trainings wurden sowohl Sequenzen als auch Strukturen teilweise beschädigt. Je nach Verteilung der Störungen musste das Modell eine Struktur aus einer Sequenz ableiten, eine passende Sequenz zu einer Struktur erzeugen oder beide Bestandteile gleichzeitig vervollständigen.

Laut der Studie erzielte SimpleDesign konkurrenzfähige Ergebnisse bei Benchmarks für Protein-Co-Design, Strukturerzeugung und Sequenzgenerierung. Die Autoren berichten außerdem von plausiblen erzeugten Strukturen und Sequenzen, die mindestens mit denen vieler anderer multimodaler Modelle vergleichbar waren.

Die Ergebnisse sind bislang auf Computerbewertungen beschränkt. Die erzeugten Proteine wurden nicht experimentell darauf geprüft, ob sie sich korrekt falten, eine gewünschte Funktion erfüllen oder sich in biologischen Systemen sicher verhalten.

Apple hatte zuvor mit SimpleFold ein Modell beschrieben, das dreidimensionale Proteinstrukturen direkt aus Aminosäuresequenzen erzeugt. SimpleDesign erweitert diesen Ansatz auf die gemeinsame Entwicklung von Sequenzen und Strukturen.

Die Motivation hinter dem Projekt ist unklar. Entweder ist es ein reines Forschungsprojekt, das den KI-Forschern zugestanden wird, um ihre Reputation in der Wissenschaftsgemeinde zu erhöhen. Es ist bekannt, dass Apple seinen KI-Forschern schon seit längerer Zeit solche Privilegien gewährt. Möglich ist aber auch, dass sich die Technologie übertragen lässt auf die Erzeugung von Bildern.

Quelle:
Apple Machine Learning Research: SimpleDesign