AWS und Qumulo zeigen KI-Training über getrennte Cloud-Regionen
Ein neuer Praxisbericht untersucht, wie Trainingscluster auf räumlich getrennte Datensätze zugreifen. Im beschriebenen Versuch glich ein Cache nach einer Aufwärmphase den Durchsatz an.
Rechenkapazität und Daten an verschiedenen Orten
AWS und Qumulo haben am 25. September einen Ansatz für KI-Training über mehrere Cloud-Regionen beschrieben. Er verbindet SageMaker HyperPod mit Qumulos Speicher- und Datenzugriffstechnik. Ziel ist, Trainingsressourcen nutzen zu können, obwohl der ursprüngliche Datensatz in einer anderen Region liegt.
Im veröffentlichten Vergleich lief derselbe Trainingsauftrag auf zwei getrennten Clustern: einer nahe den Daten in Ohio, einer mit entferntem Zugriff aus Oregon. Nach einer kurzen Aufwärmphase erreichte der entfernte Cluster laut Bericht denselben Durchsatz. Die Autoren führen dies auf die Cache-Nutzung zurück.
Keine allgemeine Zusage ohne Datenübertragung
Das Ergebnis gilt für den beschriebenen Versuch. Entferntes Lesen und Zwischenspeichern sind weiterhin Datenverarbeitung und können Übertragung verursachen. Die Möglichkeit, auf eine vollständige Vorabkopie zu verzichten, sollte daher nicht als Beleg dafür gelesen werden, dass überhaupt keine Daten die Ursprungsregion verlassen.
Einordnung: Zugriffsmuster bestimmen den Nutzen
Ein Cache hilft besonders dann, wenn bereits gelesene Informationen erneut gebraucht werden. Wie groß dieser Vorteil ausfällt, hängt vom konkreten Trainingsablauf ab. Ein Datensatz, der ständig neue Abschnitte liefert, stellt andere Anforderungen als ein häufig wiederholter Zugriff auf dieselben Inhalte.
Für einen eigenen Vergleich wäre deshalb sinnvoll, den vollständigen Lauf einschließlich seiner Anfangsphase zu betrachten. Neben dem Durchsatz gehören Übertragungsvolumen, Speicherkosten und Wiederanlaufzeiten zur Auswertung. Nur die schnellste Phase eines Versuchs würde kein vollständiges Bild liefern.
Die Architektur kann zusätzliche Möglichkeiten bei der Platzierung von Rechenressourcen eröffnen. Ob sie wirtschaftlich und organisatorisch passt, muss anhand der tatsächlichen Datenwege und Nutzungsbedingungen geprüft werden.
Kommentare