Wichtige Informationen
Astera Labs hat offiziell Orion angekündigt, ein modulares Rack-Scale-Referenzdesign, das den Einsatz von KI-Infrastruktur rationalisieren soll. Durch einen Compute-agnostischen Ansatz ermöglicht diese Architektur Unternehmenskunden und Neocloud-Anbietern die Auswahl ihrer bevorzugten CPU- und GPU-Kombinationen, mit dem Ziel, Standard-Racks in effiziente KI-Fabriken zu verwandeln.
Das Design adressiert bedeutende Engpässe in der Branche, indem es Rack-Konfigurationen von spezifischen Beschleunigerplattformen entkoppelt. Orion nutzt PCIe-Steckkarten zur Unterstützung verschiedener Rechenressourcen, was es Betreibern ermöglicht, Inferenz-Workloads zu skalieren, ohne ihre Hardware bei sich ändernden Marktdynamiken neu gestalten zu müssen. Das System unterstützt bis zu 160 Beschleuniger pro Pod und nutzt ein Hochleistungs-Fabric, um eine Kommunikation mit geringer Latenz zu gewährleisten.
Orion umfasst eine umfassende Suite von Komponenten, wie Compute-, Fabric- und Memory-Trays, sowie die Software COSMOS Rack Manager und Fabric Manager. Diese Tools bieten flottenweite Telemetrie-, Diagnose- und Orchestrierungsfunktionen.
Laut Pravin Patel konzentriert sich die Architektur auf die Token-pro-Dollar-Effizienz, was es Anbietern ermöglicht, sich an die sich entwickelnde Rechenlandschaft anzupassen. Das Unternehmen plant, ein betriebsbereites Orion-Rack mit austauschbaren Compute-Trays auf dem Open Compute Project Global Summit 2026 in San Jose, Kalifornien, zu demonstrieren. Die kommerzielle Verfügbarkeit über die OEM- und ODM-Partner von Astera Labs ist derzeit für das erste Quartal 2027 geplant.
