핵심 정보
Astera Labs는 AI 인프라 구축을 간소화하기 위한 모듈형 랙 스케일 레퍼런스 디자인인 Orion을 공식 발표했습니다. 컴퓨팅 독립형 방식을 활용하는 이 아키텍처를 통해 기업 및 네오클라우드 고객은 선호하는 CPU와 GPU 조합을 선택할 수 있으며, 표준 랙을 효율적인 AI 팩토리로 전환하는 것을 목표로 합니다.
이 디자인은 랙 구성을 특정 가속기 플랫폼과 분리함으로써 업계의 주요 병목 현상을 해결합니다. Orion은 PCIe 플러그인 카드를 사용하여 다양한 컴퓨팅 리소스를 지원하며, 시장 역학 변화에 따라 하드웨어를 재설계할 필요 없이 운영자가 추론 워크로드를 확장할 수 있도록 합니다. 이 시스템은 포드당 최대 160개의 가속기를 지원하며, 고성능 패브릭을 활용하여 저지연 통신을 보장합니다.
Orion은 컴퓨팅, 패브릭, 메모리 트레이를 비롯하여 COSMOS 랙 매니저 및 패브릭 매니저 소프트웨어와 같은 포괄적인 구성 요소 제품군을 포함합니다. 이러한 도구는 전체 플릿에 대한 원격 측정, 진단 및 오케스트레이션 기능을 제공합니다. Pravin Patel에 따르면 이 아키텍처는 달러당 토큰 효율성에 중점을 두어 공급자가 변화하는 컴퓨팅 환경에 적응할 수 있도록 지원합니다.
회사는 2026년 캘리포니아 산호세에서 열리는 Open Compute Project Global Summit에서 교체 가능한 컴퓨팅 트레이를 갖춘 Orion 랙을 시연할 계획입니다. Astera Labs의 OEM 및 ODM 파트너를 통한 상용화는 현재 2027년 1분기에 시작될 예정입니다.
