클라우드 업체 Lambda가 NVIDIA Photonics 공동 패키징 광학(CPO) 스위치를 사용해 GPU 10,000개 이상을 담은 NVIDIA GB300 NVL72 랙을 연결하고 있다. NVIDIA는 이 설계가 AI 팩토리 네트워크의 전력 사용을 줄이고 복원력을 높이며 평균 중단 간격을 늘려 준다고 밝혔다. NVIDIA는 2026년 11월 16일 SC26 발표의 일부로 세부 내용을 공개했다.

네트워크는 AI 클러스터에서 눈에 잘 띄지 않는 부분이다. 모델을 학습하려면 수천 개의 GPU가 함께 일해야 하므로 이들을 잇는 링크는 빠르고 효율적이며 끊기지 않아야 한다. NVIDIA에 따르면 대규모 학습 작업에서는 링크 하나가 끊겨도 수천 개의 GPU가 멈출 수 있다.

Lambda는 무엇을 측정했나

NVIDIA에 따르면 Lambda의 테스트에서 세 가지가 확인됐다.

  • 네트워크 지연 시간이 랙 규모에서 약 4%, 포드 규모에서 최대 약 10% 줄었다.
  • 랙, 확장 가능 유닛, 포드 구성 전반에서 처리량은 기존 플러거블 광학 부품과 같았다.
  • Lambda는 광학 부품의 중간 온도가 36°C로, 기존 플러거블 광학 부품의 51°C보다 낮고 신호 무결성도 더 안정적이라고 보고했다.

Lambda의 클라우드 서비스 사장 Dave Ward는 “네트워크는 갈수록 커지는 AI 클러스터의 요구를 따라가야 한다”고 말했다.

스위치는 어떻게 작동하나

포트마다 트랜시버를 꽂는 대신, 공동 패키징은 광학 엔진을 스위치 칩 옆 같은 패키지에 둔다. NVIDIA는 이렇게 플러거블 트랜시버를 대체하면 기존 플러거블 광학 부품보다 전력 효율이 최대 5배, 신뢰성이 최대 15배 높아지고 레이저 수가 4분의 1로 줄어 고장 날 부품도 적어진다고 설명했다.

NVIDIA가 Lambda 도입에 대해 밝힌 세부 내용은 다음과 같다.

  • 각 스위치에는 800Gb/s로 동작하는 포트가 144개 있다.
  • 액체 냉각이 스위치 칩과 광학 엔진의 열을 제거한다.
  • 각 스위치에는 탈착 가능한 외부 광원이 18개 있어, 레이저가 고장 나도 트랜시버 전체 대신 광원 모듈만 현장에서 교체할 수 있다.
  • 공동 패키징은 전기 경로를 인치 단위에서 밀리미터 단위로 줄이고 리타이머 칩을 없애, 전력 소모와 신호 경로의 부품 수를 줄인다.

Lambda 자체 전력 수치는

Lambda는 2026년 6월 1일 NVIDIA Quantum-X Photonics 스위치 엔지니어링 샘플에 대한 글을 올렸다. Q3450-LD라는 이 제품은 4U 크기에 115.2 Tb/s의 논블로킹 스위칭 용량을 갖추고, 같은 800G 포트 144개와 탈착식 광원 모듈 18개를 제시한다.

Lambda는 소비 전력을 3.95 kW로, 표준 스위치는 7.0 kW로 제시해 스위치당 3.05 kW를 절감한다고 밝혔다. GPU 10,368개 규모의 GB300 NVL72 클러스터에서는 CPO 스위치 216대, 네트워크 전력 658 kW 절감, GPU 470개에 해당하는 규모로 계산했다.

Lambda는 단서도 달았다. CPO가 배치 가능한 GPU 수를 자동으로 늘리는 것은 아니며, 랙 배치, 냉각, 전력 분배가 그 전력을 어떻게 쓸지 결정한다는 것이다. 또 기존 플러거블 트랜시버를 쓰는 GPU 128,000개 규모 데이터센터에는 약 655,000개의 모듈이 필요하고 각각이 고장 지점이 될 수 있으며, 이 규모의 3계층 클러스터에서 백엔드 패브릭이 네트워킹 전력의 86%를 차지한다고 설명했다.

가격은 얼마인가

NVIDIA의 글과 Lambda의 설명 어디에도 스위치나 Lambda GPU 용량의 가격은 나와 있지 않다. 가격과 제공 시기는 NVIDIA와 Lambda에 직접 문의해야 한다.

어떤 사람에게 맞나

AI 인프라와 데이터센터 기획 담당자. 전력, 온도, 신뢰성 수치가 가장 쓸모 있다. 10,000개가 넘는 GPU 규모에서 네트워크 계층이 전력과 중단 면에서 얼마나 비용을 만드는지 보여 주기 때문이다.

GPU 용량을 빌려 쓰는 팀. Lambda는 클라우드 업체이며, 네트워크 중단이 줄어드는 효과는 긴 작업에서 특히 중요하다. 고객의 서비스나 요금이 달라지는지는 출처에 나와 있지 않다.

훨씬 작은 클러스터 운영자. 이 수치는 10,000개 이상의 GPU를 갖춘 도입 사례에서 나온 것이어서 몇 개 랙 규모에 대한 약속으로 읽어서는 안 된다.

독립적인 수치를 원하는 사람. 위 측정값은 모두 NVIDIA 또는 Lambda에서 나왔고, 외부 테스트는 포함되지 않았다. 비율은 업체가 보고한 값으로 봐야 한다.

아직 알려지지 않은 점

출처는 설치 장소, 클러스터를 쓰는 Lambda 고객 수, 스위치의 일반 출시 시점을 밝히지 않았다. 이번 도입의 소비 전력 수치도 NVIDIA와 Lambda는 공개하지 않았다.

기술적 세부 내용은 Lambda 도입에 관한 NVIDIA의 글과 Quantum-X Photonics 스위치에 대한 Lambda의 설명에서 확인할 수 있다.