엔비디아, 차세대 플랫폼 '베라 루빈' 성능 공개

요약

엔비디아는 차세대 플랫폼인 베라 루빈(Vera Rubin) NVL72에 대해 발표했습니다. 이 플랫폼은 GPU당 고대역폭메모리(HBM) 용량이 이전 세대인 GB300 NVL72 대비 약 3% 증가했습니다. 더 주목할 점은 특정 작업 부하 환경에서 비용 대비 추론 처리량이 최대 30배에 달한다는 점을 제시했다는 것입니다. 엔비디아는 AI 모델의 규모와 문맥 길이 증가로 인해 GPU 메모리 부담이 커지고 HBM 공급이 빠듯해진 상황을 설명했습니다. 이에 대한 해결책으로 여러 기술을 제시했습니다. 구체적으로는 저정밀 데이터 형식인 NVFP4를 사용해 모델 가중치와 KV 캐시를 압축하고, 사용하지 않는 문맥 정보는 저렴한 저장 계층으로 옮기는 방안 등을 포함했습니다. 세미애널리시스(SemiAnalysis)의 테스트 결과에 따르면, 베라 루빈 NVL72는 GB300 NVL72보다 비용 대비 추론 처리량이 최대 30배 높게 나타났습니다. 이 수치는 단순 연산 속도가 아닌 비용 효율성을 나타냅니다. 한편, SK하이닉스는 주요 고객 14곳과 2027년 및 2028년 전체 생산능력의 50%를 넘는 물량을 장기 공급계약으로 묶은 것으로 알려졌습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다. 투자 판단의 근거로 삼기 전에 원문을 확인하세요.