엔비디아, CUDA 13.4에 작업별 GPU 메모리 제한 기능 추가
엔비디아의 최신 기술 업데이트는 AI 인프라 구축 시 자원 관리의 정교함이 중요해지고 있음을 보여줍니다.
요약
엔비디아는 CUDA 13.4 버전의 MPS V3에 작업별 GPU 메모리 제한 기능을 추가했다고 발표했습니다. 이 기능은 쿠버네티스 환경에서 컨테이너별 GPU 메모리 사용 범위를 설정할 수 있게 합니다. 메모리 제한은 목표치인 '소프트 한도'와 최대치인 '하드 한도'로 구분되며, 하드 한도를 넘으면 오류가 발생합니다. 다만, 이 기능을 사용하려면 적절한 드라이버(R615 이상)와 리눅스 cgroup v2 환경 구축이 필수적입니다. 또한, 쿠버네티스 클러스터에서는 Operator와 스케줄러 구성 등 전반적인 인프라 설정이 필요하며, 엔비디아는 KAI Scheduler가 이 기능을 통합한 최초의 스케줄러라고 밝혔습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다. 투자 판단의 근거로 삼기 전에 원문을 확인하세요.
원문 제목 엔비디아, CUDA 13.4에 작업별 GPU 메모리 제한 추가
원문 보기 ↗