AMD와 메타, 파이토치 GPU 연산 최적화 기술 공개

요약

AMD와 메타는 파이토치(PyTorch) 프레임워크에서 AMD 그래픽처리장치(GPU)의 연산 경로를 최적화하는 FlyDSL 연동 결과를 발표했습니다. 단일 AMD 인스팅트 MI355X GPU를 이용한 vLLM 테스트에서 MXFP4 조건의 요청 전체 성능이 기존 ATen 대비 최대 3.01배 향상된 것으로 측정되었습니다. 두 회사는 기술 보고서를 통해 FlyDSL을 인스팅트 MI350 시리즈의 기존 파이토치 연산자에 연결하는 방법과 성능 측정 결과를 공개했습니다. 이 기술을 사용하면 사용자가 지원되는 연산에 대해 별도의 맞춤형 커널 호출 없이 FlyDSL을 적용할 수 있으며, GEMM, 어텐션, MXFP8·MXFP4 스케일드 행렬곱 등이 지원됩니다. 실제 추론 요청을 처리하는 vLLM A/B 테스트에서는 단일 MI355X에서 최대 요청 전체 성능 향상률이 MXFP4 조건에서 3.01배에 달하는 것으로 나타났습니다. 이번 발표는 새로운 GPU 공개보다는 기존 GPU의 파이토치 연산 경로를 확장하는 데 초점을 맞추고 있으며, AMD는 인텔과의 x86 CPU 최적화 협력도 별도로 진행했습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다. 투자 판단의 근거로 삼기 전에 원문을 확인하세요.