HPE, 사내 AI 코딩 작업으로 토큰 비용 30~50% 절감 주장

요약

휴렛팩커드 엔터프라이즈(HPE)가 AI 코딩 에이전트의 반복 작업을 사내 프라이빗 클라우드에서 처리하여 자체 토큰 비용을 30~50% 절감했다고 밝혔습니다. HPE는 복잡한 계획은 최고 성능 모델에 사용하고, 코드 생성이나 테스트 같은 반복 작업은 사내 오픈웨이트 모델로 처리하는 하이브리드 방식을 채택했습니다. 이 방식은 LiteLLM 게이트웨이와 예산 통제를 적용하여 운영됩니다. 다만, 30~50% 절감률은 HPE의 내부 분석 결과이며, 최대 60% 절감 주장은 퍼블릭 클라우드와 비교한 별도 전망치입니다. 업계에서는 단순 작업과 복잡한 작업을 분리하여 모델을 배분하는 것이 비용 절감의 핵심 전략으로 주목받고 있습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다. 투자 판단의 근거로 삼기 전에 원문을 확인하세요.