Amazon EC2 F2 인스턴스는 AWS가 제공하는 FPGA(Field-Programmable Gate Array) 기반 컴퓨팅 인스턴스로, 고객이 하드웨어 가속이 필요한 워크로드를 클라우드 환경에서 유연하게 실행할 수 있도록 설계되었습니다. FPGA는 프로그래밍 가능한 하드웨어 칩으로, 특정 연산에 최적화된 맞춤형 로직을 구현할 수 있어 범용 프로세서 대비 높은 성능과 전력 효율을 제공합니다. F2 인스턴스는 AMD Virtex UltraScale+ HBM VU47P FPGA를 탑재하고 있으며, 머신러닝 추론, 비디오 처리, 금융 분석, 유전체학(Genomics) 등 연산 집약적인 작업에 적합합니다. 특히 AWS는 FPGA Developer AMI(Amazon Machine Image)와 HDK(Hardware Development Kit)를 함께 제공해, 개발자가 FPGA 설계부터 배포까지 […] ||
Amazon EC2 F2 인스턴스는 AWS가 제공하는 FPGA(Field-Programmable Gate Array) 기반 컴퓨팅 인스턴스로, 고객이 하드웨어 가속이 필요한 워크로드를 클라우드 환경에서 유연하게 실행할 수 있도록 설계되었습니다. FPGA는 프로그래밍 가능한 하드웨어 칩으로, 특정 연산에 최적화된 맞춤형 로직을 구현할 수 있어 범용 프로세서 대비 높은 성능과 전력 효율을 제공합니다.
F2 인스턴스는 AMD Virtex UltraScale+ HBM VU47P FPGA를 탑재하고 있으며, 머신러닝 추론, 비디오 처리, 금융 분석, 유전체학(Genomics) 등 연산 집약적인 작업에 적합합니다. 특히 AWS는 FPGA Developer AMI(Amazon Machine Image)와 HDK(Hardware Development Kit)를 함께 제공해, 개발자가 FPGA 설계부터 배포까지 하나의 통합된 환경에서 수행할 수 있도록 지원합니다. 또한 AFI(Amazon FPGA Image) 형태로 FPGA 구성을 패키징하면, 필요할 때마다 동일한 하드웨어 환경을 즉시 재현할 수 있어 운영 효율성이 높습니다.
하이퍼엑셀은 이러한 F2 인스턴스의 특성을 활용해, 자사의 LPU(LLM Processing Unit) 아키텍처를 클라우드 환경으로 확장했습니다. 기존에는 물리 서버를 통해서만 제공되던 LPU 기반 LLM 추론 환경을 AWS 클라우드에 구현함으로써, 고객이 장비 제약 없이 온디맨드 방식으로 LPU의 성능을 체험하고 활용할 수 있는 기반을 마련했습니다.
본 사례는 하이퍼엑셀이 F2 인스턴스를 통해 어떻게 LPU 기반 추론 서비스를 구축했으며, 이를 통해 PoC 운영 효율성과 비용 구조를 어떻게 개선했는지를 소개합니다.
하이퍼엑셀(HyperAccel)은 LLM(Large Language Model)을 서비스에 도입하려는 기업들이 GPU 기반 인프라에서 겪는 높은 비용, 전력 소모, 확장성 한계를 해결하는 것을 목표로 LPU라는 새로운 프로세서를 개발하는 AI반도체 펩리스 스타트업입니다. LPU는 트랜스포머 기반 모델의 연산 특성에 맞춰 설계된 전용 아키텍처로, 경쟁력 있는 디바이스 비용으로 A100 GPU 대비 최대 2.15배 높은 추론 처리량