UCMP 소개 오늘날 대부분의 기업들은 AWS, GCP, Azure 등 다양한 클라우드 환경을 활용해 서비스를 개발하고 있습니다. 하지만 클라우드 사업자마다 계정 구조와 운영 정책이 달라 사용자 입장에서는 환경마다 서로 다른 방식으로 관리해야 하는 불편함이 있습니다. 이러한 문제를 해결하고 일관된 사용자 경험으로 클라우드를 운영할 수 있도록 LG유플러스는 자체 클라우드 관리 플랫폼 UCMP(Uplus Cloud Management Platform)를 구축해 멀티 […] ||
UCMP 소개
오늘날 대부분의 기업들은 AWS, GCP, Azure 등 다양한 클라우드 환경을 활용해 서비스를 개발하고 있습니다. 하지만 클라우드 사업자마다 계정 구조와 운영 정책이 달라 사용자 입장에서는 환경마다 서로 다른 방식으로 관리해야 하는 불편함이 있습니다. 이러한 문제를 해결하고 일관된 사용자 경험으로 클라우드를 운영할 수 있도록 LG유플러스는 자체 클라우드 관리 플랫폼 UCMP(Uplus Cloud Management Platform)를 구축해 멀티 클라우드 환경을 통합 관리하고 있습니다.
UCMP를 통해 사용자들은 분산된 클라우드 정보를 한곳에서 확인할 수 있게 되었고 최근에는 빠른 의사결정과 운영 효율화를 지원하기 위해 다양한 AI 활용 방안을 검토하였습니다. 이 과정에서 수백 개의 AWS 계정을 관리하는 UCMP 환경에서는 다수의 사용자가 동시에 접근하더라도 안정적으로 확장 가능한 Agent 인프라가 필수적이었습니다.
이번 글에서는 LG유플러스가 이러한 조건을 고려해 AWS Bedrock AgentCore Runtime을 선택한 이유와 이를 기반으로 Agent를 빠르고 안전하게 개발·배포한 과정을 소개합니다.
왜 클라우드 관리에 AI Agent를 도입했을까?
UCMP는 최적의 클라우드 환경을 유지하기 위해 다양한 클라우드 데이터를 한눈에 확인할 수 있는 기능들을 제공하고 있지만 모든 세부 항목을 담기에는 한계가 있었습니다. 일부 정보는 여전히 계정별 콘솔에 로그인해 확인해야 했고 사용자들은 이 과정에서 불편함을 느끼곤 했습니다.
이러한 한계를 해소하기 위해 LG유플러스는 AI Agent를 도입해 UCMP를 ‘필요한 정보를 스스로 제공하는 플랫폼’으로 발전시키고 있습니다. UCMP Agent는 단순한 질의응답을 넘어 실제 클라우드 데이터를 수집하고 분석해 의미 있는 정보를 제공할 수 있습니다. 이를 통해 개발자, 운영자, 사업 담당자 모두가 UCMP 내에서 필요한 내용을 쉽게 확인할 수 있게 되었습니다.
왜 AgentCore Runtime을 선택했는가?
AI Agent를 프로덕션 환경에 배포하는 것은 생각보다 복잡한 과제입니다. Agent는 일반적인 API 서버와 달리 사용자별로 독립된 대화 세션을 유지해야 하고 LLM 호출과 외부 도구 실행을 반복하는 복잡한 워크플로우를 처리해야 합니다. 특히 LG유플러스처럼 대규모 세션 처리가 예상되는 환경에서는 탄력적인 인프라 선택이 더욱 중요합니다.
기존 배포 옵션의 한계
AWS Lambda는 서버리스 환경으로 관리 부담이 적지만, 15분의 실행 시간 제한이 있습니다. 복잡한 클라우드 분석 작업이나 여러 계정을 순회하며 데이터를 수집하는 작업은 15분을 초과할 수 있어 적합하지 않았습니다.
Amazon EKS는 실행 시간 제한이 없고 유연한 확장이 가능하지만, 클러스터 관리, Pod 스케일링 설정, 리소스 최적화 등 운영 부담이 큽니다. 특히 세션별로 격리된 환경을 제공하려면 추가적인 아키텍처 설계가 필요합니다.
AgentCore Runtime의 차별점
AWS Bedrock AgentCore Runtime은 AI Agent 배포를 위해 특별히 설계된 서버리스 런타임 환경입니다. Lambda의 관리 편의성과 EKS의 유연성을 결합하면서도, Agent 특화 기능을 제공합니다.
Bedrock AgentCore Runtime
Lambda
EKS
실행단위
세션(대화)
함수
Pod
리소스