“자율 AI”의 등장으로 인한 새로운 보안 과제 AI 에이전트는 단순한 대화형 챗봇을 넘어 실제 업무를 수행하는 단계로 진화하고 있습니다. 에이전트들은 API 호출, 코드 실행, 외부 시스템 제어 등 실제 행동(action)을 수행하며, 다수의 전문화된 에이전트가 협업하는 멀티 에이전트 패턴의 경우 에이전트-도구(tool) 연계를 넘어 에이전트 간 협업까지도 가능하게 하고 있습니다. 그러나 에이전트의 자율성이 높아질수록 새로운 보안 위협의 […] || “자율 AI”의 등장으로 인한 새로운 보안 과제
AI 에이전트는 단순한 대화형 챗봇을 넘어 실제 업무를 수행하는 단계로 진화하고 있습니다. 에이전트들은 API 호출, 코드 실행, 외부 시스템 제어 등 실제 행동(action)을 수행하며, 다수의 전문화된 에이전트가 협업하는 멀티 에이전트 패턴의 경우 에이전트-도구(tool) 연계를 넘어 에이전트 간 협업까지도 가능하게 하고 있습니다. 그러나 에이전트의 자율성이 높아질수록 새로운 보안 위협의 가능성 또한 증가합니다. 실제로 OWASP Agentic Security Initiative가 발행한 ‘Agentic AI – Threats and Mitigations’는 AI 에이전트에 대한 위협 모델로서 인증과 권한 관리와 관련된 다수의 보안 위협을 명시하고 있습니다.
권한 침해(Privilege Compromise): 권한 관리의 취약점을 악용하여 동작을 수행하는 경우로, 권한이 잘못 설정되거나 지나치게 많은 경우, 의도하지 않은 동적 권한 상속이 발생하는 경우 등이 포함됩니다.
신원 위장 및 사칭(Identity Spoofing & Impersonation): 공격자가 인증 메커니즘을 악용하여 AI 에이전트나 사용자를 사칭하고, 허위 신원으로 악의적인 동작을 수행합니다.
멀티 에이전트 시스템 대상 인간 공격(Human Attacks on Multi-Agent Systems): 공격자가 에이전트 간의 권한 위임 관계, 신뢰 관계, 혹은 워크플로우 종속성을 악용하여 권한을 상승시키거나 동작을 조작합니다.
이와 같은 새로운 보안 위협에 대응하는 과정에서 AI 에이전트 어플리케이션을 구축하는 고객들은 여러 도전적인 과제에 직면하게 됩니다.
복잡한 인증/인가 체계: 에이전트가 다양한 도구에 접근할수록 인증/인가 체계가 복잡해지고, 잠재적인 보안 위협과의 접점이 증가합니다.
인증 정보 관리의 복잡성: 인증 정보가 여러 워크로드에 분산될 경우 관리 리스크 및 인증 구현의 복잡성이 증가합니다.
동적 권한 관리의 어려움: 에이전트가 도구 실행 시 사용자를 대신해 권한 행사를 해야할 경우 해당 권한이 필요한 시점에, 필요한 권한만 부여하는 동적 권한 설정이 필수적입니다. 이때 획득된 인증 정보는 요건에 따라 유효시간 동안 유지하도록 실행 주체를 구분하여 저장하거나 1회성으로만 사용되도록 관리해야 합니다.
본 포스팅에서는 AI 에이전트를 위한 인증 관리 서비스인 Amazon Bedrock AgentCore Identity가 이러한 문제들을 어떻게 해결하는지, 그리고 이를 통해 기업형 AI 에이전트의 안전한 보안 환경을 어떻게 구현할 수 있는지 살펴봅니다.
Amazon Bedrock AgentCore Identity 소개
Amazon Bedrock AgentCore Identity는 AI 에이전트 워크로드의 안전하고 간편한 인증 구현을 위한 관리형 아이덴티티 및 자격 증명(credential) 관리 서비스로, 주요 특징은 다음과 같습니다.
중앙화된 인증 정보 관리 및 자격 증명 격리 – 에이전트가 AWS 리소스와 외부 도구에 접근하는 데 필요한 인증 정보를 중앙에서 관리하고, 발급된 자격 증명을 암호화하여 안전하게 저장합니다. 이때 각 에이전트에는 고유한 식별자가 할당되어 서로 다른 에이전트 간 구분이 가능하며, 자격 증명 저장 시에는 에이전트와 해당 에이전트를 호출한 사용자의 조합에 따라 구분하여 자체 토큰 저장소(token vault)에 저장함으로써 권한 격리를 가능하게 합니다.
개발 및 운영 복잡도 감소