안녕하세요, AI 서비스 & 솔루션 프로바이더 베스핀글로벌입니다.
AWS re:Invent 2025의 [Build AI-powered developer experiences with MCP on ECS, EKS and Lambda]을 확인해보시기 바랍니다.

☑️ Keynote

세션명 Build AI-powered developer experiences with MCP on ECS, EKS and Lambda
세션코드 CNS358
발표일자 2023.12.06
강연자 Steve Kendrex , George John
키워드 1. MCP(Model Context Protocol)
2. Amazon Elastic Container Service
3. Amazon Elastic Kubernetes Service
4. LLM(Large Language Model)
5. AI Developer Experience
6. Tools
7. Resources
8. Prompts
핵심 내용 및 요약 모델 컨텍스트 프로토콜(MCP)을 활용하여 AWS ECS(Elastic Container Service) 및 AWS EKS(Elastic Kubernetes Service) 환경에서 AI 기반 개발자 경험을 구축하는 방법을 다룹니다. 
LLM이 가지는 근본적인 한계점(훈련 시점 이후의 정보 부족, 외부 시스템 접근 불가 등)을 설명하고, 이를 극복하기 위해 등장한 MCP의 세 가지 핵심 구성 요소인 도구(Tools), 리소스(Resources), 프롬프트(Prompts)를 소개합니다. 특히, AWS 컨테이너 서비스에 특화된 MCP 서버를 통해 개발자들이 복잡한 CLI 대신 자연어를 사용하여 리소스를 관리하고 문제를 해결하며 심지어 리소스를 생성할 수 있게 됨을 강조합니다. 

Build AI-powered developer experiences with MCP on ECS, EKS and Lambda

모델 컨텍스트 프로토콜(MCP)을 활용하여 ECS, EKS, Lambda 환경에서 AI 기반 개발자 경험을 구축하는 방법에 대해 소개합니다.

1. LLM의 근본적인 제약 사항과 통합의 필요성

LLM은 훈련 시점 데이터에 의존하여 실시간 정보 접근 및 특정 행동 수행에 제약이 있으며, 기존 통합 방식(RAG, 도구)은 확장성과 재사용성 측면에서 한계를 보였습니다.

1-1. LLM의 근본적인 제약 사항

LLM은 훈련된 시점의 데이터에만 의존하기 때문에 최근 출시된 정보(예: ECS Express Mode)에 대한 지식이 부족하며, 사용자 특정 데이터 접근이나 리소스 생성/구매와 같은 특정 행동 수행이 불가능합니다.

1-2. 기존 통합 방식의 한계

RAG 방식은 지식 기반을 수동으로 유지해야 하고 컨텍스트 창이 커지는 문제가 있었습니다. 또한, 도구(Tools) 개념 도입 후에도 각 모델-도구 연결마다 맞춤형 엔지니어링이 필요하여 재사용성이 떨어지는 N:M 문제가 발생했습니다.

 

2. 모델 컨텍스트 프로토콜 (MCP)의 구조

MCP는 이러한 통합의 복잡성을 해결하기 위해 등장한 개방형 표준으로, AI가 도구 및 데이터 소스와 상호작용하는 방식을 표준화 합니다.

2-1. MCP 서버의 세 가지 핵심 구성 요소

MCP 서버는 AI 에이전트의 상호작용 방식을 정의하는 세 가지 요소로 구성됩니다.

  • 도구 (Tools): 모델이 제어하며, LLM의 기능적 동작(Function)을 정의합니다 (예: 가격 조회, 웹 검색)
  • 리소스 (Resources): 애플리케이션이 제어하며, 파일, 데이터베이스 기록 등 LLM에게 컨텍스트를 제공하는 지식 기반 역할을 합니다.
  • 프롬프트 (Prompts): 사용자가 요청 및 응답의 정의를 명시적으로 지정할 수 있게 하며, 사용자가 발견하고 수정하여 사용할 수 있습니다.

3. ECS 및 EKS MCP 서버의 구체적인 구현

AWS는 개발자 생산성 향상을 위해 ECS 및 EKS에 특화된 MCP 서버를 출시했으며, 현재는 보안 및 확장성 문제로 인해 완전 관리형 원격 호스팅 서버가 프리뷰로 제공됩니다.

3-1. EKS MCP 서버 도구

EKS 서버는 클러스터 관리(생성/삭제), 쿠버네티스 리소스 관리(Pod/Service 생성, YAML 적용), 그리고 문서 및 문제 해결 도구로 분류됩니다. 특히 문제 해결 도구는 AWS 문서 인덱스 및 내부 런북을 활용하여 LLM의 지식 격차를 메웁니다.

3-2. ECS MCP 서버 도구

ECS 서버는 운영 도구, 리소스 관리 도구, 문제 해결 도구로 구성되어 있으며, 모든 도구가 읽기 전용(Read-Only)이라는 중요한 차이점이 있습니다.

3-3. 연결 요구사항

호스팅된 서버는 IAM으로 보호되므로, MCP 클라이언트(에이전트)는 MCP 프록시를 사용하여 AWS 인증 방식인 SIGV4 서명을 처리해야 합니다.

4. 콘솔 내 AI 기반 문제 해결 경험

MCP는 이러한 통합의 복잡성을 해결하기 위해 등장한 개방형 표준으로, AI가 도구 및 데이터 소스와 상호작용하는 방식을 표준화 합니다.

4-1. 콘솔 내 'Inspect with Amazon Q' 기능

EKS/ECS 콘솔에서 배포 롤백, 작업 실패 등 오류가 발생하면 "Inspect with Amazon Q" 버튼이 활성화됩니다.

4-2. 실시간 진단 및 권장 사항 제시

이 버튼을 클릭하면 Amazon Q 챗 패널이 열리고, Q는 백그라운드에서 EKS/ECS MCP 서버 도구들을 호출하여 오류의 근본 원인을 진단하고, 사용자가 직접 조치할 수 있는 권장 해결 단계를 제시합니다.