안녕하세요, AI 서비스 & 솔루션 프로바이더 베스핀글로벌입니다.
AWS re:Invent 2025의 [INV204]을 확인해보시기 바랍니다.

☑️ Keynote

세션명	Build and scale AI: from reliable agents to transformative systems
세션코드	INV204
발표일자	2025.12.01
강연자	Erin Kraemer, John S. Kim, Mark Brooker, Jason Vogrinec
키워드	Agentic AI · Trust by Design · Amazon Bedrock Agent Core, AI Agent Memory · Observability · Responsible AI, Enterprise AI · Customer Experience Automation, AWS Trainium · Strands Framework
핵심 내용 및 요약	AI Agent 시대의 핵심은 “얼마나 똑똑한가”가 아니라 “얼마나 신뢰할 수 있는가” AWS는 Agentic AI를 프로덕션까지 안정적으로 확장할 수 있도록 신뢰(Trust) 를 중심에 둔 아키텍처와 플랫폼을 제시 Amazon Bedrock Agent Core를 중심으로 • 메모리(Memory) • 관측 가능성(Observability) • 보안·거버넌스(Security & Governance) • 운영 편의성(Ease of Use) 을 기본 내장 실제 엔터프라이즈 사례(Sendbird, Lyft)를 통해 AI Agent가 매출·CX·운영 효율로 이어진 사례 공유“POC는 쉽다, 하지만 운영(Production)은 다르다” → 운영을 전제로 한 AI Agent 설계의 중요성 강조

1. AI Agent 확장의 가장 큰 장벽은 ‘신뢰(Trust)’

AWS는 이번 세션에서 명확하게 정의합니다. “신뢰 없는 확장은, 빠르게 커지는 리스크일 뿐이다.”
AI Agent는 비결정적(non-deterministic) 특성을 가지며 ▲같은 입력에도 다른 결과 ▲예외 상황에서 무한 루프 ▲로그·추적 부재로 원인 파악 불가 같은 문제가 자주 발생합니다.

실제 Gartner 전망에 따르면 👉 2027년까지 Agentic AI 프로젝트의 40% 이상이 중단될 것으로 예측됩니다. 그래서 AWS는 “더 좋은 프롬프트”가 아니라 인프라·플랫폼 레벨에서 신뢰를 내재화하는 전략을 택했습니다.

2. AWS의 Agentic AI 4대 신뢰 기반(Pillars)

AWS가 제시한 Agentic AI 신뢰의 4가지 핵심 요소는 다음과 같습니다.

2-1. Reliability (신뢰성)

• 글로벌 AWS 인프라 기반
• GPU / AWS Trainium / 고성능 EC2
• 수년간 미션 크리티컬 시스템을 운영한 검증된 안정성

2-1. Reliability (신뢰성)

• 글로벌 AWS 인프라 기반
• GPU / AWS Trainium / 고성능 EC2
• 수년간 미션 크리티컬 시스템을 운영한 검증된 안정성

2-2. Transparency (투명성)

• Agent의 모든 행동 추적
• Tool 호출, 메모리, 의사결정 흐름 감사 가능
• Re-play / Trace / Audit 지원

2-3. Safety & Governance (안전성)

• 최소 권한 원칙(Least Privilege)
• 세션 격리(Sandbox)
• GDPR / HIPAA 등 규제 내장
• Bedrock Guardrails 기반 콘텐츠·보안 통제

2-4. Ease of Use (운영 용이성)

• 개발자뿐 아니라 PM, 운영자도 사용 가능
• Strands Framework + Agent Core로 빠른 구현
• 운영·관측·확장까지 일관된 경험

3. Amazon Bedrock Agent Core – “운영 가능한 AI Agent”

Mark Brooker가 소개한 Amazon Bedrock Agent Core는 “에이전트를 실제 운영 환경까지 올리기 위한 플랫폼”입니다.

3-1. 주요 기능

• Agent Memory
- 사용자 선호, 컨텍스트 자동 추출
- 세션간 기억 유지

• Observability
- 단계별 실행 추적
- 실패 지점 정확히 파악

• Security / Identity
- 테넌트 격리
- 안전한 외부 웹 접근

• Cost & Performance 관리

- 토큰 비용 폭증 방지
- 코드 실행 기반 비용 최적화

핵심 메시지

“Agent는 답변하는 것이 아니라, 행동(Action)하는 시스템이다.”

4. 고객 사례 ① Sendbird – Delight AI (AI 고객 컨시어지)

Sendbird는 AWS와 함께 Delight AI를 구축

4-1. 성과

• BJ’s (미국 대형 유통사)
- 평균 주문 금액 20% 증가
- AI Agent 사용 고객 구매액 6배 증가

• 항공·푸드딜리버리 업계
- 고객 불만 감소
- 상담 티켓 자동 해결률 대폭 상승

4-2. 핵심 설계 포인트

• Memory: 고객 대화 속 맥락 기억
• Omni-channel Presence: 앱·웹·콜·SMS 연속 경험
• Trust OS: 관측·제어·사람 개입 구조 내장

5. 고객 사례 ② Lyft – 고객 지원의 AI 전환

Lyft는 AI Agent를 비용 절감이 아닌 ‘경쟁력’으로 접근

5-1. 결과

• 평균 응답 시간: 수일 → 3분 이내
• 전체 문의의 55% 자동 해결
• 상담 접근성 오히려 강화

5-2. Lyft의 교훈

• 내부 테스트보다 실제 고객 트래픽이 중요
• AI Agent는 전통적 로드맵과 다름
• 빠른 반복(Iteration)이 필수

6. 베스핀글로벌 관점 시사점

AWS re:Invent 2025에서의 메시지는 명확합니다. “AI Agent는 이제 기술 실험이 아니라 운영 시스템이다.” 베스핀글로벌은 AWS 파트너로서 Bedrock / Agent Core 와 같은 AI 서비스에 더해 고객의 실제 비즈니스 성과로 이어지는 AI Agent 도입을 지원하고 운영을 효율적이고, 안정적으로 할 수 있도록 돕습니다.

• Bedrock / Agent Core 기반 AI Agent 아키텍처 설계
• 보안·거버넌스 포함한 엔터프라이즈 적용
• MSP 관점 운영·관측·비용 관리
• CX / IT Ops / 보안 자동화 영역 확장