안녕하세요, AI 서비스 & 솔루션 프로바이더 베스핀글로벌입니다.
AWS re:Invent 2025의 [The Future of Agentic AI is Here]을 확인해보시기 바랍니다.

☑️ Keynote

세션명 The Future of Agentic AI is Here
세션코드 KEY002
발표일자 2025.12.03
강연자 Swami Sivasubramanian
키워드 1. Agentic AI (에이전틱 AI)
2. Amazon Agent Core
3. Episodic Memory (에피소드 기억)
4. Automated Reasoning (자동 추론)
5.Amazon Bedrock Reinforcement Fine-Tuning (RFT)
6. SageMaker AI Serverless Customization
7. Amazon Q 
8. Nova Forge
9. SageMaker Hyperpod Checkpointless Training
10. Amazon Connect Agentic Teammates
핵심 내용 및 요약 

1. 에이전트 구축의 용이성 및 기능 확장: Agent Core를 통해 복잡한 애플리케이션 및 서드파티 통합(Slack, Zoom 등)을 단 몇 줄의 코드로 구현할 수 있게 되었습니다. 특히 에이전트의 행동 제어(Policy) 및 테스트/평가(Coils) 기능을 추가하여 신뢰성을 높였습니다.

2. 에이전트 지능 향상: 에이전트가 과거 경험과 상호작용의 시점과 이유를 기억하고 적응하게 하는 에피소드 기억(Episodic Memory) 기능을 Agent Core 장기 기억에 도입하여 지능적인 고객 맞춤 서비스를 가능하게 했습니다.

3. 모델 맞춤화를 통한 효율성 극대화: AI 대규모 배포의 핵심 과제인 효율성(응답 속도, 비용, 확장성)을 위해 지도 미세 조정(SFT), 모델 증류(Distillation), 강화 학습(RL) 등의 맞춤화 기술을 Amazon Bedrock 및 SageMaker AI를 통해 일반 개발자도 쉽게 사용할 수 있도록 제공합니다.

4. 신뢰성 및 정확성 확보: LLM의 환각(Hallucination) 문제와 오류를 해결하기 위해 자동 추론(Automated Reasoning)과 LLM을 결합한 신경-기호 AI (Neuro-Symbolic AI) 접근 방식을 채택하여 Amazon Q(Kira) 및 Agent Core Policy에 적용, 높은 수준의 신뢰성과 제어력을 제공합니다.

5. 신뢰할 수 있는 자동화 실현: 엔터프라이즈 UI 워크플로우 자동화를 위한 신규 서비스 Amazon Q Act를 출시했습니다. 강화 학습(RL)을 기반으로 90%의 신뢰도를 달성하며, 기존 RPA나 일반 LLM 기반 자동화의 한계를 극복했습니다.

6. 미래의 협업: AWS는 Amazon Q 자율 에이전트(개발, 보안, DevOps) 및 Amazon QuickSight AI 에이전트와 같이, 인간과 AI 에이전트가 협력하여 일하는 에이전틱 팀원(Agentic Teammates) 시대가 올 것이라고 강조했습니다.

The Future of Agentic AI is Here

Agent Core 기반의 확장성 있는 에이전트 구축부터 지능 향상, 모델 맞춤화 효율성, 신뢰성과 정확성 강화, 신뢰 가능한 엔터프라이즈 자동화까지 AI 활용 전반의 혁신에 대해 소개합니다.

1. 에이전트 구축의 용이성, 기능 확장 및 고객 혁신

1-1. Agent Core의 근본적 이점

Agent Core는 개발자가 실제로 가치를 창출하는 획기적인 경험에  집중할 수 있도록 어려운 작업을 대신 수행합니다. 핵심은 모듈성에 있으며, 필요한  구성 요소만 섞어 사용함으로써 솔루션 구축의 복잡성을 줄입니다.

 

1-2. Identity 및 Access Management 해결

복잡하고 시간을 많이 소모하는 문제인 ID 및 접근 관리(IAM)를 Agent Core Identity를 통해 AWS 앱과 Slack, Zoom 같은 서드파티 앱 전반에 걸쳐 몇 줄의 코드로 구현 가능하게 합니다. 이는 인증 흐름, 보안 프로토콜, API 통합 등 수주가 걸릴 작업을 단순화합니다.

 

1-3. Agent Core의 새로운 신뢰 기능

에이전트 상호작용 및 동작에 대한 실시간, 결정론적, 감사 가능한 제어를 제공합니다. 에이전트에게 자율성을 부여하는 동시에 안전하게 운영할 수 있는 경계를 설정합니다.

Agent Core Coils (03:14): 에이전트를 출시하기 전에 수천 개의 시뮬레이션 시나리오에서 평가하고 테스트할 수 있도록 지원하여, 에이전트 출시 시 신뢰성 문제를 사전에 해결합니다.

 

1-4. 주요 고객 혁신 사례

Cox Automotive: 견적 시간 2일에서 30분 미만으로 단축시킵니다.
Heroku: Agent Core Runtime을 사용해 PoC에서 5주 만에 웹 앱 구축 및 서비스를 런칭하였습니다.
PGA TOUR: 다중 에이전트 콘텐츠 생성 시스템을 구축하여 콘텐츠 작성 속도를 1000% 향상하고, 비용을 95% 절감하였습니다.
Kalin: Agent Core를 기반으로 재구축하여 수천 줄의 커스텀 오케스트레이션 코드 삭제 및 Ops 오버헤드 70%를 절감하였습니다. 더불어 새로운 멀티-턴 에이전트 추론 기능을 확보하였습니다. 

 

2. Blue Origin의 우주 탐사 혁신

2-1. 에이전틱 AI의 가치

Blue Origin의 우주 접근 비용 절감 임무는 학습하고, 적응하며, 추론, 계획 및 사고를 설명할 수 있는 Agentic AI를 통해 가속화되고 있습니다. AI는 더 이상 꿈이 아니라 현실 구축의 핵심 요소입니다.

2-2. 도메인 전문가 에이전트 팀

로켓 구축에 필요한 수많은 전문 지식(공학, 제조, 소프트웨어 등)은 일반 LLM에는 없으며, 시스템, 데이터베이스, 부족 지식(Tribal Knowledge)에 묻혀 있습니다. Agentic AI는 특정 지식과 커스텀 도구에 접근하는 도메인 전문가 에이전트 팀을 구성함으로써 AI 적용 방식을 완전히 변화시켰습니다.

2-3. Blue GBT 플랫폼 및 도입 성과

Blue Origin은 내부 생성형 AI 플랫폼인 Blue GBT를 구축했습니다. 이는 LLM/MCP 게이트웨이, 에이전트 마켓플레이스, 멀티 에이전트 오케스트레이션 시스템을 포함하며, AWS의 Bedrock, Agents, EKS 등을 기반으로 합니다. 

지난 한 달간 70%의 임직원이 350만 건 이상의 상호작용을 통해 2,700개 이상의 에이전트를 생성하여 사용 중입니다.
소프트웨어 엔지니어의 95%가 코드를 작성하는 데 에이전트를 사용하고 있습니다.

3. 모델 효율성 확보를 위한 맞춤화 기술 및 인프라

3-1. 효율성 확보의 중요성

에이전트를 대규모로 배포할 때, 효율성은 단순히 비용뿐만 아니라 지연 시간(Latency), 대규모 확장성(Scale), 민첩성(Agility)과 직결됩니다. 대부분의 에이전트는 일상적인 작업에 시간을 보내므로, 특정 작업에 맞게 모델을 맞춤화(Customization)하는 것이 핵심입니다.

3-2. Amazon Bedrock의 RFT(강화 미세 조정)

 

기존 강화 학습(RL)의 복잡성(PhD 수준의 전문 지식, 막대한 비용, 개발 시간)을 제거하고, Bedrock에서 RL 워크플로우를 자동화하여 일반 개발자도 사용할 수 있게 했습니다. LLM 기반 심판(Judge) 기능을 보상 함수로 사용하여 모델을 수정하며, 평균 66%의 정확도 향상을 제공합니다.

3-3. Nova Forge

전통적인 맞춤화 기법이 해결할 수 없는 도메인 특화 지능을 위해 출시되었습니다. 수백만 달러의 비용과 시간을 절약하면서, 아마존의 큐레이션된 데이터에 고객의 독점 데이터를 중간 학습 단계(Mid-training Cycle)에 혼합하여 자체 프론티어 모델을 구축할 수 있도록 지원합니다.

3-4. SageMaker Hyperpod의 학습 탄력성

학습(Checkpointless Training) 기능을 도입했습니다. 분산 클러스터 전반에서 모델 상태를 지속적으로 보존하여, 인프라 장애 발생 시 기존처럼 전체 클러스터를 멈추고 체크포인트로 복구하는 대신, 단 몇 분 만에 자동으로 복구합니다. 이는 대규모 AI 가속기 클러스터에서도 멈춤 없이 학습을 지속하게 하여 비용을 절감합니다.

4. 신뢰할 수 있는 에이전트 및 협업의 미래

4-1. Amazon Q  기반 개발

Amazon Q는 사양 주도(Specification-driven) 접근 방식을 사용합니다. 개발자가 자연어로 정의한 애플리케이션의 동작 속성(Specification)을 기반으로 코드를 생성하고, 자동 추론을 사용하여 이 사양에 대한 프로그램의 정확성을 증명합니다. 또한 이 사양을 사용하여 테스트를 생성하고, 에이전트가 생성하는 코드가 최신 AWS API를 준수하는지 확인할 수 있습니다.

4-2. 에이전틱 팀원과 협업의 미래

AWS는 Amazon Q의 프론티어 에이전트 (개발자, 보안, DevOps 에이전트)와 Amazon QuickSight의 비즈니스 인텔리전스 에이전트 등, 자율적이고 지속적이며 대규모로 확장 가능한 에이전트를 인간 옆에 배치하는 Agentic Teammates의 비전을 제시합니다. 이를 통해 인간은 지루한 작업을 제거하고 가장 사랑하는 일에 집중할 수 있게 됩니다.

5. 마무리

5-1. 강조할 핵심 메시지

자동화'가 아닌 '변화': 단순히 기존 작업을 빠르게 자동화하는 것이 아니라, AI 에이전트가 새로운 제품, 서비스, 비즈니스 모델을 창출하는 근본적인 변화(Transformation)*의 주역입니다.
빌더 커뮤니티의 역할: AWS가 기술을 제공하지만, 궁극적으로 이 기술을 활용하여 불가능해 보이던 문제를 해결하고 놀라운 것을 창조하는 것은 빌더 커뮤니티라는 점입니다. 

5-2. AWS가 에이전틱 AI 분야에서 경쟁 우위를 점하는 방식을 세 가지 핵심 축

  • 에이전트 구축의 용이성 (Ease of Building)
    Agent Core, Strands, AI SDK
  • 효율성 및 성능 (Efficiency & Performance)
    Bedrock RFT, SageMaker Serverless Customization, Nova Forge
  • 신뢰성 및 안전성 (Trust & Reliability)
    Neuro-Symbolic AI, Agent Core Policy, Amazon Q Act

5-3. 총평

AWS re:Invent 2025 The Future of Agentic AI is Here 를 통해  Agent Core를 통한 에이전트 구축의 용이성, 에피소드 기억을 통한 지능 향상, 그리고 Amazon Bedrock/SageMaker의 혁신적인 맞춤화 기술을 통해 에이전트의 효율성을 극대화하는 데 초점을 맞췄습니다.

또한, AI와 Amazon Q로 신뢰성과 자동화를 높여, 모든 조직이 AI 에이전트를 신뢰할 수 있는 팀원으로 활용하는 미래를 현실로 만들고 있습니다.

이번 세션의 핵심은 용이성, 효율성, 신뢰성을 바탕으로 모든 빌더가 AI 에이전트를 통해 혁신하고, 인간과 AI가 협력하는 '에이전틱 팀원' 시대를 ‘가속화’하는 것입니다.