 |
|
안녕하세요, AI 서비스 & 솔루션 프로바이더 베스핀글로벌입니다.
AWS re:Invent 2025의 [Agentic AI for member-owned financials: Systems that serve]을 확인해보시기 바랍니다.
|
☑️ Keynote
| 세션명 |
Agentic AI for member-owned financials: Systems that serve |
| 세션코드 |
AIM337 |
| 발표일자 |
2025.12.3 |
| 강연자 |
Murali Ramanathan, Mrudhula (Mrud) Balasubramanyan |
| 키워드 |
1. Agentic AI
2. Amazon Bedrock Agent Core
3. Strands Agents
4. A2A 통신 |
| 핵심 내용 및 요약 |
1. aws bedrock agent core를 기반으로 하며, Agent Core Runtime, Agent Memory, Agent Core Gateway, Agent Core Identity, Agent Core Browser, Agent Core Interpreter, Agent Core Observability 등의 구성 요소를 활용합니다.
2. AWS re:Invent 세션에서 공개된 이 콘텐츠는 agentic ai를 활용한 회원제 금융기관의 대출 심사 자동화 시스템 구축 방법을 다룹니다. 이 세션은 AWS Agent Core와 Strands Agents를 활용하여 대출 신청 처리 과정을 획기적으로 단축하고 고객 만족도를 높이는 엔드투엔드 솔루션을 구체적으로 시연합니다. 특히, A2A(Agent-to-Agent) 프로토콜 기반의 다중 에이전트 협업 구조와 코드 인터프리터를 이용한 동적 로직 실행 방식을 통해, 실용적이고 확장 가능한 AI 에이전트 시스템을 어떻게 구축하고 운영하는지에 대한 핵심적인 기술 통찰을 얻을 수 있습니다. |
|
Agentic AI for member-owned financials: Systems that serve
AWS Bedrock Agent Core 기반의 구성 요소와 A2A 기반 멀티 에이전트 협업을 활용한 회원제 금융기관의 대출 심사 자동화를 구현하는 엔드투엔드 솔루션 구축 방법을 소개합니다.
|
1. Agentic AI를 활용한 회원제 금융기관 대출 심사 자동화 시스템 소개
이 세션은 agentic ai를 활용하여 회원제 금융기관(Member-owned financials)의 대출 심사(Loan Origination System) 프로세스를 자동화하고 회원 경험을 개선하는 방법을 다룹니다.
1-1. 솔루션 기반 기술 소개
- 솔루션 기반: 오늘 시연할 솔루션은 AWS Agent Core와 AWS Strands Agents를 기반으로 구축되었습니다.
- Amazon Bedrock Agent Core:
- 지난 re:Invent에 출시되어 10월 중순에 정식 출시된 종합적인 에이전트 플랫폼입니다.
- 오늘 시연할 대출 심사 시스템은 이 Agent Core 위에 Strands Agents를 사용하여 구축된 엔터프라이즈급 프로덕션에 가까운 솔루션의 예시입니다.
- Strands Agents: 참석자들에게 Strands에 대해 들어본 적이 있는지, 또는 Autogen, Langraph, Crew AI와 같은 다른 에이전트 프레임워크를 사용해 본 경험이 있는지 질문합니다.
|
1-2. AWS Agent Core의 핵심 구성 요소
Agent Core는 에이전트를 배포하고 관리할 수 있는 종합적인 플랫폼이며, 모델이나 프레임워크에 구애받지 않는 에이전트 플랫폼입니다.
-
Agent Core Runtime:
-
Agent Memory:
-
Agent Core Gateway:
-
관리형 MCP(Model Context Protocol) 서버 역할을 합니다.
-
에이전트가 도구(Tools)와 통신할 수 있는 통합 인터페이스를 제공합니다.
-
기존 API(OpenAPI 스키마 또는 Smithy 모델 지원)나 Lambda 함수를 MCP 도구로 설정하여 게이트웨이 뒤에 배치할 수 있습니다.
-
Agent Core Identity:
-
엔드투엔드 인증 및 권한 부여를 위한 에이전트 관리형 ID 서비스입니다.
-
에이전트 간 통신(A2A)을 포함하여 인바운드 및 아웃바운드 OAuth를 중앙에서 관리하며, 런타임(컴퓨트)과 원활하게 통합됩니다.
|
1-3. Agent Core의 추가 도구 및 관측 가능성
|
2. 대출 심사 시스템 아키텍처 및 워크플로우
2-1. 아키텍처 구성 요소 및 데이터 흐름 (왼쪽에서 오른쪽)
- 문서 업로드: 신청자가 대출 처리에 필요한 모든 문서를 업로드합니다.
- S3 버킷: 업로드된 문서는 S3 버킷에 저장됩니다.
- Lambda 이벤트: S3에 문서가 도착하면 Lambda 이벤트가 트리거되어 감독 에이전트(Supervisor Agent)를 호출합니다.
2-2. 감독 에이전트의 역할 및 에이전트 협업 시작
- 감독 에이전트 역할: 대출 신청을 처리하는 역할을 맡습니다.
- 에이전트 발견: 감독 에이전트는 대출 신청 프로세스를 위해 협력할 수 있는 다른 에이전트(문서 에이전트, 신용 위험 에이전트, 규정 준수 에이전트)를 찾습니다.
- A2A 프로토콜 사용: 감독 에이전트는 A2A(Agent-to-Agent) 프로토콜을 사용하여 사용 가능한 모든 에이전트의 에이전트 카드를 읽고 협력할 세 에이전트를 식별합니다.
- 워크플로우 생성 및 문서 에이전트 호출: 감독 에이전트는 워크플로우를 생성하고 문서 위치 정보를 포함하여 문서 에이전트(Document Agent)를 호출합니다.
2-3. 문서 처리 및 데이터 추출 과정
- 데이터 추출 에이전트 발견: 문서 에이전트는 데이터 추출 기능이 있는 에이전트를 찾기 위해 A2A 프로토콜을 다시 사용하고 Bedrock Data Automation Agent를 찾습니다.
-
데이터 추출: 데이터 추출 에이전트는 Agent Core Gateway를 사용하여 Bedrock Data Automation(BDA) 서비스에 접근하여 문서에서 지능적으로 데이터를 추출합니다.
- BDA는 AI를 사용하여 문서, 이미지에서 데이터를 추출하는 AWS 서비스입니다.
- BDA 에이전트는 Agent Core Gateway를 통해 BDA에 접근하며, 이는 실제 시나리오에서 사용자가 자체 데이터 추출 소프트웨어를 MCP 서버로 연결하는 것과 유사합니다.
-
검증 및 보고: 데이터 추출 후, 문서 에이전트는 데이터가 대출 처리에 필요한지 검증하고, 그 상태(통과/실패)와 데이터를 감독 에이전트에게 다시 전달합니다.
2-4. 후속 처리 및 최종 결정 로직
-
데이터 검증 실패 시: 감독 에이전트는 코드 인터프리터 도구를 사용하여 신청자에게 누락된 정보를 요청하는 이메일을 보냅니다.
-
데이터 검증 통과 시: 감독 에이전트는 A2A 프로토콜을 사용하여 정보를 신용 위험 에이전트와 규정 준수 에이전트에게 병렬로 전달합니다.
-
신용 위험 평가: 신용 위험 에이전트는 코드 인터프리터를 도구로 사용하여 S3 버킷에 저장된 신용 위험 ML 모델을 다운로드하고 코드를 동적으로 생성하여 모델과 상호 작용하여 평가를 수행합니다.
- 규정 준수 확인: 규정 준수 에이전트도 코드 인터프리터를 사용하여 동적으로 코드를 생성하여 확인 작업을 수행합니다.
-
최종 결정: 감독 에이전트는 프롬프트에 정의된 표준 운영 절차(SOP)에 따라 수집된 정보를 바탕으로 대출 승인, 수동 검토 또는 거부 여부를 결정합니다.
-
결과 통보 및 문서화:
-
감독 에이전트는 코드 인터프리터와 Amazon SES를 사용하여 신청자에게 상태 이메일을 보냅니다.
-
대출 신청 세부 정보가 포함된 PDF 문서를 생성하여 S3 버킷에 업로드하며, 이는 언더라이터(Underwriter)가 최종 검토하는 데 사용됩니다.
2-5. 질의응답: 모델 및 데이터 정확성
-
ML 모델 사용: 현재 시연에서는 ML 모델을 추론 목적으로만 사용하며, 모델 학습이나 피처 엔지니어링은 수행하지 않습니다
-
피처 전달: 에이전트 프롬프트 내 SOP에 따라 필요한 피처를 정의하면, 에이전트가 코드를 빌드하여 모델과 상호 작용합니다.
-
데이터 추출 정확성 및 임계값:
-
데이터 추출(BDA)의 신뢰도 점수(정확도)에 따라 비즈니스 규칙(임계값)을 설정하여 다음 단계로 전달할지 결정할 수 있습니다.
-
승인/거부와 같은 중요한 결정의 경우, 휴먼 인 더 루프(Human in the loop)를 포함하여 대출 담당자가 검토하도록 할 수 있습니다.
-
데이터 지속성 및 감사:
-
추출된 모든 데이터는 S3(객체 저장소)에 영구 저장되므로 규제 기관이나 컴플라이언스 담당자가 언제든지 검토할 수 있습니다.
-
에이전트는 데이터 오케스트레이션 역할만 수행하며, 데이터 자체는 객체 저장소에 보존됩니다.
|
3. 솔루션 구축 방법론 및 코드 상세
솔루션은 Koto(Agent ID)를 사용하여 신속하게 구축되었으며, 명세 기반 개발(Spec-driven development) 방식을 따릅니다.
3-1. Koto를 활용한 명세 기반 개발 단계
Koto는 플러그인이 아닌 독립형 agentic ai IDE입니다.
- 요구사항 정의 (Requirements):
- A2A 프로토콜 사용, 에이전트 디스커버리(에이전트 카드 기반) 등이 주요 요구사항으로 정의됩니다.
- 각 에이전트(예: BDA 에이전트)는 고유한 승인 기준을 가집니다.
- 설계 (Design):
- Koto에 문제에 대한 간략한 설명을 제공하면, Koto가 요구사항, 설계, 작업을 포함한 초안 자산을 생성합니다.
- 설계는 자연어 프롬프트를 사용하여 반복적으로 수정되며, 최종적으로 구축된 아키텍처를 도출합니다 (감독 에이전트가 A2A를 통해 전문 에이전트와 통신하는 구조).
- 작업 (Tasks): 작업은 단계별로 수행됩니다.
- 1단계: 인프라 설정:
- 입력 데이터 및 추출된 데이터 저장을 위한 S3 버킷 설정.
- OAuth 설정: Amazon Cognito를 사용하거나 Okta, Entra ID와 같은 자체 IDP와 통합합니다.
- 보안 설정: Secrets Manager를 사용하여 비밀 정보를 저장하고, 에이전트가 AWS 서비스와 상호 작용하기 위한 IAM 역할(권한)을 설정합니다.
- Agent Core Gateway 설정.
- 2단계: 에이전트 구축 및 배포: 모든 에이전트를 구축하고 Agent Core Runtime(컴퓨트)에 배포합니다.

|
3-2. 감독 에이전트 코드 구조 분석
감독 에이전트 코드는 네 가지 주요 섹션으로 나뉩니다.
- 라이브러리 가져오기 (Import Libraries):
- A2A 통신을 위한 strands_multi_agent_a2a를 가져옵니다.
- 에이전트 발견을 위한 A2A client 및 client_tool_provider를 가져옵니다.
- 에이전트에게 도구로 제공할 코드 인터프리터를 가져옵니다.
- 구성 섹션 (Configuration): AWS 리전, 사용 버킷, 기타 매개변수를 구성합니다.
- OAuth 토큰 처리: 에이전트 간 통신 시 필요한 새로고침된 OAuth 토큰을 처리하는 코드가 포함됩니다.
- 보안: 클라이언트 ID, 시크릿, 토큰 URL 등은 Secrets Manager에서 검색하여 노출을 방지합니다.
- 프롬프트 정의 (Prompt): 에이전트의 역할, 도구 접근, 통신 방식을 정의합니다.
- 에이전트 발견 및 선택 SOP: 에이전트 카드를 읽을 때 문서 검증, 규정 준수, 완전성과 같은 키워드를 확인하여 적절한 에이전트를 선택하도록 지침을 제공합니다.
- 에이전트 통신 정의: 다른 에이전트에게 보낼 출력 유형과 기대되는 출력 유형을 정의합니다.
- 데이터 전달 지침: 신용 위험 평가 시 검증된 전체 데이터 구조를 전달해야 하며, 데이터를 잘라내지 않도록 지시합니다.
- 결정 로직: 대출 승인, 수동 검토, 거부에 따라 따라야 할 결정 로직을 정의합니다.
- 후속 조치: 결정 후 PDF 보고서 생성 도구 사용, 보고서에 포함되어야 할 정보 지정, S3 버킷 업로드 위치 지정, 이메일 발신 대상을 지정합니다.
- 시연 시스템에서는 모든 이메일이 하나의 주소로 가도록 설정되었으나, 실제 환경에서는 신청자의 이메일 주소를 사용하도록 지정할 수 있습니다.
- 적응성: 요구사항이 변경되면 코드를 유지 관리하는 대신 프롬프트만 수정하여 신속하게 적응할 수 있습니다.
3-3. 결정의 비결정성과 일관성 유지
- 결정의 비결정성: 에이전트는 프롬프트에 의해 구동되지만, 내부 로직(예: 신용도 계산)은 수학적 계산이므로 결정론적입니다.
- 일관성 유지: 입력 데이터(추출된 데이터)와 내부 로직(SOP)이 동일하게 유지되면, 승인/거부가 뒤집히는 등의 비일관성은 발생하지 않을 것으로 예상됩니다.
- DTI(Debt-to-Income) 계산: DTI 계산과 같은 비즈니스 요구사항 변경은 규정 준수 검증 에이전트의 프롬프트 내에서 코드 인터프리터를 사용하여 정의된 로직을 변경함으로써 처리됩니다. 감독 에이전트는 오케스트레이터 역할을 합니다.
3-4. 모델 정확도 평가 및 설계 패턴
- 모델 정확도 평가:
- Bedrock의 모델 평가 기능을 사용하여 새로운 모델을 도입하기 전에 정확도를 평가할 수 있습니다.
- 큐레이션된 데이터 세트 또는 사용자 자체 데이터를 사용하여 모델을 실행하고 정확도를 확인할 수 있습니다.
- 유사 고객 프로필에 대한 과거 대출 결정과 같은 기준 데이터(Ground truth data)가 필요하며, 결과 비교를 위한 평가 하네스 구축이 중요합니다.
- 테스트 프레임워크: 모델 평가 프레임워크는 애플리케이션 설계 단계에 포함되어 단위 테스트, 통합 테스트 등을 포함합니다.
- 디자인 패턴:
- 현재 솔루션은 Strands A2A 디자인 패턴을 사용합니다.
- Strands는 워크플로우(더 결정론적)와 같은 다른 패턴도 지원하며, 에이전트를 노드로, 통신을 엣지로 보는 그래프 기반 구조를 정의할 수 있습니다.
- 에이전트는 추론(Reasoning)과 실행(Actioning)을 수행하는 ReAct 패턴을 사용합니다.
- 모델 선택 및 Reflection:
- 에이전트의 두뇌 역할을 하는 모델(현재는 Anthropic의 Claude Sonnet 4.5)은 Reflection(성찰) 기능이 뛰어납니다.
- Agent Core와 Strands는 모델에 구애받지 않으므로(Model-agnostic), 각 에이전트는 다른 Bedrock 모델이나 오픈 소스 모델을 사용할 수 있습니다.
3-5. 에이전트 정의 및 A2A 서버 구성
- 에이전트 정의: 에이전트 이름, 설명, 시스템 프롬프트, 사용 모델, 그리고 에이전트 디스커버리 및 코드 인터프리터와 같은 도구를 정의합니다.
- A2A 서버 실행: 각 에이전트는 A2A 서버로 실행되어 상호 통신 시 A2A 통신을 사용합니다.
- Bedrock의 모델 평가 기능을 사용하여 새로운 모델을 도입하기 전에 정확도를 평가할 수 있습니다.
- 데이터 형식 및 보안:
- A2A 통신 시 데이터는 JSON RPC 메시지 형식으로 전달되며, 메시지 본체에 다음 에이전트에게 필요한 모든 정보가 포함됩니다.
- 캐싱이나 암호화는 없지만, 모든 통신은 HTTPS 프로토콜을 통해 암호화됩니다.
- OAuth 인증: 모든 에이전트 배포 시 OAuth 구성(JWT 커스텀 토큰 사용)이 필요하며, 모든 에이전트 상호 작용은 인증 및 권한 부여됩니다.
3-6. 도구 관리 및 프롬프트 명확성
- 도구 접근 제어 (권한 부여):
- 에이전트가 사용하는 도구(게이트웨이 뒤의 도구)에 대한 권한 부여(RBAC)는 IAM 권한을 통해 이루어집니다.
- 데이터 추출 에이전트는 MCP 클라이언트 역할을 하며, Agent Core Gateway(MCP 서버)와 OAuth로 통신하고, 그 뒤의 Lambda는 BDA에 API 호출을 하며 IAM 권한을 사용합니다.
- 도구 선택의 혼란 방지:
- 에이전트에게 40개 이상의 도구를 제공하면 혼란스러워할 수 있습니다.
- Semantic Search(의미론적 검색)를 사용하여 해결합니다. 에이전트가 "데이터 추출"과 같은 작업을 요청하면, 게이트웨이는 데이터 추출에 사용 가능한 도구만 반환하고, 에이전트는 그중에서 선택합니다.
- 최적 사례: 에이전트를 마이크로서비스처럼 생각하고, 목적에 맞게 구축하며, 필요한 도구와 권한만 제공해야 합니다. 전문 에이전트는 2~3개의 도구만 가져야 합니다.
- 규정 준수 에이전트의 DTI 계산: DTI 계산 로직은 규정 준수 에이전트의 프롬프트 내에서 코드 인터프리터를 사용하여 정의되며, 비즈니스 요구사항 변경 시 이 프롬프트만 수정하면 됩니다.
3-7. 개발 가속화를 위한 리소스 제공
- 액션 가능한 정보: 개발자들이 바로 빌드를 시작할 수 있도록 공식 리포지토리를 제공합니다.
- 공식 GitHub 리포지토리:
- Strands Agents: A2A를 포함하여 Strands로 구축할 수 있는 다양한 디자인 패턴을 포함합니다.
- Bedrock Agent Core: 솔루션 구축의 기반이 된 풍부한 코드 샘플 세트를 포함합니다.
- 권장 사항: 이 검증된 코드 샘플들을 사용하여 개발 프로세스를 가속화하고, Koto 사용을 권장합니다.
|
|
|