안녕하세요, AI 서비스 & 솔루션 프로바이더 베스핀글로벌입니다.
AWS re:Invent 2025의 [Intelligent security: Protection at scale from development to production]을 확인해보시기 바랍니다.

Intelligent security: Protection at scale from development to production

AI 시대에 보안 조직을 어떻게 확장하고 자동화하며, AWS가 고객의 보안 역량 스케일링을 어떻게 지원하는지에 대해 소개합니다.

1. 세션 개요

AWS CISO Amy가 발표를 열며, AI 시대의 기술 변화 속에서 보안팀 규모와 역량을 어떻게 확장할지를 논의합니다.
강의는 3가지 구조로 진행됩니다.

• AWS 내부 보안팀을 어떻게 스케일링하는가
• 고객이 보안 역량을 확장하도록 AWS가 어떻게 지원하는가
• Eli Lilly의 실제 성공 사례

핵심 전제는 AI로 인해 시스템이 비결정론적(non-deterministic) 환경으로 변하면서 보안 전략 자체가 달라져야 한다는 점입니다.

2. AI가 가져온 위협의 변화

• 공격자는 생성형 AI를 활용해 정교하고 대량의 피싱·악성 콘텐츠를 매우 저렴한 비용으로 생산하고 있습니다.
• AI 에이전트 및 도구를 사용하는 개발자를 대상으로 한 프롬프트 인젝션 공격이 증가하고 있습니다.
• 기존의 보안 패턴 기반 접근 방식만으로는 이러한 위협에 효과적으로 대응하기 어렵습니다.
• 반면, 방어자 역시 AI를 활용하여 로그 분석 속도 등을 비약적으로 단축할 수 있습니다.
  - 예: CloudTrail 분석 기반 계정 도난 조사 시간을 약 4시간에서 11분으로 단축할 수 있습니다.

3. 보안 스케일링의 핵심 전략

• 기초 보안(credential, observability, response)을 기계적 수준으로 자동화합니다.
• 비결정론적 시스템을 염두에 두고 보안 전략을 재설계합니다.
• 보안을 개발 프로세스 전반에 내재화합니다.
• 비즈니스와 보안의 긴밀한 협업 구조를 구축합니다.

4. AWS가 개발 단계에 보안을 녹여 넣는 방식 

• 기존의 “Shift-left” 접근은 AI 시대에 적합하지 않습니다. 개발은 반복적이고 혼란스러운 흐름이므로, 전 과정에 보안을 내재화해야 합니다.
• AWS 보안 빌더(Security Builders)는 단순한 보안 엔지니어가 아니라 소프트웨어 엔지니어이기도 합니다.
• AWS는 다음과 같은 요소들을 제공합니다.
  - 재사용 가능한 보안 프리미티브(s2n, s2n-quick 등)를 제공합니다.
  - 개발 라이프사이클 전반에 녹아든 보안 가이드와 도구를 제공합니다.
  - 자동 진단, 이슈 관리, 액티브 디펜스, 컴플라이언스 자동화를 제공합니다.

5. 대표적인 보안 프리미티브

5-1. s2n

• AWS가 만든 경량 TLS 구현체 (~6,000 LoC), OpenSSL(약 50만 LoC) 대비 간결·보안성을 강화합니다.

5-2. s2n-quick

• QUIC 구현체, PQC(양자내성 암호) 지원합니다.
• 이러한 프리미티브는 개발자가 안전한 환경을 쉽게 구축하도록 설계됩니다.

6. 자동화된 보안 테스트·컴플라이언스

• AI 에이전트 기반 API 보안 테스트를 통해 테스트 커버리지가 증가하고 수작업이 감소합니다.
• Gen AI를 기반으로 컴플라이언스 초기 평가를 자동화하여 속도와 신뢰도가 향상됩니다.
• AWS 내부 액티브 디펜스 시스템(Blackfoot, Madpot, Mithra, Sonaris 등)은 초대규모 데이터를 실시간 처리해 AWS
• 고객 보호 서비스(Shield, WAF 등)와 연결됩니다.

7. AI 기반 내부 운영 사례: Denied Party Screening

• 글로벌 제재 체크를 하루 20억 건 처리합니다.
• Bedrock Agent Core 기반 AI 에이전트를 통해 기존에 인간이 수행하던 판단 업무를 자동화합니다.
• 정확도는 96%, 재현율은 100%이며 전체 트랜잭션의 60% 이상을 자동으로 처리합니다.
• 즉, AI가 단순 PoC 단계를 넘어 실질적인 비즈니스 가치를 창출하는 단계로 진입했음을 보여주는 사례입니다.

8. 자동화된 보안 테스트·컴플라이언스

• 보안 요구사항은 존재하지만 일관되게 적용되지 않는 문제”를 해결하기 위한 도구입니다.
  - 예: S3 Block Public Access가 단순한 의도를 넘어, 서비스 전체가 강제로 준수하도록 만드는 메커니즘이 된 것과 같은 원리입니다.
• AWS Security Agent는 다음을 수행합니다.
  - 설계 문서와 코드를 AI로 분석합니다.
  - 정책 준수 여부를 즉시 피드백합니다.
  - GitHub 리뷰에 통합합니다.
  - 조직별 내부 보안 기준을 손쉽게 자동화합니다.
• 이를 통해 개발 속도와 보안 품질을 모두 끌어올립니다.

9. 적응형 보안(Adaptive Security)

9-1. 외부 위협 대응

• AWS는 APT29 워터링홀 캠페인을 직접 사냥하고 차단한 사례를 공유합니다.
• Inspector 팀은 AI 기반 공급망(supply chain) 공격 탐지를 강화하여 npm 패키지 150,000건 이상을 식별합니다.

9-2. 내부 변화 대응

• Gen AI로 인해 개발자가 런타임과 멀어지므로 자동 테스트와 보안 안전망이 필수입니다.
• 보안팀은 자동 수정을 적용하여 개발자 개입 없이도 문제를 해결할 수 있습니다.

10. 보안 스케일링 측정 지표

중요한 것은 얼마나 빨리, 정확히 고치느냐 입니다.

• Fix 시간(P50 및 tail)을 단축합니다.
• 빌더의 수정 작업 횟수를 최소화합니다.
• 오탐률(FP)을 최소화하여 신뢰도를 유지합니다.
• 역할이 분명히 정의된 전문 특화형 AI 에이전트가 범용 모델보다 더 효과적입니다.

11. 비즈니스와 함께하는 보안 운영

• 보안 목표를 비즈니스 목표와 연결해야 현실적 위험을 해결할 수 있습니다.
• AWS 내부 티켓 시스템 TFI는 ML에서 Gen AI로 발전하며 연 150만 건을 처리합니다.
• CVE 폭증에 대해서는 다음과 같이 대응합니다.
  - AI 기반 자동 평가로 발행 후 5분 내 초기 분석을 수행합니다.
  - 엔지니어의 깊은 분석 시간을 27시간에서 10분으로 단축합니다.
  - 분석 커버리지를 520%까지 확대합니다.
  - 네트워크·ID·데이터 분류 기반으로 위협을 문맥화하여 의미 없는 알림을 감소시킵니다.

12. API 보안

• AWS는 API 보안을 “핵심 비즈니스 문제”로 규정합니다.
• SDK 기반 테스트 → 실제 사용 패턴 분석 → 컨텍스트가 풍부한 보안 자동화로 단계적으로 개선합니다.

13. AI Agent 보안

• 에이전틱 시스템은 안전한 설정·실행·격리가 필수입니다.
• 최소 권한 부여(least privilege)를 세분화하여 태스크 단위로 허용합니다.
• Agent Core를 기반으로 안전한 운영과 모니터링 구조를 제공합니다.

14. 고객 사례: Eli Lilly 공급망 보안

• 글로벌 의약품 공급망 특성상 리스크가 크고 복잡합니다.
• AI의 등장으로 기존 설문지 기반 공급망 보안 평가 모델은 한계가 있습니다.
• 이에 따라 위협 기반(threat modeling) 공급망 분석을 강화합니다.
• AWS와의 협업 모델(보안팀 + 비즈니스 + 벤더)을 통해 실질적인 위험을 정면으로 돌파합니다.
• AI·에이전트 기반 기술을 통해 공급망 공격 대비 능동 방어로의 전환을 목표로 합니다.

15. 결론 및 실천 조언

• 보안을 개발 전체에 내재화합니다.
• AI는 공격과 방어 모두를 강화하지만, 방어자는 자동화를 통해 속도 우위를 확보합니다.
• 전문형 AI 에이전트를 설계합니다.
• 품질과 속도 중심 지표로 개선합니다.
• 비즈니스와 긴밀히 협업하여 실제 위협을 해결합니다.
• 공급망과 생태계 전반에서 위협 모델 기반 접근을 채택합니다.