안녕하세요, Cloud&AI 매니지드 서비스 전문 기업 베스핀글로벌입니다.
AWS re:Invent 2024의 [Run workloads efficiently on EKS with Karpenter and EC2 Spot Instances]을 확인해보시기 바랍니다.

Run workloads efficiently on EKS with Karpenter and EC2 Spot Instances

EC2 Spot, Graviton, Karpenter를 활용하여 EKS 클러스터를 최적화하고, 비용 절감과 성능 향상을 동시에 달성하는 방법을 소개합니다.

1. Amazon EC2 Spot, and Graviton

1-1. EC2 Spot

• Spare capacity로 기존 최대 90% 절약이 가능합니다. (컨테이너 환경에서 평균 65~68% 정도 절약)
• EC2 Spot은 중단이 가능한 인스턴스이기에 Statless, Fault-tolerant, Flexible한 워크로드에 적합합니다.
• 최적의 성능을 위해서는 인스턴스 풀을 다양하게 구성하는 것이 좋습니다. 

​​1-2. Graviton

• 4세대로 구성되어 있으며, 동일 비용 대비 최고 성능을 제공합니다. (최대 40% 성능 향상)
• ARM64 베이스로 다양한 생태계 서포트를 받을 수 있습니다. (컨테이너, ISV, OS 등)
• 유사한 인스턴스 대비 최대 60%까지 에너지 소비를 줄여 비용 절감뿐만 아니라 환경 보호에도 기여합니다. 따라서 비용, 성능, 지속 가능성을 모두 고려해야 하는 워크로드에 매우 적합합니다.

2. Amazon EKS + Karpneter

2-2. Karpenter

• CAS는 다양한 유형의 워크로드를 지원하기 위해 여러 개의 노드 그룹을 생성해야 합니다.
  (이는 관리 오버헤드를 증가시키고, 불필요한 노드 그룹 생성으로 인한 비용 증가를 야기할 수 있습니다. )
• 반면, Karpenter는 모든 유형의 워크로드에 대해 단일한 데이터 플레인 크기 조정을 제공합니다.
• Karpenter는 애플리케이션의 실제 요구 사항에 따라 유동적으로 인프라를 프로비저닝하여, 필요한 만큼의 노드만 생성하고 관리합니다. 이를 통해 애플리케이션 우선의 인프라를 구축하고, 파드의 요구에 따라 노드를 즉시 프로비저닝할 수 있습니다.
• Karpenter는 즉시 중단 처리가 가능하므로 알맞은 Spot 및 On-demand 인스턴스 유형에 맞춰 다양한 활용이 가능합니다.
• Group-less 오토스케일링을 통한 인프라 관리 및 프로비저닝이 용이합니다.
• EC2 Spot 및 Graviton과 결합하여 지속적인 알맞은 크기의 인프라로 최적화가 가능합니다.

3. Amazon EKS Optimization 

​​​​​​

4. 마무리 (해당 기술 도입을 위한 조언)