서버를 AWS에 올리려면 어떤 인스턴스를, 어떤 요금제로, 몇 대를, 어떻게 늘리고 줄일지 정해야 한다. 이 글은 그 결정을 순서대로 다룬다. 먼저 워크로드에 맞는 인스턴스 패밀리, 구매 옵션, 배치 방식을 고른 뒤 Auto Scaling 그룹(ASG)으로 대수를 조절하는 방법을 본다. 이어서 서버를 직접 관리하지 않는 Lambda, 컨테이너, Elastic Beanstalk와 리전 밖 특정 위치에 컴퓨팅을 두는 서비스를 살펴본 다음 환경별로 비용을 줄이는 방법으로 마무리한다. 절마다 요구 조건이 하나 바뀌면 구성이 어떻게 달라지는지를 사례로 붙였다.
한 장 그림
전체 구조: 워크로드, 컴퓨팅, 요금제
EC2 구매 옵션 고르기
- 예측 불가에 다운타임 불가이고 비용 효율까지 요구하면 기본 용량은 RI, 추가 용량은 온디맨드로 구성한다. RI를 피크에 맞추면 평소에 낭비하고, 중단이 불가하면 스팟은 제외한다.
예시 구성: 프로덕션 다중 AZ와 개발 환경
- 최소 변경으로 3계층을 확장하면서 고가용성을 확보하려면 Beanstalk Multi-AZ와 RDS Multi-AZ를 쓴다. 서버리스로 재작성하지 않는다.
- 단일 AZ ASG의 고가용성은 여러 AZ로 넓혀서 확보한다. 컨테이너 고가용성을 확보하면서 수동 개입을 최소로 하려면 Fargate를 쓴다.
ASG 수명 주기와 스케일링 타이밍
- 축소 중 15분짜리 요청이 5xx를 내면 등록 취소 지연을 900초 이상으로 늘린다. 쿨다운을 늘려도 소용없다.
- 시간이 정해진 피크는 예약 조정, 반복되는 일/주 패턴은 예측 조정을 쓴다.
컴퓨팅 서비스 고르기
- 20분짜리 리포트에는 Lambda와 프로비저닝된 동시성을 쓸 수 없다. ECS/Fargate 또는 Batch를 쓴다.
- 컨테이너 고가용성을 확보하면서 수동 개입을 최소로 하려면 EC2 시작 유형이 아니라 Fargate를 쓴다.
인스턴스 패밀리와 배치 그룹 고르기
- 상태 저장/인메모리 앱이 느리면 ASG로 대수를 늘리지 말고 R 패밀리로 교체한다(수직 확장).
인스턴스 패밀리
Terraform이나 콘솔에서 EC2를 만들 때 인스턴스 타입에 m5.large, r6g.xlarge 같은 값을 넣는다. 맨 앞 글자가 인스턴스 패밀리로, CPU, 메모리, 로컬 디스크, GPU 중 어디에 비중을 둔 하드웨어인지를 나타낸다. 점 뒤의 large, xlarge는 같은 패밀리 안에서의 크기다.
| 패밀리 | 맞는 워크로드 |
|---|---|
| M 범용 | 웹/앱 서버, 판단이 서지 않을 때 |
| C 컴퓨팅 최적화 | 배치, 인코딩, 게임 서버, HPC, 고성능 웹 |
| R / X 메모리 최적화 | 인메모리 DB, 캐시, 상태 저장 앱, 실시간 빅데이터 |
| I / D 스토리지 최적화(로컬 NVMe / 로컬 HDD) | 고IOPS NoSQL, 데이터 웨어하우스, HDFS |
| P / G / Inf 가속(GPU, 추론 칩) | ML 학습(P), 그래픽/추론(G), 저비용 추론(Inf) |
| T 버스트(CPU 크레딧) | 평소 한가하고 가끔 튀는 소규모 앱 |
- T 계열은 기준 성능 미만으로 쓰면 CPU 크레딧이 쌓이고 넘으면 쓴다. 크레딧이 바닥나면 기준 성능으로 떨어진다. 무제한 모드는 크레딧이 없어도 버스트하고 초과분을 따로 과금한다(T3, T4g는 기본이 무제한). 늘 CPU가 높으면 T 대신 M이나 C를 쓴다.
- 메모리 사용률은 기본 CloudWatch 지표에 없다. CloudWatch 에이전트를 설치해야 수집된다.
- 상태를 메모리에 들고 있는 앱이나 인메모리 앱이 느리면 ASG로 대수를 늘려서는 해결되지 않는다. 메모리 최적화(R)로 바꾸는 수직 확장을 한다.
구매 옵션
Terraform으로 EC2를 띄우고 아무것도 하지 않으면 온디맨드 요금이 붙는다. 같은 인스턴스라도 1년이나 3년 사용을 약정하면 RI나 SP로 할인을 받는다. 중단을 감수하면 스팟으로 훨씬 싸게 쓴다. 어떤 옵션을 쓸지는 워크로드가 중단을 견딜 수 있는지와 부하가 얼마나 꾸준한지로 정한다.
| 옵션 | 하는 일 | 할인 | 맞는 경우 |
|---|---|---|---|
| 온디맨드 | 약정 없이 쓴 만큼 낸다 | 없음 | 단기, 예측 불가, 중단 불가, 피크 |
| 예약 인스턴스(RI) | 인스턴스 사용을 1년/3년 약정 | 최대 약 72% | 24시간 상시 기본 부하 |
| Savings Plans(SP) | 시간당 사용 금액을 1년/3년 약정 | 최대 약 66~72% | 상시 부하인데 유연성이 필요할 때 |
| 스팟 | 2분 전 알림 후 회수될 수 있는 인스턴스 | 최대 약 90% | 중단돼도 되는 배치, CI, 분석, 상태 없는 웹 |
| 온디맨드 용량 예약 | 특정 AZ의 용량만 확보 | 없음(할인은 RI/SP와 결합) | 특정 AZ에 용량 보장, 약정 없이 |
| 전용 인스턴스 | 다른 계정과 하드웨어를 공유하지 않음 | – | 규정상 하드웨어 격리만 필요할 때 |
| 전용 호스트 | 물리 서버 한 대를 통째로 할당, 소켓/코어 수가 보인다 | – | BYOL(소켓/코어 단위 라이선스: Windows Server, SQL Server, Oracle), 호스트 고정 |
RI 세부
| Standard RI | Convertible RI | |
|---|---|---|
| 할인 | 최대 약 72% | 더 낮음(최대 약 66%) |
| 변경 | 같은 패밀리 안에서 크기, AZ 정도 | 패밀리, OS, 테넌시 교환 가능 |
| 마켓플레이스 판매 | 가능 | 불가 |
- 리전 RI: 리전 안의 모든 AZ에 할인을 적용하고 크기 유연성이 있다. 용량 예약은 없다.
- 영역(AZ) RI: 특정 AZ의 용량 예약을 포함한다.
SP 세부
| Compute Savings Plans | EC2 Instance Savings Plans | |
|---|---|---|
| 할인 | 최대 약 66% | 최대 약 72% |
| 고정 범위 | 없음: 패밀리, 리전, OS, 테넌시 자유 | 리전 + 인스턴스 패밀리 고정(크기, OS는 자유) |
| 적용 대상 | EC2 + Fargate + Lambda | EC2만 |
스팟 세부
- 회수할 때 2분 전 중단 알림을 인스턴스 메타데이터와 EventBridge로 보낸다. 그보다 먼저 오는 리밸런싱 권고 신호를 받아 대체 인스턴스를 미리 띄울 수 있다.
- 스팟 플릿 / EC2 플릿은 여러 인스턴스 타입과 AZ 풀에서 목표 용량을 채운다. 할당 전략은 price-capacity-optimized를 권장한다.
- ASG 혼합 인스턴스 정책은 온디맨드 기본 N대를 두고 초과분의 X%를 스팟으로 채운다. 여러 인스턴스 타입을 지정할 수 있다.
전용 호스트와 다른 옵션의 차이
- 전용 호스트는 그 서버의 소켓/코어 수가 보이고 인스턴스를 특정 호스트에 고정(affinity)할 수 있다. 그래서 소켓/코어 단위 BYOL 라이선스 감사에 대응할 수 있다.
- 전용 인스턴스도 하드웨어를 다른 계정과 공유하지 않지만 소켓/코어 가시성과 호스트 고정이 없다.
- 온디맨드 용량 예약은 특정 AZ의 자리를 잡아 줄 뿐 공유 테넌시 그대로라 라이선스 요건과 관계가 없다.
- 라이선스 포함(License Included) AMI는 AWS 요금에 라이선스 비용이 들어 있다. 이미 가진 라이선스가 있으면 라이선스 비용을 두 번 내게 된다.
사례 1. 결제 웹 계층과 야간 렌더링 배치
상황 ALB 뒤의 ASG에서 웹 애플리케이션을 운영하고, 이와 별도로 매일 밤 이미지 렌더링 배치를 돌린다. 두 워크로드 모두 3년 이상 운영한다.
- ① 웹 계층은 하루 종일 최소 12대가 필요하고 예고 없이 열리는 마케팅 이벤트 때는 최대 40대까지 늘어나는데 피크가 언제 올지는 예측할 수 없다.
- ② 웹 계층은 결제 요청을 처리하므로 실행 중인 인스턴스가 갑자기 회수되면 안 된다.
- ③ 매일 밤 약 3시간 동안 200 vCPU 정도로 제품 이미지 수만 장을 렌더링한다. 이미지 단위로 나뉘어 있어 중간에 실패하면 그 이미지만 다시 돌리면 되고 한 장에 약 25분이 걸린다.
해결. 두 조치를 함께 한다.
- 웹 계층은 24시간 깔리는 최소 12대를 RI/SP로 약정하고 그 이상 확장되는 인스턴스는 온디맨드로 받는다(①). 결제 계층이라 스팟은 처음부터 제외한다(②).
- 렌더링은 AWS Batch 관리형 컴퓨팅 환경을 스팟으로 구성하고 여러 인스턴스 유형을 허용한다. 재실행이 가능하고 하루 3시간만 돌므로 스팟이 가장 싸다(③). Batch가 작업 큐와 스팟 컴퓨팅 환경을 관리하고 여러 유형을 허용하면 스팟 용량을 확보하기 쉽고 중단 위험도 분산된다.
다른 선택지가 안 되는 이유
- 웹 계층 40대분의 3년 Standard RI: 평소에는 28대분의 약정이 논다. 피크가 드물고 예측할 수 없어 낭비가 크다(①).
- 혼합 인스턴스 정책으로 온디맨드 12대 + 초과분 전부 스팟: 도구 자체는 좋다. 하지만 피크 중에 결제 인스턴스가 2분 알림 뒤 회수될 수 있어 "갑자기 회수되면 안 된다"는 조건(②)에 걸린다.
- 렌더링을 Lambda(메모리 10GB)로 바꿔 이미지마다 병렬 호출: 메모리를 아무리 올려도 최대 실행 시간은 15분이다. 한 장에 25분 걸리는 작업(③)은 끝나지 못한다.
배치 그룹과 최대 절전 모드
MPI 계산이나 분산 DB처럼 인스턴스끼리 통신이 많은 시스템은 인스턴스가 물리적으로 어디에 놓이는지에 따라 지연과 장애 범위가 달라진다. 배치 그룹은 EC2를 시작할 때 인스턴스를 가까이 모을지 흩어 놓을지를 지정하는 설정이다.
| 배치 그룹 | 배치 방식 | 설계할 때 볼 점 |
|---|---|---|
| 클러스터 | 한 AZ 안의 가까운 하드웨어(같은 랙, 스위치 근처)에 모은다 | 한 AZ. 지연이 가장 낮고 대역폭이 가장 크다(HPC, 노드 간 통신). 랙 장애에 취약하다 |
| 분산(Spread) | 서로 다른 랙에 한 대씩 둔다 | AZ당 최대 7대. 소수의 핵심 인스턴스를 동시 장애로부터 보호한다 |
| 파티션 | 랙 그룹 단위로 나눠 배치한다 | 파티션끼리 하드웨어를 공유하지 않는다. HDFS, Cassandra, Kafka 같은 대규모 분산 시스템에 쓴다 |
최대 절전 모드(Hibernate)는 RAM 내용을 암호화된 루트 EBS에 저장하고 인스턴스를 중지한다. 다시 시작하면 메모리 상태 그대로 돌아온다. 초기화(캐시 워밍)가 오래 걸리는 앱을 빨리 재개하면서 쉬는 동안 비용도 줄이고 싶을 때 쓴다. 루트 EBS가 RAM을 담을 만큼 커야 한다.
사례 2. MPI 시뮬레이션 16대 배치
상황 유체 역학 시뮬레이션을 컴퓨팅 최적화 EC2 16대에서 돌린다.
- ① 계산 중에 노드끼리 MPI로 데이터를 계속 주고받으므로 노드 간 네트워크 지연이 전체 실행 시간을 좌우한다.
- ② 작업은 주기적으로 체크포인트를 남기므로 하드웨어 장애가 나면 마지막 체크포인트부터 다시 시작할 수 있다.
- ③ 성능을 가장 높여야 한다.
해결. 한 AZ에 클러스터 배치 그룹을 만들고 16대를 모두 그 안에 시작한다. MPI처럼 노드 간 통신이 많은 HPC에서 지연이 가장 낮고 대역폭이 가장 크다(①)(③). 랙 장애에 약하다는 단점은 체크포인트 재시작으로 감수할 수 있다(②).
다른 선택지가 안 되는 이유
- 분산 배치 그룹: 인스턴스를 일부러 서로 다른 랙에 흩어 놓으므로 지연을 줄이지 못한다(①). 게다가 AZ당 최대 7대라 16대를 한 AZ에 넣을 수도 없다.
- 파티션 배치 그룹: HDFS, Cassandra, Kafka처럼 랙 장애 범위를 나누려는 용도다. 노드 간 근접 배치를 보장하지 않는다(①).
- ASG로 세 AZ에 고르게 분산: AZ 간 지연과 AZ 간 데이터 전송 요금이 생긴다. 이 작업에는 가용성보다 낮은 지연이 중요하다(①)(③).
Auto Scaling 그룹
트래픽이 몰릴 때 서버를 손으로 늘리고 한가해지면 다시 줄이는 일을 ASG가 대신한다. ASG는 시작 템플릿에 적힌 대로 EC2를 만들고 CloudWatch 지표와 스케일링 정책에 따라 대수를 조절한다. 상태 확인에 실패한 인스턴스는 종료하고 새로 띄운다.
| 구성 | 하는 일 | 설계할 때 볼 점 |
|---|---|---|
| 시작 템플릿 | 새 인스턴스의 AMI, 타입, SG, 사용자 데이터를 정의 | 버전 관리가 된다. 시작 구성(launch configuration)은 레거시다 |
| 원하는 / 최소 / 최대 용량 | 유지할 대수와 그 범위 | 최소 = 항상 켜 둘 대수(RI 대상), 최대 = 비용 상한 |
| 다중 AZ | 여러 AZ 서브넷에 인스턴스를 나눠 띄움 | 고가용성이 필요하면 ASG를 여러 AZ 서브넷에 걸친다. AZ 간 균형을 유지한다 |
| 상태 확인 | 비정상 인스턴스를 찾아 교체 | 기본은 EC2 상태 확인(하드웨어, OS)이다. 앱이 죽은 것까지 교체하려면 ELB 상태 확인을 켠다 |
스케일링 정책
| 정책 | 동작 | 맞는 경우 |
|---|---|---|
| 대상 추적 | 지표 하나를 목표값(예: CPU 50%)에 유지 | 대부분의 기본 선택 |
| 단계(Step) | 임계값 구간별로 +1, +3처럼 다르게 증감 | 알람 크기에 따라 조정 폭을 달리할 때 |
| 단순(Simple) | 알람 1개 → 1회 조정 후 쿨다운 | 레거시. 단계와 대상 추적으로 대체됐다 |
| 예약(Scheduled) | 정한 시각에 용량 변경(cron) | 시간이 정해진 피크(매주 월요일 9시) |
| 예측(Predictive) | 과거 패턴을 ML로 예측해 미리 확장 | 반복되는 일/주 단위 패턴 |
타이밍과 후크 설정
| 설정 | 위치 | 하는 일 |
|---|---|---|
| 인스턴스 워밍업 | ASG | 새 인스턴스가 지표에 반영되기 전 대기(성급한 추가 확장 방지) |
| 쿨다운 | ASG | 스케일링 활동 사이 간격(확장과 축소의 잦은 반복 방지). 주로 단순 정책 |
| 수명 주기 후크 | ASG | 시작/종료 직전에 일시 정지해 스크립트를 실행(종료 전 로그 백업, 시작 시 설정 주입) |
| 웜 풀 | ASG | 미리 초기화해 둔 중지 인스턴스 풀. 부팅이 오래 걸리는 앱의 확장 지연 단축 |
| 등록 취소 지연 | ALB/NLB 대상 그룹(ASG 아님) | 진행 중 요청이 끝날 때까지 기다린 뒤 제거(connection draining). 기본 300초 |
축소 중에 15분짜리 요청이 5xx로 끊기면 쿨다운이 아니라 대상 그룹의 등록 취소 지연을 900초 이상으로 늘린다.
사례 3. 매일 반복되는 피크와 8분 걸리는 초기화
상황 온라인 교육 회사가 ASG에서 웹 애플리케이션을 운영한다. 지금은 CPU 기반 대상 추적 정책만 쓴다.
- ① 트래픽은 평일 오전 수업 시작 전과 저녁 시간에 크게 늘어나는 패턴이 몇 달째 반복되지만 피크가 시작되는 시각은 학기와 요일에 따라 조금씩 다르다.
- ② 새 인스턴스가 초기화를 마치고 요청을 받기까지 약 8분이 걸려 피크 초반에 응답이 느려진다. 이 지연을 줄여야 한다.
- ③ 운영팀이 일정을 직접 관리하지 않아야 한다.
해결. 두 조치를 함께 한다.
- 예측 조정 정책을 추가한다. 지난 지표(최소 24시간, 보통 몇 주치)에서 일/주 단위 반복 패턴을 학습해 피크 전에 미리 용량을 늘린다(①)(②). 피크 시작 시각이 조금씩 움직여도 사람이 일정을 고칠 필요가 없고(③) 기존 대상 추적 정책과 함께 쓸 수 있다.
- 웜 풀을 구성한다. 초기화를 미리 끝낸 인스턴스를 중지 상태로 대기시켰다가 확장 때 바로 투입하므로 8분 걸리는 초기화를 확장 경로에서 뺄 수 있다(②).
다른 선택지가 안 되는 이유
- 피크 시각마다 예약된 작업(scheduled action): 미리 늘리는 효과는 있다. 하지만 피크 시각이 학기와 요일마다 달라 일정을 계속 고쳐야 하므로 "일정을 직접 관리하지 않는다"는 조건(③)에 걸린다.
- 기본 쿨다운 줄이기: 쿨다운은 주로 단순 조정 정책에 적용되는 간격이다. 줄여도 새 인스턴스의 8분 초기화는 그대로다(②).
- 인스턴스 워밍업 늘리기: 워밍업은 새 인스턴스의 지표를 집계에 넣기 전에 기다리는 시간이다. 늘리면 성급한 추가 확장은 줄지만 확장이 빨라지지는 않는다(②).
사례 4. 종료 전에 체크포인트 파일 올리기
상황 ASG에서 영상 트랜스코딩 워커를 운영한다. 워커는 내부 ALB의 대상 그룹에 등록되어 작업 요청을 받고 진행 상황을 인스턴스 스토어 볼륨에 체크포인트 파일로 기록한다. 스케일 인으로 인스턴스가 종료되면 이 파일이 사라져 다른 워커가 작업을 처음부터 다시 해야 한다.
- ① 종료 전에 체크포인트 파일을 S3에 올려야 한다.
- ② 업로드가 끝난 뒤에만 인스턴스가 종료되어야 한다.
해결. 종료 전환에 수명 주기 후크를 건다. 인스턴스가 Terminating:Wait 상태에서 멈추고 그동안 스크립트(EventBridge → Systems Manager Run Command, 또는 인스턴스 안의 에이전트)로 업로드한다(①). 업로드가 끝나면 CompleteLifecycleAction을 호출해 종료를 진행시킨다(②). 업로드가 오래 걸리면 하트비트 제한 시간을 늘리거나 하트비트를 보낸다.
다른 선택지가 안 되는 이유
- ASG 기본 쿨다운을 900초로: 쿨다운은 스케일링 활동 사이의 간격이다. 종료 대상 인스턴스를 붙잡아 두지도 업로드를 실행하지도 않는다(①)(②).
- 대상 그룹 등록 취소 지연을 900초로: 등록 취소 지연은 이미 들어와 있는 요청이 끝날 때까지 대상 그룹에서 빼는 것을 미룰 뿐이다. 업로드를 실행하거나 완료를 확인하는 장치가 없다(①)(②). 15분짜리 요청을 보호할 때와 달리 이번 요구는 "종료 전에 작업 하나를 끝내기"다.
- 모든 인스턴스에 축소 보호(scale-in protection): 스케일 인 자체가 일어나지 않아 비용이 계속 나간다. 축소를 막을 것이 아니라 축소 전에 정리해야 한다.
Lambda
S3에 파일이 올라오면 썸네일을 만들거나 API Gateway 요청 하나를 처리하는 식으로 이벤트가 올 때만 코드를 실행하는 서비스가 Lambda다. 요금은 요청 수와 실행 시간(GB-초)만큼 나오고 한 번 실행은 최대 15분으로 제한된다. 메모리 설정 하나로 CPU까지 정해지므로 함수가 느리면 메모리를 올린다.
| 항목 | 한도와 특징 |
|---|---|
| 실행 시간 | 최대 15분 |
| 메모리 | 128MB ~ 10GB. 메모리에 비례해 vCPU를 할당(최대 6개)한다. CPU가 부족하면 메모리를 올린다 |
| /tmp | 기본 512MB, 최대 10GB |
| 배포 | zip 또는 컨테이너 이미지(최대 10GB) |
| 동시성 | 리전, 계정 단위 기본 할당량(약 1,000, 증설 가능. 신규 계정은 더 낮게 시작한다) |
| 예약 동시성 | 함수별 보장 + 상한(다른 함수가 다 가져가지 못하게 하거나 DB 보호용 상한으로 쓴다). 추가 비용 없음 |
| 프로비저닝된 동시성 | 미리 데워 둔 실행 환경으로 콜드 스타트를 없앤다. 유료 |
| VPC 연결 | 프라이빗 리소스(RDS 등)에 접근한다. 인터넷은 NAT GW를 거친다(Lambda에 퍼블릭 IP 없음). DB 연결 폭주는 RDS Proxy로 막는다 |
| 호출 방식 | 푸시(S3, SNS, API Gateway가 직접 호출) vs 이벤트 소스 매핑(Lambda가 SQS, Kinesis, DynamoDB Streams를 폴링) |
- Lambda는 기본적으로 여러 AZ에서 실행된다. 여러 AZ에 따로 배포할 필요가 없다.
- 15분을 넘는 작업(예: 20분짜리 리포트)은 프로비저닝된 동시성을 붙여도 Lambda로 돌릴 수 없다. ECS/Fargate나 Batch로 옮긴다. 수십 vCPU, 수백 GB가 필요한 배치도 Lambda가 아니라 Batch가 맞다.
사례 5. 결제 함수의 동시성 보장과 상한
상황 같은 계정, 같은 리전에서 Lambda 함수 여러 개를 운영한다. 매일 새벽 대량 가져오기 함수가 수천 건의 이벤트를 한꺼번에 처리하면서 계정 동시성을 대부분 차지하고 그 시간에 결제 함수 호출이 스로틀링된다.
- ① 결제 함수 호출이 스로틀링되지 않아야 한다.
- ② 결제 함수는 RDS for MySQL에 연결하는데 DB 연결 수를 보호하려면 결제 함수의 동시 실행 수가 100을 넘으면 안 된다.
- ③ 추가 비용은 없어야 한다.
해결. 결제 함수에 예약 동시성 100을 설정한다. 예약 동시성은 두 가지를 동시에 한다. 계정 동시성 중 100을 결제 함수 몫으로 떼어 놓아 다른 함수가 가져가지 못하게 하고(보장, ①) 결제 함수가 100을 넘지 못하게 막는다(상한, DB 보호, ②). 추가 요금도 없다(③).
다른 선택지가 안 되는 이유
- 결제 함수에 프로비저닝된 동시성 100: 콜드 스타트를 없애는 유료 기능이다. 비용이 들고(③) 100을 넘는 요청은 남은 계정 동시성으로 계속 늘어나므로 상한 역할도 못 한다(②).
- 대량 가져오기 함수에 예약 동시성으로 제한: 결제 함수의 스로틀링은 줄어든다. 하지만 결제 함수에는 상한이 없어 DB 연결 100 제한을 지킬 수 없다(②).
- 결제 함수와 DB 사이에 RDS Proxy: DB 연결을 풀링해 주지만 시간당 요금이 붙는다(③). 계정 동시성이 바닥나서 생기는 결제 함수 스로틀링도 그대로다(①).
컨테이너: ECS, EKS, Fargate, Batch
Dockerfile로 만든 이미지를 레지스트리에 올린 뒤 여러 서버에 띄우고 재시작하고 늘리는 일은 오케스트레이터가 맡는다. AWS에는 자체 오케스트레이터인 ECS와 관리형 Kubernetes인 EKS가 있다. 컨테이너가 실제로 도는 자리는 직접 관리하는 EC2 노드이거나 노드가 보이지 않는 Fargate다.
| ECS | EKS | |
|---|---|---|
| 하는 일 | AWS 자체 오케스트레이터 | 관리형 Kubernetes 컨트롤 플레인 |
| 맞는 경우 | AWS 네이티브, 단순, 운영 최소 | 기존 Kubernetes 매니페스트와 도구 유지, 멀티클라우드/온프레미스 일관성 |
| 시작 유형 | EC2 | Fargate |
|---|---|---|
| 하는 일 | 워커 노드를 직접 운영 | 노드 없이 컨테이너를 실행 |
| 관리 | 노드 패치, 스케일링을 직접 한다 | 서버 관리 없음, 태스크 단위 과금 |
| 맞는 경우 | GPU, 특수 인스턴스, 대규모 상시 운영의 단가 최적화 | 운영 오버헤드 최소, 수동 개입 최소 |
- ECR: 관리형 컨테이너 레지스트리다. 이미지 스캔과 교차 리전 복제를 지원한다.
- 태스크 역할: 컨테이너 안의 앱이 AWS API를 부르는 권한이다(ECS
taskRoleArn). 이미지 pull과 로그 전송은 태스크 실행 역할이 맡는다. EKS 파드에는 서비스 계정용 IAM 역할(IRSA)이나 EKS Pod Identity로 권한을 준다. - Fargate Spot: 중단 가능한 컨테이너 작업을 저렴하게 돌린다.
- AWS Batch: 작업 큐와 컴퓨팅 환경(EC2, 스팟, Fargate)을 관리형으로 제공한다. 시간 제한이 없다. 대규모, 장시간, 고사양 배치를 운영 부담 없이 돌릴 때 쓴다. Spark나 Hadoop이면 EMR을 쓴다.
- 컨테이너 앱에 고가용성과 수동 개입 최소가 함께 요구되면 Fargate를 쓴다. EC2 시작 유형은 노드 관리가 필요하다. DB 쪽은 RDS Multi-AZ로 맞춘다.
사례 6. 온프레미스 Kubernetes를 노드 관리 없이 옮기기
상황 온프레미스 Kubernetes 클러스터에서 마이크로서비스 25개를 운영한다. 모든 서비스는 상태가 없고 GPU를 쓰지 않는다.
- ① 배포는 Helm 차트와 kubectl을 쓰는 기존 CI/CD 파이프라인으로 하며 AWS로 옮긴 뒤에도 이 매니페스트와 도구를 그대로 쓰려 한다.
- ② 운영팀은 워커 노드의 OS 패치, AMI 업데이트, 노드 용량 계획을 더는 하고 싶지 않다.
- ③ 일부 서비스는 DynamoDB 테이블에 접근하는데 보안팀은 각 서비스가 자기 테이블에만 접근하도록 서비스별로 권한을 나누라고 요구한다.
- ④ 운영 오버헤드는 가장 적어야 한다.
해결. EKS 클러스터에 Fargate 프로필을 만들고 IRSA로 서비스별 권한을 준다. EKS는 기존 Helm 차트와 kubectl을 그대로 쓴다(①). Fargate 프로필에 맞는 파드는 노드 없이 실행되므로 OS 패치, AMI 업데이트, 노드 용량 계획이 사라진다(②)(④). 서비스별 권한은 서비스 계정마다 IAM 역할을 매핑하는 IRSA로 나눈다(③). EKS Pod Identity는 Fargate 파드를 지원하지 않으므로 Fargate에서 파드별 권한은 IRSA로 준다.
다른 선택지가 안 되는 이유
- ECS on Fargate + 서비스별 태스크 역할: 노드 관리가 없고 태스크 역할로 권한도 나눌 수 있다. 하지만 Kubernetes 매니페스트를 ECS 태스크 정의로 다시 써야 해서 "기존 매니페스트와 도구 유지"(①)에 맞지 않는다.
- EKS 관리형 노드 그룹 + IRSA: 관리형 노드 그룹은 노드 프로비저닝을 도와주지만 노드는 여전히 EC2 인스턴스다. AMI 업데이트 실행과 노드 용량 계획이 운영팀 몫으로 남는다(②).
- EKS Fargate 프로필 + Fargate 파드 실행 역할에 DynamoDB 권한 추가: 파드 실행 역할은 Fargate 인프라(kubelet 등)가 이미지 pull과 로그 전송에 쓰는 역할로 ECS의 태스크 실행 역할에 해당한다. 파드 안의 컨테이너는 이 역할의 권한을 받을 수 없으므로 권한을 추가해도 서비스가 DynamoDB에 접근하지 못한다. 역할 하나를 공유하는 구조라 서비스별 분리 요구(③)와도 맞지 않는다.
Elastic Beanstalk
Elastic Beanstalk는 애플리케이션 코드만 올리면 EC2, ASG, ALB를 만들어 주는 서비스다. 내부에서는 CloudFormation으로 이 리소스들을 만든다. 새 버전을 배포할 때마다 어떤 배포 정책으로 인스턴스를 교체할지 고르는데 정책에 따라 다운타임, 비용, 롤백 속도가 달라진다.
| 배포 정책 | 동작 | 다운타임 | 추가 비용 | 롤백 |
|---|---|---|---|---|
| All at once | 전체를 동시에 교체 | 있음 | 없음 | 재배포 |
| Rolling | 배치 단위로 교체 | 없음(용량 감소) | 없음 | 재배포 |
| Rolling with additional batch | 새 배치를 먼저 추가한 뒤 교체 | 없음(용량 유지) | 약간 | 재배포 |
| Immutable | 새 ASG에 새 인스턴스를 띄우고 정상이면 교체 | 없음 | 일시적으로 2배 | 빠름(새 인스턴스만 삭제) |
| Traffic splitting | 새 버전에 트래픽 일부를 보냄(카나리) | 없음 | 일시적으로 2배 | 빠름 |
| 블루/그린 | 환경을 하나 더 만들고 URL(CNAME)을 스왑 | 없음 | 환경 2개 | 스왑 되돌리기 |
- RDS는 환경 밖에 따로 만든다. 환경 안에 두면 환경을 삭제하거나 블루/그린으로 교체할 때 DB도 사라진다.
- 환경은 웹 서버 환경과 워커 환경(SQS 큐를 읽어 백그라운드 처리)으로 나뉜다.
- 기존 3계층 애플리케이션을 최소 변경으로 확장하고 고가용성을 갖추려면 Beanstalk Multi-AZ + 같은 엔진의 RDS Multi-AZ로 옮긴다. 서버리스로 다시 작성할 필요는 없다.
사례 7. URL을 바꾸지 않고 빠르게 되돌리는 배포
상황 Elastic Beanstalk 웹 서버 환경에서 프로덕션 애플리케이션을 운영한다. 지난 롤링 배포에서 새 버전이 일부 인스턴스에서 실패했고 이전 버전을 다시 배포해 되돌리는 데 오래 걸렸다.
- ① 다음 배포부터는 배포 중에도 처리 용량이 줄지 않아야 한다.
- ② 실패하면 새로 만든 인스턴스만 종료해 빠르게 되돌릴 수 있어야 한다.
- ③ 일부 기업 고객은 방화벽 규칙과 DNS 캐싱 문제 때문에 환경 URL이나 DNS 레코드가 바뀌는 방식을 허용하지 않는다.
해결. Immutable을 쓴다. 임시 ASG에 새 버전 인스턴스를 띄우고 상태 확인을 통과하면 기존 그룹으로 옮긴 뒤 옛 인스턴스를 종료한다. 배포 중 기존 용량은 그대로이고(①) 실패하면 새 인스턴스만 종료하면 된다(②). 같은 환경, 같은 로드 밸런서를 쓰므로 URL과 DNS도 바뀌지 않는다(③).
다른 선택지가 안 되는 이유
- Rolling with additional batch: 용량은 유지하지만 기존 인스턴스를 배치 단위로 교체한다. 실패하면 지난번처럼 이전 버전을 재배포해야 해서 롤백이 느리다(②).
- 블루/그린(환경 URL 스왑): 롤백은 빠르지만 전환이 환경 URL(CNAME) 스왑, 즉 DNS 변경이다. DNS 변경을 허용하지 않는다는 조건(③)에 걸린다.
- All at once: 모든 인스턴스를 동시에 교체하므로 배포 중 다운타임이 생긴다(①).
엣지와 하이브리드 컴퓨팅: Local Zones, Wavelength, Outposts
사용자가 리전에서 멀리 있으면 코드를 아무리 최적화해도 네트워크 왕복 지연은 줄지 않는다. 규정상 데이터가 회사 데이터센터 밖으로 나가면 안 되는 경우도 있다. 이런 요구가 있으면 AWS 컴퓨팅을 리전 밖의 특정 위치에 둔다.
| Local Zones | Wavelength | Outposts | |
|---|---|---|---|
| 하는 일 | 특정 대도시에 AWS가 운영하는 인프라 | 통신사 5G망 안에 있는 AWS 영역 | 고객이 고른 장소(자체 데이터센터나 코로케이션)에 설치하는 AWS 랙 |
| 맞는 경우 | 특정 도시 사용자에게 한 자릿수 ms 지연(방송 편집, 게임) | 5G 모바일 기기에 초저지연 | 데이터가 반드시 자체 데이터센터 안(데이터 레지던시), 온프레미스 저지연, 같은 AWS API |
- Local Zones는 장비와 시설을 AWS가 관리하고 일반 EC2처럼 사용량만큼 낸다.
- Outposts는 전력, 네트워크, 공간을 고객이 책임진다.
- 대상이 5G 모바일 기기가 아니면 Wavelength는 맞지 않는다.
사례 8. 한 대도시의 PC 게임 플레이어에게 한 자릿수 ms
상황 AWS 리전에서 실시간 대전 게임 서버를 운영한다. 새로 진출한 한 대도시의 플레이어들은 리전까지 거리가 멀어 지연이 길다고 불만이다. 플레이어는 대부분 가정의 유선 인터넷으로 PC에서 접속한다.
- ① 회사는 그 도시에 장비를 설치하거나 시설을 관리하고 싶지 않다.
- ② 이 도시의 플레이어에게 한 자릿수 밀리초 지연을 제공해야 한다.
해결. 그 도시의 Local Zone에 EC2 게임 서버를 배포한다. AWS가 그 대도시에 운영하는 인프라라 그 도시 사용자에게 한 자릿수 ms 지연을 준다(②). 장비와 시설은 AWS가 관리하고(①) 비용은 일반 EC2처럼 사용량만큼 낸다.
다른 선택지가 안 되는 이유
- Wavelength 영역: 통신사 5G망 안에 있는 영역이다. 가정용 유선 인터넷으로 접속하는 PC 플레이어에게는 해당하지 않는다.
- Outposts 랙을 그 도시의 코로케이션 시설에 설치: 저지연은 되지만 랙을 고객이 고른 장소에 설치하고 전력, 네트워크, 공간을 고객이 책임진다. "장비를 설치하거나 시설을 관리하고 싶지 않다"는 조건(①)에 걸린다.
- 기존 리전 앞에 Global Accelerator: AWS 백본으로 경로를 최적화하지만 게임 서버는 여전히 먼 리전에 있다. 물리적 거리 때문에 한 자릿수 ms는 나오지 않는다(②).
워크로드 등급별 비용과 적정 크기
월 청구서를 열어 보면 밤과 주말에도 켜져 있는 개발 환경 EC2나 평균 CPU가 10%도 안 되는 큰 인스턴스가 비용을 꾸준히 차지한다. 그래서 프로덕션과 개발 환경은 비용 설계를 다르게 하고 과대 프로비저닝된 인스턴스는 크기를 줄인다. 크기를 얼마로 줄일지는 Compute Optimizer가 사용률을 분석해 추천한다.
| 등급 | 설계 |
|---|---|
| 프로덕션 | 다중 AZ, 기본 부하는 RI/SP + 피크는 온디맨드, 상태 없는 계층은 일부 스팟 |
| 개발/테스트 | 단일 AZ, 작은 인스턴스, 스팟, 업무 시간 외 중지(Instance Scheduler on AWS로 일정에 따라 시작/중지) |
- Compute Optimizer는 사용률을 분석해 EC2, ASG, EBS, Lambda, ECS on Fargate 등의 적정 크기를 추천한다. 과대 프로비저닝을 찾는 도구다.
- Trusted Advisor는 비용, 보안, 한도 전반의 점검표이고 Cost Explorer는 비용 추이를 분석한다. 두 도구는 [AWS 아키텍처 11]에서 다룬다.
- "인스턴스 크기 적정화 권고"가 필요하면 Trusted Advisor나 CUR이 아니라 Compute Optimizer를 쓴다.
사례 9. 3년 약정 전에 적정화부터
상황 서울 리전과 버지니아 북부 리전에서 여러 인스턴스 패밀리의 EC2 약 300대를 24시간 운영한다. 재무팀은 3년 약정으로 컴퓨팅 비용을 줄이려 한다. 상당수 인스턴스의 평균 CPU 사용률이 10% 미만이다.
- ① 회사는 내년에 일부 서비스를 ECS on Fargate와 Lambda로 옮기고 일부 워크로드는 다른 리전으로 이전할 계획이다.
- ② 약정 전에 인스턴스마다 어떤 유형과 크기로 바꿔야 하는지 구체적인 권고를 받아 먼저 적정화하려 한다.
해결. 두 단계를 순서대로 한다.
- Compute Optimizer를 켜고 EC2 인스턴스 권장 사항에 따라 유형과 크기를 조정한다. 사용률 지표를 분석해 인스턴스마다 권장 유형과 크기를 알려 준다(②). 메모리 기반 권고까지 받으려면 CloudWatch 에이전트가 필요하다.
- 적정화를 마친 뒤의 시간당 컴퓨팅 사용 금액으로 Compute Savings Plans를 산다. 패밀리, 리전, OS를 가리지 않고 Fargate와 Lambda에도 적용되므로 리전 이전과 서버리스 전환 계획에 맞는다(①). 적정화 후의 금액으로 약정해야 과대 프로비저닝분까지 3년 동안 약정하지 않는다.
다른 선택지가 안 되는 이유
- Trusted Advisor의 사용률 낮은 EC2 검사 결과를 보고 중지: Trusted Advisor는 사용률이 낮은 인스턴스를 짚어 주는 점검표다. 인스턴스별 유형/크기 권고는 주지 않는다(②). 24시간 서비스 중인 인스턴스를 중지하면 서비스가 멈춘다. 요구는 "줄이기"가 아니라 "적정화"다.
- 리전마다 현재 패밀리별 EC2 Instance Savings Plans: 리전 + 패밀리 고정이고 EC2에만 적용된다. 리전 이전, Fargate, Lambda 계획에 맞지 않는다(①).
- 현재 유형에 맞춰 3년 Standard RI 전체 선결제: 지금의 과대 프로비저닝된 유형을 3년 동안 고정한다(②). EC2에만 적용되는 점도 같다(①).
정리: 요구별 구성
| 요구 | 구성 |
|---|---|
| 인메모리, 상태 저장 앱이 느림 | 메모리 최적화(R/X)로 교체 |
| HPC, 노드 간 초저지연 | C 계열 + 클러스터 배치 그룹 |
| 소수 핵심 인스턴스를 동시 장애로부터 보호 | 분산 배치 그룹 |
| HDFS, Cassandra, Kafka 랙 인지 배치 | 파티션 배치 그룹 |
| 24시간 기본 부하, 비용 최소 | RI 또는 SP |
| 패밀리, 리전을 바꿀 수 있게 + Fargate, Lambda까지 | Compute Savings Plans |
| 약정 기간 중 인스턴스 패밀리 변경 | Convertible RI |
| 특정 AZ에 용량 보장, 약정 없이 | 온디맨드 용량 예약 |
| 중단 가능한 배치, 최저가 | 스팟(+ 스팟 플릿 / 혼합 인스턴스 정책) |
| 중단 불가, 기본 + 피크 | RI/SP + 온디맨드(스팟 제외) |
| 소켓/코어 단위 BYOL 라이선스 | 전용 호스트 |
| 하드웨어 격리만, 라이선스 무관 | 전용 인스턴스 |
| 메모리 상태를 유지한 채 빠른 재개 | EC2 최대 절전 모드 |
| 지표를 목표값으로 유지 | 대상 추적 조정 |
| 정해진 시간의 피크 | 예약 조정 |
| 반복 패턴에 미리 확장 | 예측 조정 |
| 앱이 죽은 인스턴스도 교체 | ASG에 ELB 상태 확인 |
| 종료 전 로그 백업, 스크립트 실행 | 수명 주기 후크 |
| 축소 중 진행 중인 요청 보호 | 대상 그룹 등록 취소 지연 |
| 부팅이 오래 걸려 확장이 늦음 | 웜 풀 |
| 이벤트 기반, 간헐적, 15분 이내 | Lambda |
| Lambda 콜드 스타트 제거 | 프로비저닝된 동시성 |
| Lambda가 DB를 과부하, 다른 함수 보호 | 예약 동시성(+ RDS Proxy) |
| 15분 초과, 고사양 배치, 운영 최소 | AWS Batch / ECS on Fargate |
| 컨테이너, 서버 관리 없음 | Fargate |
| 기존 Kubernetes 그대로 | EKS |
| 코드만 올리고 인프라 자동 | Elastic Beanstalk(RDS는 환경 밖) |
| 배포 실패 시 가장 빠른 롤백, 다운타임 없음 | Immutable 또는 블루/그린(URL 스왑) |
| 데이터가 반드시 자체 데이터센터 안 | Outposts |
| 5G 모바일 초저지연 | Wavelength |
| 특정 대도시 사용자 저지연 | Local Zones |
| 개발 환경 비용 절감 | 단일 AZ + 스팟 + 업무 시간 외 중지(Instance Scheduler) |
| 인스턴스 적정 크기 추천 | Compute Optimizer |