고급 서버리스 앱 개발 자세히 살펴보기::김필중:: AWS Summit Seoul 2018

© 2018, Amazon Web Services, Inc. or Its Affiliates. All rights reserved.
김필중
솔루션즈 아키텍트 / Amazon Web Services
고급 서버리스 앱 배포
자세히 살펴보기

서버리스
오늘의 진행
소스 빌드 테스트 프로덕션
배포 운영
• 테스트
• 모니터링
• 로깅
• 문제해결

서버리스

서버리스란
프로비저닝하거나 관리할
서버가 없음
사용량에 따라 확장
유휴 상태에 대한 비용 없음 가용성 및 내결함성 내장

서버리스 애플리케이션을 위한 최소한의 할일!
AWS
Lambda
Node.js
Python
Java
C#
Go
…
함수 (코드)이벤트 소스
데이터 상태를
변경
엔드포인트로
요청
자원 상태가
변경
업로드 (배포)호출
오늘의 주 내용
단계 1: 함수 (코드) 준비 단계 2: Lambda에 업로드단계 3: 이벤트 소스 연결

웹 앱을 위한 엔드포인트: Amazon API Gateway
Internet
Mobile
Apps
Websites
Services
AWS
Lambda
functions
AWS
API Gateway
Cache
Endpoints
on Amazon
EC2
All publicly
accessible
endpoints
Amazon
CloudWatch
Monitoring
Amazon
CloudFront
Any other
AWS service

Lambda 실행 모델
동기 (push) 비동기 (event) 스트림 기반
Amazon
API Gateway
AWS Lambda
함수
Amazon
DynamoDBAmazon
SNS
/order
AWS Lambda
함수
Amazon
S3
reqs
Amazon
Kinesis
changes
AWS Lambda
서비스
함수

일반적인 서버리스 활용 방법
웹
애플리케이션
• 동적 웹 앱
• 복잡한 웹 앱
• Flask 및
Express 앱
• 블로그
데이터 처리
• 실시간
스트리밍
• 맵리듀스
• 배치 작업
• 미디어 변환
챗봇
• 챗봇 로직
백엔드
• 앱 및 서비스
• 모바일
• IoT
</></>
Amazon
Alexa
• 음성 지원 앱
• Alexa Skills
Kit
IT 자동화
• 정책 엔진
• AWS 서비스
확장
• 인프라 관리

배포를 위한 릴리즈 프로세스
지속적 통합: Continuous integration
지속적 전달: Continuous delivery
지속적 배포: Continuous deployment

AWS Code 서비스를 활용한 보통의 배포 방법
AWS CodeDeploy타사 도구AWS CodeBuildAWS CodeCommit
AWS CodePipeline
AWS CodeStar
코드 저장소 빌드/테스팅 배포
파이프라인 모델링
손 쉬운 구성

새 버전의 코드는 어떻게 배포할까요?
새 버전 기존 버전

서버리스 배포를 위한 고려사항
사용자에게 미치는
영향 최소화
롤백 기술 실행 모델 요소 배포 속도

서버리스 배포 패턴
All-at-once
모든 트래픽은 이전
버전에서 새 버전으로
즉시 이동.
Blue/Green
프로덕션 트래픽을
처리하기전에 새
버전은 배포되고
테스트됨.
유효성을 검사 한 후
모든 트래픽이 이전
버전에서 새 버전으로
즉시 변경.
Canary/Linear
프로덕션 트래픽의
일부분은 새 버전
으로, 나머지는 이전
버전으로 보냄.
유효성 검사를 위해
일정 기간이 지나면
트래픽이 점진적으로
(추가 유효성 검사와
함께) 이동되거나 새
버전으로 완전히
이동.

서버리스 배포를 위한 도구

AWS CloudFormation
AWS 리소스 프로비저닝
클라우드 인프라 템플릿을 정의하기 위한 언어
- JSON 및 YAML 지원
개발, CI/CD, 관리 도구와 통합

CloudFormation 템플릿
AWSTemplateFormatVersion: '2010-09-09'
Resources:
GetHtmlFunctionGetHtmlPermissionProd:
Type: AWS::Lambda::Permission
Properties:
Action: lambda:invokeFunction
Principal: apigateway.amazonaws.com
FunctionName:
Ref: GetHtmlFunction
SourceArn:
Fn::Sub: arn:aws:execute-api:${AWS::Region}:${AWS::AccountId}:${ServerlessRestApi}/Prod/ANY/*
ServerlessRestApiProdStage:
Type: AWS::ApiGateway::Stage
Properties:
DeploymentId:
Ref: ServerlessRestApiDeployment
RestApiId:
Ref: ServerlessRestApi
StageName: Prod
ListTable:
Type: AWS::DynamoDB::Table
Properties:
ProvisionedThroughput:
WriteCapacityUnits: 5
ReadCapacityUnits: 5
AttributeDefinitions:
- AttributeName: id
AttributeType: S
KeySchema:
- KeyType: HASH
AttributeName: id
GetHtmlFunction:
Type: AWS::Lambda::Function
Properties:
Handler: index.gethtml
Code:
S3Bucket: flourish-demo-bucket
S3Key: todo_list.zip
Role:
Fn::GetAtt:
- GetHtmlFunctionRole
- Arn
Runtime: nodejs4.3
GetHtmlFunctionRole:
Type: AWS::IAM::Role
Properties:
ManagedPolicyArns:
- arn:aws:iam::aws:policy/AmazonDynamoDBReadOnlyAccess
- arn:aws:iam::aws:policy/service-role/AWSLambdaBasicExecutionRole
AssumeRolePolicyDocument:
Version: '2012-10-17'
Statement:
- Action:
- sts:AssumeRole
Effect: Allow
Principal:
Service:
- lambda.amazonaws.com
ServerlessRestApiDeployment:
Type: AWS::ApiGateway::Deployment
Properties:
RestApiId:
Ref: ServerlessRestApi
Description: 'RestApi deployment id: 127e3fb91142ab1ddc5f5446adb094442581a90d'
StageName: Stage
GetHtmlFunctionGetHtmlPermissionTest:
Type: AWS::Lambda::Permission
Properties:
Action: lambda:invokeFunction
Principal: apigateway.amazonaws.com
FunctionName:
Ref: GetHtmlFunction
SourceArn:
Fn::Sub: arn:aws:execute-api:${AWS::Region}:${AWS::AccountId}:${ServerlessRestApi}/*/ANY/*
ServerlessRestApi:
Type: AWS::ApiGateway::RestApi
Properties:
Body:
info:
version: '1.0'
title:
Ref: AWS::StackName
paths:
"/{proxy+}":
x-amazon-apigateway-any-method:
x-amazon-apigateway-integration:
httpMethod: ANY
type: aws_proxy
uri:
Fn::Sub: arn:aws:apigateway:${AWS::Region}:lambda:path/2015-03-
31/functions/${GetHtmlFunction.Arn}/invocations
responses: {}
swagger: '2.0'

AWS Serverless Application Model (SAM)
서버리스에 최적화된 CloudFormation 확장판
새로운 서버리스 자원 유형: 함수, API, 테이블
CloudFormation이 지원하는 모든 것을 지원
오픈 사양 (Apache 2.0)
https://github.com/awslabs/serverless-application-model

SAM 템플릿
AWSTemplateFormatVersion: '2010-09-09’
Transform: AWS::Serverless-2016-10-31
Resources:
GetHtmlFunction:
Type: AWS::Serverless::Function
Properties:
CodeUri: s3://sam-demo-bucket/todo_list.zip
Handler: index.gethtml
Runtime: nodejs4.3
Policies: AmazonDynamoDBReadOnlyAccess
Events:
GetHtml:
Type: Api
Properties:
Path: /{proxy+}
Method: ANY
ListTable:
Type: AWS::Serverless::SimpleTable
SAM 템플릿임을 명시
IAM 정책, 런타임, 코드를 포함하는
zip 파일 위치, 핸들러와 함께
Lambda 함수 생성
API Gateway를 만들고 필요한 모든
매핑/권한을 처리.
5 읽기/쓰기 유닛으로 DynamoDB
테이블 생성

서버리스 애플리케이션 배포 기법

Lambda 함수 버전 및 별칭
버전: 변하지 않는 (immutable) 함수 (코드 및 구성 포함)
별칭: 버전을 가리키는 변하는 (mutable) 포인터
둘 모두 ARN을 통해 호출이 가능
모범 사례
• $LATEST 버전을 기반으로 개발
• 테스팅과 배포를 구분하여 게시
• 클라이언트 접근을 추상화하기 위해 별칭 활용:
• 롤백
• 스테이징
• 클라이언트 별 버전
Web app Lambda
function,
v1
Lambda
function,
v2
별칭

스테이지 변수와 Lambda 별칭
API Gateway에서 단계 변수를 Lambda 함수 별칭과 함께 사용하면 여러
환경 단계에 대해 단일 API 구성 및 Lambda 함수를 관리할 수 있습니다
Lambda 함수 API
1
2
3 = prod
4
5
6 = beta
7
8 = dev
Prod
lambdaAlias = prod
Beta
LambdaAlias = beta
Dev
lambdaAlias = dev
단계 변수 = lambdaAlias

Lambda 별칭 트래픽 이동 및 안전한 배포
aws lambda update-alias --name alias name --function-name function-
name --routing-config AdditionalVersionWeights={"2"=0.05}

Lambda 별칭 트래픽 이동
Lambda 함수 API
1
2
3 = prod
4
5
6 = prod 5%
Prod
lambdaAlias = prod
aws lambda update-alias --name prod --function-name lambdaFunction
--routing-config AdditionalVersionWeights={"6"=0.05}

Lambda 별칭 트래픽 이동
Lambda 함수 API
5
6 = prod
Prod
lambdaAlias = prod
aws lambda update-alias --name prod --function-name lambdaFunction
--function-version 6 --routing-config ‘’

SAM Globals + 안전한 배포
Globals:
Function:
Runtime: nodejs4.3
AutoPublishAlias: !Ref ENVIRONMENT
MyLambdaFunction:
Type: AWS::Serverless::Function
Properties:
Handler: index.handler
DeploymentPreference:
Type: Linear10PercentEvery10Minutes
Alarms:
# A list of alarms that you want to monitor
- !Ref AliasErrorMetricGreaterThanZeroAlarm
- !Ref LatestVersionErrorMetricGreaterThanZeroAlarm
Hooks:
# Validation Lambda functions that are run before & after traffic shifting
PreTraffic: !Ref PreTrafficLambdaFunction
PostTraffic: !Ref PostTrafficLambdaFunction

Lambda 별칭 트래픽 이동 및 AWS SAM
AutoPublishAlias
이 속성을 추가하고 별칭명을 지정하면
AWS SAM이 다음을 수행 :
• Lambda 함수의 Amazon S3 URI의
변경사항을 기반으로 새로운 코드가
배포될 때를 탐지
• 최신 코드로 해당 함수의 업데이트된
버전을 만들고 게시
• 지정한 이름으로 별칭을 만들고 (해당
별칭이 존재하지 않는 한) Lambda
함수의 업데이트된 버전을 가리킴
배포 기본 설정 유형
Canary10Percent30Minutes
Linear10PercentEvery10Minutes
Linear10PercentEvery1Minute
AllAtOnce
SAM:

Lambda 별칭 트래픽 이동 및 AWS SAM
SAM:
Alarms: # A list of alarms that you want to monitor
- !Ref AliasErrorMetricGreaterThanZeroAlarm
- !Ref LatestVersionErrorMetricGreaterThanZeroAlarm
Hooks: # Validation Lambda functions that are run
before & after traffic shifting
PreTraffic: !Ref PreTrafficLambdaFunction
PostTraffic: !Ref PostTrafficLambdaFunction
참고: 최대 10개의 경보(Alarm) 지정 가능

AWS CodeDeploy + Lambda
자동 배포 (EC2/온프레미스), 롤링 배포(Blue/green),
정지와 롤백 지원
AWS Lambda 배포 지원!
AWS SAM을 사용하여 서버리스 애플리케이션 배포
람다 별칭을 사용한 트래픽 이동 지원으로
Canary와 Blue/Green 배포 가능
CloudWatch 지표/알람을 기반으로 롤백 가능
트래픽 유입 이전/이후의 트리거를 통해 다른
서비스들간의 통합 가능 (람다 함수 호출도 가능)

AWS CodeDeploy + Lambda
사용자 지정 배포 구성 지원
• 1시간 동안 Canary 5%
• 매 1시간 동안 Linear 20%
성공/실패/롤백 시 SNS를 통한 이벤트 알림
콘솔에서 배포 상태, 기록, 롤백을 시각화하여 확인

Amazon API Gateway Canary 지원
Canary 릴리즈 배포를 사용하여 Amazon API Gateway에서
새로운 API를 점차적으로 출시할 수 있습니다
• 새로운 단계 배포로 이동하는 트래픽 비율 구성
• 단계 설정과 변수 테스트 가능
• API Gateway는 Canary 배포 API에 의해 제어되는 요청들을
위한 추가적인 Amazon CloudWatch Logs 그룹과 CloudWatch
지표를 생성
• 롤백 가능(배포를 제거 또는 트래픽 비율을 0으로 설정)

v1API Clients All publicly
and privately
accessible
endpoints
Backends
in AWS
api.mydomain.com/prod
현재 배포된 버전으로 들어오는 모든 트래픽

API Clients All publicly
and privately
accessible
endpoints
Backends
in AWS
v1
50%
v2
50%
트래픽의 50%는 단계의 새 배포로, 나머지는 이전 버전으로

API Clients All publicly
and privately
accessible
endpoints
Backends
in AWS
v1
10%
v2
90%
트래픽의 90%는 단계의 새 배포로, 나머지는 이전 버전으로

v2API Clients All publicly
and privately
accessible
endpoints
Backends
in AWS
새로 배포된 버전으로 들어오는 모든 트래픽
변경 사항이 없는 클라이언트

활용 방법
• API 백엔드에서 새로운 기술을 적용
• 새로운 언어
• 새로운 프레임워크
• Lambda 함수로 특정 기능 구현 후 연결
• 개별 로그 및 지표로 성능 비교/대조
• VPC에서 엔드포인트 통합을 통해 온프레미스에서 AWS로
API를 마이그레이션
• API Gateway à Network Load Balancer (NLB) à
온프레미스 (Direct Connect 또는 VPN 연결을 통해)

Lambda와 API Gateway Canary 배포 비교
Lambda
• 단일 함수 수준으로만 제어
• 서비스 호출에 투명성 제공
• 새 버전은 고유 로그 및 지표 가짐
• Weight를 0으로 설정하여 롤백
• SAM을 통해 자동으로 점진적
변경 지원
API Gateway
• 전체 단계 수준으로 제어
• 클라이언트에 투명성 제공
• 새 버전은 고유 로그 및 지표 가짐
• Weight를 0으로 설정하거나
Canary를 삭제하여 롤백

배포 파이프라인 구축

AWS CodePipeline
신속하고 신뢰할 수 있는 애플리케이션
업데이트를 위한 지속적인 전달 서비스
소프트웨어 릴리즈 프로세스 모델링 및
시각화
코드가 변경될 때 마다 빌드, 테스트, 배포
AWS와 다양한 도구들과의 통합

간결한 개발자의 파이프라인 예제
MyBranch-Source
Source
CodeCommit
서버리스 앱
Build
test-build-source
CodeBuild
MyDev-Deploy
create-changeset
AWS CloudFormation
execute-changeset
AWS CloudFormation
Run-stubs
AWS Lambda
파이프라인 설명
• 3 단계로 구성
• 코드 아티팩트 생성
• 단일 환경 (개발용)
• SAM/CloudFormation을 사용하여
아티팩트와 다른 AWS 리소스들 배포
• Lambda 사용자 정의 행동을 통해
테스트 함수 실행
파이프라인
단계
작업
전환

간결한 개발자의 파이프라인 예제
파이프라인 설명
• 5 단계로 구성
• 코드 아티팩트 생성
• 여러 환경들로 세 차례 배포
• SAM/CloudFormation을 사용하여
아티팩트와 다른 AWS 리소스들 배포
• Lambda 사용자 정의 행동을 통해
테스트 함수 실행
• 타사 도구/서비스와 통합
• 프로덕션으로 배포하기 전 수동 승인
Source
Source
CodeCommit
서버리스 앱
Build
test-build-source
CodeBuild
Deploy Testing
create-changeset
AWS
CloudFormation
execute-changeset
AWS
CloudFormation
Run-stubs
AWS Lambda
Deploy Staging
create-changeset
AWS
CloudFormation
execute-changeset
AWS
CloudFormation
Run-API-test
Runscope
QA-Sign-off
Manual Approval
Review
Deploy Prod
create-changeset
AWS
CloudFormation
execute-changeset
AWS
CloudFormation
Post-Deploy-Slack
AWS Lambda

배포 모델 별 테스트
Source
서버리스 앱
Build
Deploy Testing
Deploy Staging
Deploy Prod
• Pull 요청에 의한 코드
리뷰 (CodeCommit
에서 가능)
• Lint/문법 검사
• 유닛 테스트
• 코드 컴파일
• All-at-once 배포
• Mocked/stubbed
통합 테스트
• 실제 종속성에 대해 테스트
(프로덕션에 대한 잠재적인
테스트)
• 새 버전 배포와 모든
요청 연결
1.
2.
3.
4.
5.
All-at-once 모델

Source
서버리스 앱
Build
Deploy Testing
Deploy Staging
Deploy Prod
리뷰 (CodeCommit
에서 가능)
• Mocked/stubbed
통합 테스트
• Green 버전 배포
• Green에서 테스트 수행
및 검증
• 트래픽 전부 Green 연결
1.
2.
3.
4.
5.
Blue/Green 모델

Source
서버리스 앱
Build
Deploy Testing
Deploy Staging
Deploy Prod
리뷰 (CodeCommit
에서 가능)
• Mocked/stubbed
통합 테스트
• Canary 배포
• 대기 기간 동안
성공적으로 검증
• 트래픽 전부 연결
1.
2.
3.
4.
5.
Canary 모델

환경, 단계, 버전, Canary 관련 모범 사례
• 가능한 자동화된 롤백이 가능한 프로덕션 배포를 위해 Blue/Green
또는 Canary를 사용
• 다양한 소비자 또는 호출지를 위해 다양한 버전을 지원해야할 경우
Lambda의 버전(Versioning)은 매우 유용
• 다양한 API 버전을 지원해야할 경우 API Gateway에서는
단계(Stage)가 Lambda 버전과 비슷하게 작동하며 유용
• 개발, 테스트, 스테이지, 프로덕션 환경을 위해 가능한 항상 분리된
스택을 유지
• 이를 위해 단계나 버전을 사용하지 마세요
• 서로 다른 환경을 위해 다른 계정을 모두 함께 가지고 있다고 생각해보세요

운영
(테스트/로깅/모니터링/문제 해결)

일반적인 팁
• 로컬에서 함수를 테스트
• SAM Local을 사용하여 테스트
및 디버깅

SAM Local
로컬에서 서버리스 앱을 테스트하기 위한
CLI 도구
IDE에서 Lambda 디버깅
라이브 디버깅 지원
오프라인에서 작동
준비가 완료되었을 때 Push하여 배포
https://github.com/awslabs/aws-sam-local

SAM Local
Lambda 함수 및 프록시 형태의 API로 작동
로컬에서 응답 객체와 함수 로그 확인 가능
오픈소스 docker-lambda 이미지를 사용하여
Lambda의 실행 환경을 흉내 (Timeout,
메모리 제한, 런타임을 에뮬레이팅)
https://github.com/awslabs/aws-sam-local
npm install -g aws-sam-local

AWS CodeBuild: 높은 수준의 Lambda 테스트
CodeBuild는 Docker 이미지를 사용하여
빌드/테스트 환경을 구성한 뒤 원하는 작업을
가능하게 함
SAM Local은 Lambda 런타임의 복제본을 포함
바이너리 호환 라이브러리와 실행 파일을
빌드하고 테스트 가능

전통적인 디버깅
개발자
로컬
테스트
개발자
Breakpoints
추가
로그 항목
추가

서버리스 애플리케이션 로깅: CloudWatch
Lambda
• 기본 지표:
• Invocations
• Duration
• Throttles
• Errors
• Iterator Age
put-metric API를 사용하여
애플리케이션에서 사용자 정의
지표 기록 가능
API Gateway
• 스테이지 수준의 기본 지표:
• Count
• 4XXError, 5XXError
• Latency (API and
integration)
• Cache count hit/miss
메서드 수준의 세밀성으로 상세한
지표 집계 가능

서버리스 앱 문제 해결의 접근
• 기본적으로 적절한 로그를 기록하는 것부터 시작
• 기록된 로그는 빠르게 검색 가능해야 함
• 특히 람다 함수가 많다면 로그 기록은 더욱 중요!

사용자 정의 지표 및 로그 생성
• 타임스탬프를 통한 API Gateway와 Lambda에서 로그를 상호연관
• DynamoDB 호출과 관련된 많은 정보들을 로그로 기록
Amazon
API Gateway
Amazon
DynamoDBAWS Lambda
간단한 서버리스 애플리케이션

조금 어려운 문제들
• 많은 서비스가 연계되어
특정 홉이 다운되어
이슈가 발생하면 찾기가
쉽지 않음
• 요청 ID의 상관관계를
찾는 것은 물론
유지하기가 어려움
Amazon
API Gateway
Amazon
DynamoDB
AWS Lambda
AWS Lambda
Amazon
Rekognition
Amazon
SNS

AWS X-Ray
성능 병목현상 파악 특정 서비스 문제
핀포인팅
에러 파악 사용자에게 미치는
영향 파악

서버리스와의 통합
• Lambda에서 지원하는 모든 언어에 대한 수신
요청을 처리
• SDK를 사용하여 모든 언어에 대한 X-Ray
데몬을 실행
var AWSXRay = require(‘aws-xray-sdk-core‘);
AWSXRay.middleware.setSamplingRules(‘sampling-rules.json’);
var AWS = AWSXRay.captureAWS(require(‘aws-sdk’));
S3Client = AWS.S3();
Lambda는 개별 함수에 대해 콘솔 또는 API를 통해
선택하면 AWS X-Ray를 자동으로 활성화 함

X-Ray 예제

확장하고 있는 서버리스 생태계
구축 및 CI/CD
로깅 및 모니터링애플리케이션 및 배포
Chalice 프레임워크 서버리스 자바 컨테이너

정리
• 다양한 기능들을 활용하여 안전하고 제어된 방식으로 Lambda
함수를 배포
• 자동 롤백은 배포 관련 문제 복구를 위한 가장 빠른 방법
• 이벤트 모델과 워크로드 크기에 따라 적절한 배포 패턴을 선택
• AWS SAM + AWS CodeDeploy를 사용하여 서버리스
애플리케이션을 다양한 배포방식(all-at-once, blue/green,
canary)으로 배포 가능
• 서버리스 앱은 로깅과 모니터링 기능이 빌트인으로 포함됨
• 강력한 도구인 X-Ray를 활용하여 문제점을 시각화하여 해결

참고
• https://aws.amazon.com/serverless 에 참고 아키텍처, 샘플 등
다양한 컨텐츠가 준비되어 있습니다.
• https://github.com/awslabs/serverless-application-model 에 준비된
다양한 AWS SAM 사양을 살펴보세요.
• Lambda 콘솔에서 원하는 블루프린트를 선택 후 서버리스 앱 개발을
당장 시작할 수 있습니다.

AWS Summit 모바일 앱과 QR코드를
통해 강연 평가 및 설문 조사에 참여해
주시기 바랍니다.
내년 Summit을 만들 여러분의 소중한
의견 부탁 드립니다.
#AWSSummit 해시태그로 소셜 미디어에 여러분의 행사
소감을 올려주세요.
발표 자료 및 녹화 동영상은 AWS Korea 공식 소셜 채널로
공유될 예정입니다.
여러분의 피드백을 기다립니다!

고급 서버리스 앱 개발 자세히 살펴보기::김필중:: AWS Summit Seoul 2018

Recomendados

Recomendados

Más contenido relacionado

La actualidad más candente

La actualidad más candente (20)

Similar a 고급 서버리스 앱 개발 자세히 살펴보기::김필중:: AWS Summit Seoul 2018

Similar a 고급 서버리스 앱 개발 자세히 살펴보기::김필중:: AWS Summit Seoul 2018 (20)

Más de Amazon Web Services Korea

Más de Amazon Web Services Korea (20)

고급 서버리스 앱 개발 자세히 살펴보기::김필중:: AWS Summit Seoul 2018