CHAPTER 1
사용자 수에 따른 규모 확장성
| 용어 | 원어 | 뜻 | 쪽 |
|---|---|---|---|
| 웹 계층 / 데이터 계층 | web tier / data tier | 요청을 처리하는 서버 묶음과 데이터를 저장하는 서버 묶음. 나누면 각각 따로 확장할 수 있다 | 4 |
| 관계형 데이터베이스 | relational database (RDBMS) | 데이터를 테이블과 행으로 저장하고 SQL로 조인할 수 있는 DB | 4 |
| 비-관계형 데이터베이스 | NoSQL | 키-값, 그래프, 칼럼, 문서 저장소. 대개 조인을 지원하지 않는다 | 4 |
| 응답 지연시간 | latency | 요청을 보내고 응답이 올 때까지 걸리는 시간 | 5 |
| 수직적 규모 확장 | vertical scaling, scale up | 서버의 CPU, 메모리 같은 사양을 올리는 방식 | 5 |
| 수평적 규모 확장 | horizontal scaling, scale out | 서버를 더 추가해 부하를 나누는 방식 | 5 |
| 장애 자동 복구 | failover | 한 서버가 죽으면 다른 서버가 자동으로 일을 이어받는 것 | 5 |
| 다중화 | redundancy | 같은 역할을 하는 구성 요소를 여러 개 두어 하나가 죽어도 버티게 하는 것 | 5 |
| 로드밸런서 | load balancer | 들어온 트래픽을 여러 서버에 고르게 나눠 주는 장치 | 6 |
| 부하 분산 집합 | load balancing set | 로드밸런서 뒤에서 트래픽을 나눠 받는 서버 묶음 | 6 |
| 공개 IP / 사설 IP | public IP / private IP | 인터넷에서 닿는 주소와, 같은 네트워크 안에서만 쓰는 주소 | 6 |
| 데이터베이스 다중화 | database replication | DB 사본을 여러 서버에 두는 것. 보통 주-부 관계로 둔다 | 7 |
| 주 / 부 데이터베이스 | master / slave | 쓰기를 받는 원본 서버와, 사본을 받아 읽기만 처리하는 서버 | 7 |
| 다중 마스터 / 원형 다중화 | multi-master / circular replication | 쓰기를 받는 서버를 여럿 두는 다중화 방식. 복잡해서 책 범위 밖이다 | 9 |
| 캐시 | cache | 비싼 연산 결과나 자주 읽는 데이터를 메모리에 두는 임시 저장소 | 11 |
| 캐시 계층 | cache tier | DB보다 빠른 별도 캐시 서버 층. 따로 확장할 수 있다 | 11 |
| 읽기 주도형 캐시 전략 | read-through caching strategy | 캐시에 있으면 바로 주고, 없으면 DB에서 읽어 캐시에 넣은 뒤 주는 방식 | 11 |
| 만료 정책 | expiration policy | 캐시 데이터를 언제 지울지 정한 규칙 | 12 |
| 일관성 | consistency | 캐시와 원본 데이터가 같은 값을 갖는 정도 | 12 |
| 단일 장애 지점 | SPOF, single point of failure | 그것 하나가 죽으면 전체가 멈추는 곳 | 12 |
| 과할당 | overprovision | 필요보다 넉넉하게 메모리 같은 자원을 잡아 두는 것 | 13 |
| 데이터 방출 정책 | eviction policy | 캐시가 가득 찼을 때 무엇을 지울지 정한 규칙 | 13 |
| LRU / LFU / FIFO | least recently used / least frequently used / first in first out | 마지막 사용이 가장 오래된 것 / 사용 빈도가 가장 낮은 것 / 가장 먼저 들어온 것부터 지운다 | 13 |
| 콘텐츠 전송 네트워크 | CDN, content delivery network | 지리적으로 흩어진 서버들이 정적 콘텐츠를 캐시해 가까운 곳에서 내려주는 망 | 13 |
| 정적 콘텐츠 | static content | 요청마다 바뀌지 않는 파일. 이미지, 비디오, CSS, JS | 13 |
| TTL | time-to-live | 캐시된 데이터가 유효한 시간 | 15 |
| 오브젝트 버저닝 | object versioning | 파일 URL에 버전을 붙여 새 파일로 인식시키는 무효화 방법 | 16 |
| 상태 정보 의존적인 아키텍처 | stateful architecture | 서버가 사용자 상태(세션 등)를 직접 들고 있는 구조 | 17 |
| 무상태 웹 계층 | stateless web tier | 상태를 공유 저장소에 두고 웹 서버는 아무것도 기억하지 않는 구조 | 17 |
| 고정 세션 | sticky session | 같은 사용자를 늘 같은 서버로 보내는 로드밸런서 기능 | 18 |
| 자동 규모 확장 | autoscaling | 트래픽에 따라 서버를 자동으로 늘리고 줄이는 것 | 19 |
| 데이터 센터 | data center | 서버들이 모여 있는 물리적 장소. 여러 지역에 둘 수 있다 | 20 |
| 지리적 라우팅 | geoDNS-routing, geo-routing | 사용자 위치에 따라 도메인을 가까운 데이터 센터의 IP로 알려 주는 방식 | 20 |
| 메시지 큐 | message queue | 메시지를 잃지 않게 보관하며 비동기 통신을 돕는 버퍼 | 22 |
| 생산자 / 소비자 | producer, publisher / consumer, subscriber | 큐에 메시지를 넣는 쪽과 꺼내 처리하는 쪽. 발행자 / 구독자라고도 한다 | 22 |
| 느슨한 결합 | loosely coupled | 구성 요소가 서로의 상태를 몰라도 동작하는 관계 | 23 |
| 메트릭 | metrics | 시스템 상태를 숫자로 본 지표. 호스트 단위, 종합, 핵심 비즈니스로 나눈다 | 24 |
| 일별 능동 사용자 | daily active user (DAU) | 하루에 서비스를 실제로 쓴 사용자 수 | 24 |
| 지속적 통합 | CI, continuous integration | 커밋할 때마다 자동으로 빌드하고 테스트해 문제를 빨리 찾는 방식 | 24 |
| 샤딩 | sharding | 큰 DB를 같은 스키마의 작은 DB(샤드) 여러 개로 나누는 수평적 확장 | 26 |
| 샤딩 키 | sharding key, partition key | 데이터가 어느 샤드에 갈지 정하는 컬럼 | 28 |
| 데이터 재샤딩 | resharding | 샤드 구성을 바꾸고 데이터를 다시 옮기는 일 | 28 |
| 샤드 소진 | shard exhaustion | 분포가 고르지 않아 어떤 샤드가 다른 샤드보다 먼저 가득 차는 현상 | 28 |
| 안정 해시 | consistent hashing | 서버가 늘거나 줄 때 옮겨야 할 데이터를 최소로 하는 해시 방식(5장) | 28 |
| 유명인사 문제 / 핫스팟 키 | celebrity problem / hotspot key | 특정 키(유명인 계정 등)에 요청이 몰려 한 샤드가 과부하되는 문제 | 28 |
| 비정규화 | de-normalization | 조인을 피하려고 데이터를 중복해 한 테이블에 모아 두는 것 | 28 |
CHAPTER 2
개략적인 규모 추정
| 용어 | 원어 | 뜻 | 쪽 |
|---|---|---|---|
| 개략적인 규모 추정 | back-of-the-envelope estimation | 보편적인 성능 수치로 설계가 요구사항을 감당하는지 빠르게 가늠하는 것 | 33 |
| 바이트 / 비트 | byte / bit | 데이터의 기본 단위. 1바이트는 8비트, ASCII 문자 하나는 1바이트 | 33 |
| 응답지연 값 | latency numbers | 메모리 참조, 디스크 탐색, 네트워크 왕복 같은 연산에 걸리는 대표 시간 | 34 |
| 디스크 탐색 | seek | 디스크에서 읽을 위치로 헤드를 옮기는 동작. 메모리보다 훨씬 느리다 | 34 |
| 고가용성 | high availability | 시스템이 오랫동안 끊김 없이 운영되는 능력. 퍼센트로 나타낸다 | 36 |
| SLA | service level agreement | 서비스 사업자와 고객이 맺은 가용시간 합의 | 36 |
| 월간 능동 사용자 | monthly active user (MAU) | 한 달에 서비스를 실제로 쓴 사용자 수 | 37 |
| QPS | query per second | 초당 처리해야 하는 요청 수 | 37 |
| 최대 QPS | peak QPS | 트래픽이 가장 몰릴 때의 초당 요청 수. 예제에서는 평균의 2배로 잡는다 | 37 |
CHAPTER 3
시스템 설계 면접 공략법
| 용어 | 원어 | 뜻 | 쪽 |
|---|---|---|---|
| 과도한 엔지니어링 | over-engineering | 설계의 순수성에 집착해 트레이드오프를 무시하고 필요 이상으로 복잡하게 만드는 것 | 40 |
| 타협적 결정 (트레이드오프) | tradeoff | 하나를 얻으려면 다른 하나를 내줘야 하는 관계 | 40 |
| 개략적 설계안 | high-level design | 핵심 구성 요소와 흐름만 그린 전체 청사진 | 43 |
| 에지 케이스 | edge case | 평소 흐름에서 벗어난 드문 상황 | 44 |
| 피드 발행 / 피드 생성 | feed publishing / feed building | 쓴 글을 저장하고 친구 피드에 반영하는 흐름과, 친구 글을 모아 피드를 만드는 흐름 | 44 |
| 상세 설계 | design deep dive | 면접관과 고른 구성 요소를 깊게 설계하는 단계 | 45 |
| 병목 | bottleneck | 전체 처리 속도를 제한하는 가장 느린 지점 | 46 |