반응형
Notice
Recent Posts
Recent Comments
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | ||||||
2 | 3 | 4 | 5 | 6 | 7 | 8 |
9 | 10 | 11 | 12 | 13 | 14 | 15 |
16 | 17 | 18 | 19 | 20 | 21 | 22 |
23 | 24 | 25 | 26 | 27 | 28 |
Tags
- Data Engineer
- 데이터 엔지니어
- AWS
- airflow
- spark
- docker
- 데이터
- 스파크
- kafka rest api
- Schema Registry
- Redshift
- Data engineering
- 데이터 웨어하우스
- Zookeeper
- 스파크 스트리밍
- Parquet
- 컬럼 기반
- 대용량 처리
- 레드시프트
- spark streaming
- 에어플로우
- s3
- 카프카 구축
- 카프카
- 데이터 엔지니어링
- kafka
- MySQL
- 델타레이크
- delta lake
- Data Warehouse
Archives
- Today
- Total
목록카프카 내부 (1)
데이터 엔지니어 기술 블로그
![](http://i1.daumcdn.net/thumb/C150x150/?fname=https://blog.kakaocdn.net/dn/cSfOmu/btq2kqKUyQq/Hl7SSG9Ae0xt4r8sRtCKF1/img.png)
About 카프카의 내부를 다 이해할 필요는 없지만 어느정도 알아두면 좀 더 최적화하거나 문제가 발생했을 때 해결하는데 도움이 된다. 내부 매커니즘 클러스터와 주키퍼 컨트롤러 브로커 중 하나이고 리더를 선출해야하는 역할을 가지고 있다. 클러스터를 시작할 때의 첫 번째 브로커가 컨트롤러로 임명된다. 모든 브로커는 시작될 때 주키퍼에서 /controller 노드가 없으면 생성하려고 한다. 컨트롤러 브로커에 문제가 생기면 카프카의 Watch가 브로커들에게 컨트롤러가 사라졌다고 알려준다. 그러면 브로커들은 /controller 노드를 생성하려고 시도한다. 첫 번째로 생성한 노드가 컨트롤러가 되며 새로운 세대 번호를 받게 된다. 브로커들은 새로운 세대 번호를 알게 되고, 이전 세대 번호의 브로커에서 명령이 오면 ..
데이터 엔지니어링
2021. 4. 13. 17:08