반응형
Notice
Recent Posts
Recent Comments
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
Tags
- 카프카 구축
- 레드시프트
- 데이터 웨어하우스
- 에어플로우
- Data engineering
- airflow
- 카프카
- delta lake
- kafka
- Schema Registry
- spark
- Redshift
- Parquet
- kafka rest api
- 스파크
- Data Warehouse
- AWS
- spark streaming
- s3
- 데이터 엔지니어
- 델타레이크
- Zookeeper
- docker
- Data Engineer
- 컬럼 기반
- 스파크 스트리밍
- 데이터
- 데이터 엔지니어링
- 대용량 처리
- MySQL
Archives
- Today
- Total
목록네하 나크헤데 (1)
데이터 엔지니어 기술 블로그
[🧙Kafka] ETL IS DEAD, LONG-LIVE STREAMS: 네하 나크헤데
개요 카프카를 활용한 인프라를 설계해보기 위해 찾아보다가 Confluent 공동 창립자 중 한명인 네하 나크헤데의 프레젠테이션을 보게 되었다. 이번에는 그 내용을 정리해보려고 한다. 프레젠테이션 내용 지난 10년간 데이터 시스템은 많이 바뀌었다. 여러 DB에서 데이터 웨어하우스로 ETL하여 데이터를 넣는 방식이었다. 최근 몇가지 데이터 추세는 ETL 아키텍처의 극적인 변화를 주도하고 있다. Single Server Database는 전사적 규모로 분산 데이터 플랫폼으로 바뀌고 있다. 그리고 일반적인 데이터가 아닌 logs, sensors, metrics 등으로 데이터 타입이 많아지고 있으며 스트림 데이터는 점점 보편화(increasingly ubiquitous)되고 있다. 그래서 그 결과는 아주 복잡한 ..
카테고리 없음
2021. 7. 20. 00:45