반응형
Notice
Recent Posts
Recent Comments
Link
| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | 6 | |
| 7 | 8 | 9 | 10 | 11 | 12 | 13 |
| 14 | 15 | 16 | 17 | 18 | 19 | 20 |
| 21 | 22 | 23 | 24 | 25 | 26 | 27 |
| 28 | 29 | 30 | 31 |
Tags
- 코테
- 코엑스맛집
- 알고리즘
- 프로그래머스
- Data Engineering
- 개발
- HIVE
- Data Engineer
- Apache Kafka
- pyspark
- Linux
- apache iceberg
- 영어
- 백준
- hadoop
- HDFS
- Iceberg
- 맛집
- 코딩테스트
- 여행
- BigData
- 코딩
- 삼성역맛집
- Trino
- Kafka
- bigdata engineering
- bigdata engineer
- java
- 자바
- Spark
Archives
- Today
- Total
728x90
반응형
목록2025/12 (1)
지구정복
[Airflow] Airflow Flower | Hook | Task Group | Xcom | Branching | provider
Celery Executor사용시 Celery worker와 Tasks들의 상태를 모니터링할 수 있는 웹페이지이다. Celery worker 의 Status를 볼 수 있고, 해당 워커를 클릭하면 pool, Broker, Queues, Tasks Limits, Config, System, Other등의 정보들을 확인할 수 있다. Broker는 Redis의 정보가 보인다. --- Hook은 특정 서버나 DB 등 에어플로우에서 외부시스템에 접속할 때 사용된다.사용되는 Connection정보는 Connections에 저장해둔 정보를 사용한다. --- Task GroupTask들을 그룹으로 묶을 수 있다. 비슷한 성격의 태스크들을 묶어서 마치 모듈화할 수 있고, 이를 다른 대그에서도 복붙해서 사용할 수 있다. ..
데이터 엔지니어링 정복/Airflow
2025. 12. 26. 13:39
반응형