반응형
Notice
Recent Posts
Recent Comments
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | ||||
4 | 5 | 6 | 7 | 8 | 9 | 10 |
11 | 12 | 13 | 14 | 15 | 16 | 17 |
18 | 19 | 20 | 21 | 22 | 23 | 24 |
25 | 26 | 27 | 28 | 29 | 30 | 31 |
Tags
- 코딩테스트
- 용인맛집
- java
- apache iceberg
- 영어
- 프로그래머스
- 맛집
- 삼성역맛집
- 코엑스맛집
- Kafka
- 코테
- 알고리즘
- BigData
- Data Engineer
- bigdata engineering
- HIVE
- pyspark
- 개발
- 코딩
- bigdata engineer
- Data Engineering
- Trino
- Apache Kafka
- 여행
- hadoop
- 백준
- 자바
- Spark
- 코엑스
- Iceberg
Archives
- Today
- Total
728x90
반응형
목록2025/05/29 (1)
지구정복
[Python&Kafka] Python으로 UDP데이터 받은 뒤 Kafka Producing
python3.8kafka 2.8.2 기존에 NiFi로 UDP데이터 받은 뒤 Kafka에 프로듀싱하는 작업을 진행했었는데데이터 유실이 발생하였다. NiFi가 문제라고 확정지을 수 없지만 NiFi에서 처리됐던 것들을 Python으로 구현해서 데이터 유실이 생기는지 확인한다. 현재 Load Balancer Server로부터 NiFi 4대 서버로 UDP데이터를 보내주고 있고, 포트는 8888이다. LB -(udp, 8888)-> NiFi Nodes 각 NiFi node에 python프로그램을 만든다. 모든 NiFi 노드들 (dn001~004, 4대) ssh myuser@dn001~dn004 mkdir -p 01.listenUdp/log 01.listenUdp/src cd 01.listenUdp/src vi..
데이터 엔지니어링 정복/Python
2025. 5. 29. 18:47
반응형