지구정복

Apache ZooKeeper™는 분산 작업의 중앙 집중식 조정 서비스입니다. 주 서버 선출, 그룹 구성원 관리, 구성 정보 제공, 네이밍 및 대규모 동기화와 같은 일반적인 조정 작업을 수행합니다. ZooKeeper의 주요 목표는 분산 시스템의 운영을 보다 간단하게 하고, 시스템 내 복제본 간에 개선되고 더 신뢰할 수 있는 변경 전파를 공급하는 것입니다. Apache Kafka는 여러 서버(브로커)에서 실행되는 분산 퍼브-섭(pub-sub) 메시징 시스템입니다.브로커들은 서로 조정해야 하며, 카프카의 초기 몇 년 동안은 ZooKeeper가 이러한 조정을 제공했습니다.그러나 최근에는 KRaft라는 또 다른 소프트웨어 구성 요소로 대체되었습니다.이 장에서는 카프카 ZooKeeper, 그 한계 및 관련 대안에..

1. What is a Kafka offset?카프카의 운영 구조는 프로듀서, 소비자, 그리고 브로커로 구성됩니다. 프로듀서는 카프카 주제에 메시지를 생성하는 애플리케이션입니다. 카프카 브로커는 프로듀서로부터 메시지를 수신하고 이를 지속적으로 저장합니다. 소비자는 카프카 주제로부터 데이터를 읽는 애플리케이션입니다. 카프카 주제는 특정 비즈니스 목표와 관련된 데이터의 논리적인 그룹입니다. 주제는 병렬 처리를 지원하기 위해 파티션으로 나뉩니다. 카프카는 파티션 내에서 메시지를 추적하기 위해 오프셋이라는 식별자를 사용합니다. 모든 메시지는 고유한 오프셋 또는 식별값을 가집니다. 내부적으로 카프카는 메시지를 로그에 기록하며, 카프카 오프셋은 해당 파티션의 로그 내에서 메시지의 위치를 나타냅니다. 이는..

참고하면 좋은 블로그글 https://colevelup.tistory.com/18 1. Kafka partitionApache Kafka는 고성능 데이터 파이프라인과 스트리밍 분석을 위한 오픈 소스 분산 이벤트 스트리밍 플랫폼입니다.Kafka의 확장성(scalability)과 성능(performance)을 가능하게 하는 핵심 요소 중 하나는 토픽(topic)과 파티션(partition)이라는 개념입니다.Kafka에서 메시지는 “토픽”에 기록됩니다.토픽은 이벤트의 논리적인 그룹으로, 생산자(producer)와 소비자(consumer)가 메시지를 분류하는 데 도움을 줍니다.이러한 토픽은 Kafka 브로커에 저장됩니다.Kafka는 토픽을 더 작은 단위인 파티션(partition)으로 나눕니다.파티션은 추가 ..

1. What are Kafka Topics?Kafka의 아키텍처는 세 가지 구성 요소로 구성됩니다: 프로듀서, 컨슈머, 그리고 브로커. 데이터는 메시지 형태로 프로듀서에서 컨슈머로 흐르며, 이 과정에서 브로커에 저장된 Kafka 토픽을 통해 이루어집니다. 토픽은 데이터 흐름을 조직하고 분배하는 논리적 채널 역할을 합니다. 토픽은 여러 개의 파티션으로 나누어집니다. 파티션은 불변의 순서로 시간에 따라 정렬된 메시지의 하위 집합을 포함합니다. Kafka는 여러 브로커—Kafka 클러스터의 노드—에 파티션을 복제하여 장애 허용성을 보장합니다. 파티션을 호스팅하는 브로커가 실패할 경우 Kafka는 자동으로 다른 브로커에 호스팅된 복제본으로 장애 조치를 수행하여 데이터 가용성과 서비스 연속성을 보장합니다. 토픽..