Apache Kafka est un système de gestion de flux de données en temps réel utilisé pour la diffusion de messages à grande échelle. C’est une plateforme de streaming distribuée qui permet de traiter de manière efficace de grandes quantités de données en temps réel. Kafka fonctionne en tant que serveur de messages qui reçoit et envoie des données en utilisant un réseau de brokers distribués.
Kafka est largement utilisé dans les architectures de données modernes pour la diffusion de données en temps réel, l’analyse de données en temps réel et la création de pipelines de données. Il est souvent utilisé pour la diffusion de données de différentes sources vers différents systèmes pour une utilisation ultérieure, comme l’analyse de données, la création de tableaux de bord en temps réel et la création de notifications en temps réel.
Kafka a été initialement développé par LinkedIn et a été rendu open source en 2011. Depuis, il a été adopté par de nombreuses entreprises pour gérer leurs flux de données en temps réel.
Comment débuter et se former à Kafka ?
Après la playlist dédiée à Rabbitmq, je vous propose la formation pour débuter avec kafka. Une superbe technologie, similaire à Rabbitmq et pourtant assez différente. Rien que les comparer est passionnant.
Dans cette playlist, nous allons nous former à ce commitlog souvent présent dans de nombreuses entreprises comme les banques, assurances, ecommerce, data…
Kafka apporte aussi pas mal de nouveaux concepts dans une approche opensource.
Site officiel : https://kafka.apache.org/
Github : https://github.com/apache/kafka
-
KAFKA - 01. Introduction - C'est quoi ??
-
KAFKA - 02. Définitions & Concepts
-
KAFKA - 03. Installation de Zookeeper
-
KAFKA - 04. Installation de Kafka & Kafka Manager
-
KAFKA - 05. Vagrantfile : automatisation d'un cluster & autoformation
-
KAFKA - 06. KRAFT : installation kafka sans zookeeper
-
KAFKA - 07. Kraft : la console redpanda
-
KAFKA - 08. Consumer Group & Partitions
-
KAFKA - 09. Commandes : topics, consumer, producer
-
KAFKA - 10. Benthos : producer & consumers démonstration
-
KAFKA - 11. Configuration authentification SASL
-
KAFKA - 12. Monitoring : exporteur prometheus & grafana
-
KAFKA - 13. Comment réassigner des partitions ?
-
Kafka - 14 Migration de Cluster Zookeeper