Apache Kafka

Une plateforme open source de streaming d'événements distribués pour des pipelines de données hautement performants.

Fichiers et répertoires importants

  • Répertoire d'installation principal de Kafka : /opt/kafka
  • Fichier de configuration du broker Kafka : /opt/kafka/config/server.properties
  • Répertoire des journaux Kafka (journaux des brokers, événements conservés) : /opt/kafka/logs
  • Binaires Kafka et outils CLI (kafka-topics.sh, kafka-console-producer.sh, etc.) : /opt/kafka/bin
  • Unité de service Systemd pour la gestion de Kafka : /etc/systemd/system/kafka.service

Service Kafka

sudo systemctl restart kafka
sudo systemctl enable kafka
sudo systemctl status kafka

Créer un sujet

/opt/kafka/bin/kafka-topics.sh --create --topic quickstart-events --bootstrap-server localhost:9092

Vérifier les détails du sujet :

/opt/kafka/bin/kafka-topics.sh --describe --topic quickstart-events --bootstrap-server localhost:9092

Produire des événements (messages)

/opt/kafka/bin/kafka-console-producer.sh --topic quickstart-events --bootstrap-server localhost:9092

Tapez un événement par ligne.

Presse Ctrl+C pour quitter.

Consommer des événements

/opt/kafka/bin/kafka-console-consumer.sh --topic quickstart-events --from-beginning --bootstrap-server localhost:9092

Presse Ctrl+C arrêter de lire.

Les événements peuvent être consommés plusieurs fois par plusieurs clients.

Journaux et dépannage

  • Journaux Kafka : /opt/kafka/logs
  • Journal Systemd : sudo journalctl -u kafka -f
  • Sécuriser les ports 9092 (courtier) et 9093 (contrôleur) sont ouverts.

Détails de la demande