Apache Kafka

Платформа распределенной потоковой передачи событий с открытым исходным кодом для высокопроизводительных конвейеров данных.

Важные файлы и каталоги

  • Основной каталог установки Kafka: /opt/kafka
  • Файл конфигурации брокера Kafka: /opt/kafka/config/server.properties
  • Каталог журналов Kafka (журналы брокера, сохраненные события): /opt/kafka/logs
  • Бинарные файлы Kafka и инструменты CLI (kafka-topics.sh, kafka-console-producer.shи т. д.): /opt/kafka/bin
  • Системный модуль Systemd для управления Kafka: /etc/systemd/system/kafka.service

Служба Kafka

sudo systemctl restart kafka
sudo systemctl enable kafka
sudo systemctl status kafka

Создать тему

/opt/kafka/bin/kafka-topics.sh --create --topic quickstart-events --bootstrap-server localhost:9092

Проверьте детали темы:

/opt/kafka/bin/kafka-topics.sh --describe --topic quickstart-events --bootstrap-server localhost:9092

Создание событий (сообщений)

/opt/kafka/bin/kafka-console-producer.sh --topic quickstart-events --bootstrap-server localhost:9092

Введите одно событие в строку.

Пресса Ctrl+C чтобы выйти.

Потреблять события

/opt/kafka/bin/kafka-console-consumer.sh --topic quickstart-events --from-beginning --bootstrap-server localhost:9092

Пресса Ctrl+C перестать читать.

События могут быть использованы несколько раз несколькими клиентами.

Журналы и устранение неполадок

  • Журналы Kafka: /opt/kafka/logs
  • Журнал Systemd: sudo journalctl -u kafka -f
  • Обеспечить порты 9092 (брокер) и 9093 (контроллер) открыты.

Детали заявки