Найти в Дзене
10,2 тыс подписчиков

🔍 Конвейер данных в реальном времени с Kafka и ClickHouse


Построим конвейер данных с их приемом в ClickHouse через Kafka и агрегированием автоматически обновляемых данных. Возьмем набор данных о мировых ценах на продовольствие, хоть и неидеальный для Kafka из-за отсутствия критериев скорости.

Сначала создадим на Python скрипт для выдачи сообщений — строк набора данных. Затем настроим ClickHouse для их получения и обработки, а после поэкспериментируем с представлением в реальном времени и удалением данных.


🔍 Конвейер данных в реальном времени с Kafka и ClickHouse  Построим конвейер данных с их приемом в ClickHouse через Kafka и агрегированием автоматически обновляемых данных.
Около минуты