Популярное

Музыка Кино и Анимация Автомобили Животные Спорт Путешествия Игры Юмор

Интересные видео

2025 Сериалы Трейлеры Новости Как сделать Видеоуроки Diy своими руками

Топ запросов

смотреть а4 schoolboy runaway турецкий сериал смотреть мультфильмы эдисон
dTub
Скачать

Building a Telecom-Scale OLAP Platform with Apache Doris

Автор: VeloDB

Загружено: 2025-11-14

Просмотров: 104

Описание:

As part of this talk, we plan to walk the community through how we have designed and scaled Apache Doris as the central OLAP backbone for Onextel, currently handling 350–400 million SMS events per day, and our roadmap to scale further. The session will cover the following key aspects:

Business Context
1. The need for a unified, high-performance analytics platform capable of ingesting and querying hundreds of millions of daily events.
2. Why we selected Doris over other OLAP systems for this mission-critical workload.

Data Modeling at Scale
1. Implementing a fact-dimension model tailored for multi-tenant, high-cardinality data.
2. Using Duplicate Key tables for Kafka metadata (late-arrival handling and replay management).
3. Using Unique Key tables for fact data (ensuring correctness via upserts and de-duplication at scale).
4. Using Aggregate Key tables for dimension/summary rollups to power fast analytics.

Performance Engineering
1. Tuning Doris using:
a. Tailored compaction strategies to minimize write amplification
b. Data-statistics-driven indexes (inverted, bloom filters) to accelerate query performance
c. Partitioning and concurrency optimization to support high-volume adhoc queries with low latency.

Reliability & Operations
1. Prometheus + Grafana dashboards built on Doris-exposed metrics to monitor:
a. Routine-load health, ingestion lags, and throughput
b. Query concurrency, BE node CPU/memory utilization
c. Incident handling for ingestion stalls, node failures, and compaction issues.

Telecom-Grade Reporting Layer
1. Building a custom reporting API layer on Doris that powers:
a. Real-time delivery analytics
b. Tenant-wise billing dashboards
c. Long-tail ad-hoc querying for operational teams

AI Use Cases
1. Leveraging Doris as the data foundation for MCP-driven AI workflows, including:
a. LLM-powered operational insights on messaging data.

Future Roadmap
1. Expanding AI use cases on Doris datasets
2. Data cataloging and governance via Apache Iceberg + Unity Catalog
3. Transitioning to a Lakehouse-style unified architecture with Doris as the core serving layer
4. Evolving the platform to seamlessly handle 1 billion+ daily events while maintaining low-latency analytics.

#apachedoris #telecom #onextel

Building a Telecom-Scale OLAP Platform with Apache Doris

Поделиться в:

Доступные форматы для скачивания:

Скачать видео mp4

  • Информация по загрузке:

Скачать аудио mp3

Похожие видео

Apache Doris Summit 2025 Keynote: Fastest Analytics & Search Database in the AI Era

Apache Doris Summit 2025 Keynote: Fastest Analytics & Search Database in the AI Era

Architecture Problems of Streaming AI Pipelines (with Doris): Public Social Posts Sentiment Analysis

Architecture Problems of Streaming AI Pipelines (with Doris): Public Social Posts Sentiment Analysis

EC2 Instances Powered by AWS Graviton Processors

EC2 Instances Powered by AWS Graviton Processors

An Open-Source Approach to Real-Time Analytics on Telecom CDRs

An Open-Source Approach to Real-Time Analytics on Telecom CDRs

Don't Fire Your Developers and Other Lessons for the AI Revolution - OSA Con 2025

Don't Fire Your Developers and Other Lessons for the AI Revolution - OSA Con 2025

Линус Торвальдс рассказывает о шумихе вокруг искусственного интеллекта, мощности графических проц...

Линус Торвальдс рассказывает о шумихе вокруг искусственного интеллекта, мощности графических проц...

Куда исчезает ёмкость MLCC? Эффект DC-Bias и старение керамики X7R

Куда исчезает ёмкость MLCC? Эффект DC-Bias и старение керамики X7R

Спросил владельцев дорогих авто, чем они занимаются

Спросил владельцев дорогих авто, чем они занимаются

Model Context Protocol (MCP) Explained in 20 Minutes

Model Context Protocol (MCP) Explained in 20 Minutes

How Apache Doris can help solve problems in the EV charging industry and IoT log analysis

How Apache Doris can help solve problems in the EV charging industry and IoT log analysis

Bring Real-Time to Data Lake: Shaping the Future of Real-Time Lakehouse with Apache Doris

Bring Real-Time to Data Lake: Shaping the Future of Real-Time Lakehouse with Apache Doris

Вы думали, что допинг — это плохо? Подождите, пока не услышите об электромагнитных велосипедах.

Вы думали, что допинг — это плохо? Подождите, пока не услышите об электромагнитных велосипедах.

‼️ЗАКРЫТИЕ РФ ОТ МИРА С МАРТА 2026 ОБЪЯВИЛ РКН

‼️ЗАКРЫТИЕ РФ ОТ МИРА С МАРТА 2026 ОБЪЯВИЛ РКН

Валерий Ширяев о скором (?!) конце войны

Валерий Ширяев о скором (?!) конце войны

GEMINI 3 от GOOGLE САМЫЙ ДОЛГОЖДАННЫЙ ВЫПУСК ГОДА

GEMINI 3 от GOOGLE САМЫЙ ДОЛГОЖДАННЫЙ ВЫПУСК ГОДА

Как производятся микрочипы? 🖥️🛠️ Этапы производства процессоров

Как производятся микрочипы? 🖥️🛠️ Этапы производства процессоров

Мессенджер Max - это аналог китайского WeChat. Но на самом деле это не так

Мессенджер Max - это аналог китайского WeChat. Но на самом деле это не так

VARIANT Explained: JSON Analytics in Apache Doris, Iceberg, Elasticsearch, Snowflake, and ClickHouse

VARIANT Explained: JSON Analytics in Apache Doris, Iceberg, Elasticsearch, Snowflake, and ClickHouse

Почему MCP действительно важен | Модель контекстного протокола с Тимом Берглундом

Почему MCP действительно важен | Модель контекстного протокола с Тимом Берглундом

РОССИЯ: Я исследую САНКТ-ПЕТЕРБУРГ и получаю ПОДАРОК от солдата, который возвращается с фронта

РОССИЯ: Я исследую САНКТ-ПЕТЕРБУРГ и получаю ПОДАРОК от солдата, который возвращается с фронта

© 2025 dtub. Все права защищены.



  • Контакты
  • О нас
  • Политика конфиденциальности



Контакты для правообладателей: [email protected]