Популярное

Музыка Кино и Анимация Автомобили Животные Спорт Путешествия Игры Юмор

Интересные видео

2025 Сериалы Трейлеры Новости Как сделать Видеоуроки Diy своими руками

Топ запросов

смотреть а4 schoolboy runaway турецкий сериал смотреть мультфильмы эдисон
dTub
Скачать

Airflow + Spark + MinIO: запуск сквозных конвейеров данных

Автор: The Data Guy

Загружено: 2025-11-10

Просмотров: 831

Описание:

В этом видео вы узнаете, как создать полностью автоматизированный конвейер данных с помощью Apache Airflow, Apache Spark и MinIO.
Мы расскажем, как Airflow запускает задание Spark, которое считывает данные из одного контейнера MinIO, обрабатывает их с помощью PySpark и записывает выходные данные в другой контейнер MinIO — всё это в рамках понятного модульного рабочего процесса.

Репозиторий GH: https://github.com/gyatesofficial/afs...

Присоединяйтесь к моему каналу Patreon для раннего доступа к видео и коду: https://patreon.com/TheDataGuy?utm_me...

Присоединяйтесь к моему каналу Discord для вопросов и кода:   / discord  

Airflow + Spark + MinIO: запуск сквозных конвейеров данных

Поделиться в:

Доступные форматы для скачивания:

Скачать видео mp4

  • Информация по загрузке:

Скачать аудио mp3

Похожие видео

Инкрементальное переобучение модели с помощью Kafka + Spark: масштабируемый конвейер машинного об...

Инкрементальное переобучение модели с помощью Kafka + Spark: масштабируемый конвейер машинного об...

LLM и GPT - как работают большие языковые модели? Визуальное введение в трансформеры

LLM и GPT - как работают большие языковые модели? Визуальное введение в трансформеры

RAG | ВСЁ, что тебе нужно знать (+ 11 Продвинутых стратегий)

RAG | ВСЁ, что тебе нужно знать (+ 11 Продвинутых стратегий)

How to build an automated data pipeline using Airflow, dbt, Postgres, and Superset (Windows 11 WSL)

How to build an automated data pipeline using Airflow, dbt, Postgres, and Superset (Windows 11 WSL)

ComfyUI - Основы | Установка + Базовые Советы

ComfyUI - Основы | Установка + Базовые Советы

Spark UI Explained Spotting Bottlenecks & Optimizing Speed #apachespark  #dataengineering

Spark UI Explained Spotting Bottlenecks & Optimizing Speed #apachespark #dataengineering

Превратите ЛЮБОЙ файл в знания LLM за СЕКУНДЫ

Превратите ЛЮБОЙ файл в знания LLM за СЕКУНДЫ

How to Submit a PySpark Script to a Spark Cluster Using Airflow!

How to Submit a PySpark Script to a Spark Cluster Using Airflow!

Мессенджер против блокировок: Delta Chat спасет от чебурнета

Мессенджер против блокировок: Delta Chat спасет от чебурнета

Apache Spark Vs Apache Flink – Looking Through How Different Companies Approach Spark And Flink

Apache Spark Vs Apache Flink – Looking Through How Different Companies Approach Spark And Flink

Ваш браузер знает о вас все и сливает данные: как защититься?

Ваш браузер знает о вас все и сливает данные: как защититься?

Complete Jenkins Pipeline Tutorial | Jenkinsfile explained | KodeKloud

Complete Jenkins Pipeline Tutorial | Jenkinsfile explained | KodeKloud

Как пошагово устранять неполадки в конвейерах данных (для инженеров по обработке данных)

Как пошагово устранять неполадки в конвейерах данных (для инженеров по обработке данных)

ВЗЛОМАЛ колонку и заменил Алису на своего ассистента: 5 лет на получение root и модификацию прошивки

ВЗЛОМАЛ колонку и заменил Алису на своего ассистента: 5 лет на получение root и модификацию прошивки

Сквозной конвейер ETL с Airflow и MS SQL Server

Сквозной конвейер ETL с Airflow и MS SQL Server

Write your first DAG in Airflow 3 for beginners

Write your first DAG in Airflow 3 for beginners

Создайте свой первый конвейер PySpark ETL шаг за шагом

Создайте свой первый конвейер PySpark ETL шаг за шагом

Kubernetes — Простым Языком на Понятном Примере

Kubernetes — Простым Языком на Понятном Примере

The Strange Math That Predicts (Almost) Anything

The Strange Math That Predicts (Almost) Anything

Как запустить кластер Spark с несколькими рабочими процессами локально с помощью Docker

Как запустить кластер Spark с несколькими рабочими процессами локально с помощью Docker

© 2025 dtub. Все права защищены.



  • Контакты
  • О нас
  • Политика конфиденциальности



Контакты для правообладателей: [email protected]