Привет! Давненько мы с вами не виделись. Загрузка сейчас довольно… — Где дата, Коль? — TG.ME

Привет!

Давненько мы с вами не виделись. Загрузка сейчас довольно большая, особенно на курсе — мы со студентами заканчиваем модуль по Apache Spark (тому самому, который не любят все дата-инженеры 😅)

До конца недели можно досдать практическое задание (построить витрину данных, представляющую собой набор агрегатов по месяцам на основе лога таможни), и мы уже переходим к реляционным базам данных.

И раз уж тема зашла про спарк — принес вам крутой кейс от сбера по работе с таблицами с сотнями терабайт данных:

👉 Часть первая
👉 Часть вторая

Ребятам удалось сократить процесс обновления с 9-12 часов до 30-40 минут — это точно стоит почитать
🔥
Хабр
Изменить сохранения Spark! Часть первая: разделяй и… сортируй
Автор: Иван Калининский, участник профессионального сообщества Сбера SberProfi DWH/BigData. Профессиональное сообщество SberProfi DWH/BigData отвечает за развитие компетенций...
🔥3
November 15, 2024 414 1 9