Паша душнит: post #225 — TG.ME

1 млрд. Долларов строк в день) хотел попробовать я сделать дедубликацию в Clickhouse.
Но дедубликацию не простою (иначе просто бы взял replacing merge tree), а со сравнением с последним значением для данного ID и отбрасываниием новой строки если значение не поменялось (подобие vallid_from vallid_to табличи).

В умных местах это называют Slow Change Dimensions (SCD)

И посмотрел раз статью
Два статью

Закинул запрос в две группы по клику

И даже крутое видео нашел (где ксати рассказывается про почти похожее)

Но.... Ничего не получилось)) вот так вот)) Sad Story

Но было круто понять лучше кишки клика) рекомендую)). Особенно видео классное

Если кто-то сталкивался с похожей задачей и порядком величины нагрузки расскажите что делали))

Ps спасибо ВК видео что там нет контента, и у меня одни видео с hightload++
VK Видео
Паттерны хранения и обработки данных в ClickHouse / Александр Крашенинников (Badoo)
Приглашаем на конференцию HighLoad++ 2024, которая пройдет 2 и 3 декабря в Москве! Программа, подробности и билеты по ссылке: https://clck.ru/3DD4yb -------- Saint HighLoad++ 2019 Тезисы и презентация: https://www.highload.ru/spb/2019/abstracts/4862 В последние…
👌4
February 4, 2025 1.4K 1 1