tgoop.com/sqlhub/2141
Last Update:
π ETL Π½Π° ΡΡΠ΅ΡΠΎΠΈΠ΄Π°Ρ
: ΡΡΡΠΈΠΌΠΈΠ½Π³ Π΄Π°Π½Π½ΡΡ
Postgres Π² ΡΠ΅Π°Π»ΡΠ½ΠΎΠΌ Π²ΡΠ΅ΠΌΠ΅Π½ΠΈ Π½Π° Rust π¦
Supabase Π²ΡΠΊΠ°ΡΠΈΠ»ΠΈ ΠΈΠ½ΡΠ΅ΡΠ΅ΡΠ½ΡΠΉ open-source ΡΡΠ΅ΠΉΠΌΠ²ΠΎΡΠΊ - supabase/etl, ΠΊΠΎΡΠΎΡΡΠΉ ΠΏΠΎΠ·Π²ΠΎΠ»ΡΠ΅Ρ ΡΡΡΠΈΠΌΠΈΡΡ Π΄Π°Π½Π½ΡΠ΅ ΠΈΠ· Postgres ΠΊΡΠ΄Π° ΡΠ³ΠΎΠ΄Π½ΠΎ Π² ΡΠ΅Π°Π»ΡΠ½ΠΎΠΌ Π²ΡΠ΅ΠΌΠ΅Π½ΠΈ.
ΠΡΠΎ Π½Π°Π±ΠΎΡ ΠΏΡΠΎΡΡΡΡ
, ΠΌΠΎΠ΄ΡΠ»ΡΠ½ΡΡ
Rust-Π±Π»ΠΎΠΊΠΎΠ², ΠΈΠ· ΠΊΠΎΡΠΎΡΡΡ
ΠΌΠΎΠΆΠ½ΠΎ ΡΠΎΠ±ΡΠ°ΡΡ ΡΠΎΠ±ΡΡΠ²Π΅Π½Π½ΡΠΉ ΠΊΠΎΠ½Π²Π΅ΠΉΠ΅Ρ Change Data Capture (CDC). ΠΡ ΠΏΠΎΠ»ΡΡΠ°Π΅ΡΠ΅ ΠΏΠΎΠ»Π½ΡΠΉ ΠΊΠΎΠ½ΡΡΠΎΠ»Ρ Π½Π°Π΄ ΡΠ΅ΠΌ, ΠΊΠ°ΠΊ ΠΎΠ±ΡΠ°Π±Π°ΡΡΠ²Π°ΡΡ ΠΈΠ·ΠΌΠ΅Π½Π΅Π½ΠΈΡ Π² Π±Π°Π·Π΅ ΠΈ ΠΊΡΠ΄Π° ΠΈΡ
ΠΎΡΠΏΡΠ°Π²Π»ΡΡΡ β Π±Π΅Π· ΡΡΠΆΡΠ»ΡΡ
ΠΏΠ»Π°ΡΡΠΎΡΠΌ ΠΈ ΡΠ»ΠΎΠΆΠ½ΡΡ
ΠΊΠΎΠ½ΡΠΈΠ³ΠΎΠ².
Π§ΡΠΎ Π΄Π΅Π»Π°Π΅Ρ ΡΡΠΎΡ ΡΡΠ΅ΠΉΠΌΠ²ΠΎΡΠΊ ΠΏΠΎΠ»Π΅Π·Π½ΡΠΌ:
- ΠΡΡΠΌΠΎΠΉ ΡΡΡΠΈΠΌΠΈΠ½Π³ ΠΈΠ·ΠΌΠ΅Π½Π΅Π½ΠΈΠΉ ΠΈΠ· Postgres (CDC)
- Rust β Π·Π½Π°ΡΠΈΡ ΡΠΊΠΎΡΠΎΡΡΡ, Π½Π°Π΄ΡΠΆΠ½ΠΎΡΡΡ ΠΈ Π½ΠΈΠ·ΠΊΠΈΠ΅ Π½Π°ΠΊΠ»Π°Π΄Π½ΡΠ΅ ΡΠ°ΡΡ
ΠΎΠ΄Ρ
- ΠΠΈΠ±ΠΊΠΈΠ΅ ΠΊΠΎΠΌΠΏΠΎΠ½Π΅Π½ΡΡ: ΠΌΠΎΠΆΠ½ΠΎ ΡΡΡΠΎΠΈΡΡ ΡΠ²ΠΎΠΈ ΠΊΠΎΠ½Π²Π΅ΠΉΠ΅ΡΡ ΠΏΠΎΠ΄ Π»ΡΠ±ΡΠ΅ Π½ΡΠΆΠ΄Ρ
- ΠΠΎΠ΄Ρ
ΠΎΠ΄ΠΈΡ Π΄Π»Ρ ΠΈΠ½ΡΠ΅Π³ΡΠ°ΡΠΈΠΉ, Π°Π½Π°Π»ΠΈΡΠΈΠΊΠΈ, ΡΠΎΠ±ΡΡΠΈΠΉΠ½ΡΡ
ΡΠΈΡΡΠ΅ΠΌ, real-time ΠΎΠ±Π½ΠΎΠ²Π»Π΅Π½ΠΈΠΉ
- ΠΠ΅Π³ΡΠ΅ ΠΈ ΠΏΡΠΎΠ·ΡΠ°ΡΠ½Π΅Π΅, ΡΠ΅ΠΌ ΠΊΠ»Π°ΡΡΠΈΡΠ΅ΡΠΊΠΈΠ΅ ETL/ELT-ΠΏΠ»Π°ΡΡΠΎΡΠΌΡ
ΠΠΎ ΡΡΡΠΈ, ΡΡΠΎ ΠΊΠΎΠ½ΡΡΡΡΠΊΡΠΎΡ, ΠΈΠ· ΠΊΠΎΡΠΎΡΠΎΠ³ΠΎ ΠΌΠΎΠΆΠ½ΠΎ Π±ΡΡΡΡΠΎ ΡΠΎΠ±ΡΠ°ΡΡ real-time data pipeline:
Π΄ΠΎΡΡΠ°Π» ΠΈΠ·ΠΌΠ΅Π½Π΅Π½ΠΈΡ ΠΈΠ· Postgres β ΠΏΡΠ΅ΠΎΠ±ΡΠ°Π·ΠΎΠ²Π°Π» β ΠΎΡΠΏΡΠ°Π²ΠΈΠ» Π² Kafka, ClickHouse, S3, API β ΠΊΡΠ΄Π° ΡΠ³ΠΎΠ΄Π½ΠΎ.
ΠΡΠ»ΠΈ Π²Ρ ΡΠ°Π±ΠΎΡΠ°Π΅ΡΠ΅ Ρ ΠΏΠΎΡΠΎΠΊΠΎΠ²ΡΠΌΠΈ Π΄Π°Π½Π½ΡΠΌΠΈ, Π°Π½Π°Π»ΠΈΡΠΈΠΊΠΎΠΉ ΠΈΠ»ΠΈ ΠΌΠΈΠΊΡΠΎΡΠ΅ΡΠ²ΠΈΡΠ°ΠΌΠΈ - ΡΡΠΎΠΈΡ ΠΏΠΎΠΏΡΠΎΠ±ΠΎΠ²Π°ΡΡ. Rust + CDC - ΡΡΠΎ ΠΌΠΎΡΠ½ΠΎΠ΅ ΡΠΎΡΠ΅ΡΠ°Π½ΠΈΠ΅ Π΄Π»Ρ ΡΡΠ°Π±ΠΈΠ»ΡΠ½ΡΡ
ΠΈ Π±ΡΡΡΡΡΡ
ΠΏΠ°ΠΉΠΏΠ»Π°ΠΉΠ½ΠΎΠ².
https://github.com/supabase/etl
BY Data Science. SQL hub

Share with your friend now:
tgoop.com/sqlhub/2141
