Costruirò una pipeline ETL in Python per csv Excel API e sql

Alcune informazioni sono state tradotte automaticamente.

Pakistan

Parlo Urdu, Inglese

Backend e Data Engineer che sviluppano API scalabili, database e sistemi ETL

Progetto e sviluppo database e backend per prodotti con grandi quantità di dati. Architettura PostgreSQL/MySQL, SaaS multi-tenant con isolamento a livello di database, backend FastAPI con sicurezza JW...
Informazioni su questo servizio

Se i tuoi dati sono troppo grandi, troppo disordinati o troppo manuali in questo momento, li automatizzerò io.


Prova: ho creato una pipeline che elabora oltre 2 miliardi di righe per una piattaforma finanziaria, trasformando un dataset grezzo di 7GB e più di 2.000.000 di documenti in un data lake strutturato e ricercabile in due settimane, da solo.


Cosa costruisco:

Pipeline ETL personalizzata (estrazione, pulizia, trasformazione, caricamento)

Gestione di grandi dataset senza crash di memoria

Pipeline ripetibili e idempotenti

Validazione dei dati e controlli di qualità

Caricamento su PostgreSQL, MySQL o Parquet

Logging e gestione degli errori

Impostazioni di scheduling/automazione


Sorgenti: CSV, Excel, JSON, REST API, PostgreSQL, MySQL, SQLite, Parquet.


Inviami un esempio dei tuoi dati e il risultato finale che desideri, e definirò il scope della pipeline prima che tu effettui l'ordine.


etl pipeline

python

data engineering

data cleaning

automation



Destination Platform:

Databricks Lakehouse

PostgreSQL

MySQL

Altro

Strumenti e piattaforme:

Kafka Connect

Altro

Il mio portfolio