Sembra che questo servizio sia in sospeso
Costruirò pipeline ETL scalabili usando Python o PySpark
India
Dal caos dei dati alla chiarezza, fatto bene al primo colpo
Informazioni su questo servizio
Se ti trovi sommerso da dati disordinati o fai fatica a spostare i dati tra sistemi diversi,
posso aiutarti con una pipeline ETL pulita, efficiente e scalabile usando Python o PySpark.
Sono un Data Engineer con più di 5 anni di esperienza nella creazione di pipeline dati robuste, nella pulizia di milioni di record e nell'automazione di workflow per startup, aziende e prodotti SaaS.
Quello che offro:
- Estrazione da CSV, Excel, API, PostgreSQL, MySQL, ecc.
- Pulizia dei dati (gestione null, duplicati, cast di tipo, ecc.)
- Logica di business e trasformazioni
- Caricamento su PostgreSQL, Snowflake, BigQuery, S3, ecc.
- Logging, gestione degli errori e monitoraggio
- Pianificazione con cron o Airflow
Strumenti & Tecnologie:
- Python
- PySpark
- Pandas
- SQLAlchemy
- psycopg2
- Apache Airflow
- PostgreSQL
- Docker
FAQ
Traduzione automatica.
Di cosa hai bisogno da me per iniziare?
Avrò bisogno di dettagli come la tua fonte di dati (CSV, database, API, ecc.), piattaforma di destinazione, esempio di dati (se disponibile), regole di trasformazione e eventuali requisiti di scheduling o orchestrazione.
Puoi connetterti a database cloud o API?
Sì! Posso connettermi a piattaforme cloud come AWS RDS, Google BigQuery, PostgreSQL, S3 e API usando Python o PySpark.
Fornisci pianificazione o automazione per il pipeline?
Assolutamente sì. Posso configurare lavori cron o DAG di Airflow a seconda del tuo ambiente e della scelta del pacchetto.
Gestisci dati in tempo reale o streaming?
Sì, nel pacchetto Premium o come extra, posso implementare pipeline di streaming usando Kafka, Apache NiFi o strumenti simili.
Il codice sarà riutilizzabile e documentato?
Sì, ogni pacchetto include documentazione chiara. I pacchetti Standard e Premium includono file README strutturati, istruzioni di configurazione e anche diagrammi di flusso.
E se non conosco ancora la logica di trasformazione esatta?
Nessun problema! Posso aiutarti a definirla in base al tuo caso d'uso e guidarti nel perfezionare la logica prima dello sviluppo.
Posso ricevere revisioni se qualcosa non funziona come previsto?
Certamente. Ogni pacchetto include revisioni, e puoi aggiungerne altre se necessario. Mi impegno per la piena soddisfazione.

