Costruirò pipeline di data engineering per progetti di big data
Ingegnere dati senior
Informazioni su questo servizio
Crea pipeline di dati affidabili, scalabili e pronte per il cloud con un professionista di data engineering con oltre 10 anni di esperienza.
Sono specializzato nello sviluppo di pipeline ETL ed ELT end-to-end che automatizzano l'ingestione, la trasformazione, la validazione e il caricamento dei dati in ambienti cloud e on-premises.
I miei servizi includono:
- Sviluppo di pipeline ETL/ELT
- Elaborazione batch e incrementale dei dati
- Integrazione API, database e file
- Pulizia e trasformazione dei dati <li Controlli di qualità e validazione dei dati
- Integrazione di data lake e data warehouse
- Orchestrazione delle pipeline, logging e gestione degli errori
- Migrazione al cloud e progettazione dell'architettura
Technologie: Python, SQL, Pyspark, GraphDB (Neo4j), Databricks, Azure Data Factory, Azure Data Lake Storage, AWS Glue, Amazon S3, BigQuery e database relazionali.
Fornisco soluzioni pulite, manutenibili e ben documentate, personalizzate in base alle esigenze del tuo progetto.
Per favore contattami prima di ordinare così posso capire le tue fonti di dati, i requisiti e la complessità del progetto.
Strumenti e piattaforme:
Azure data factory
FAQ
Traduzione automatica.
Di quali informazioni hai bisogno per iniziare?
Per favore condividi le tue fonti di dati, il sistema target, dati di esempio o schema, requisiti di trasformazione, tecnologia preferita e risultato atteso
Quali tipi di fonti di dati supporti?
Lavoro con database, API REST, CSV, JSON, Excel, storage cloud e dati strutturati o semi-strutturati.
Con quali tecnologie e piattaforme cloud puoi lavorare?
Lavoro con Python, SQL, Pyspark, Databricks, Azure Data Factory, Azure Data Lake, AWS Glue, Amazon S3, BigQuery e database relazionali.
Puoi costruire pipeline incrementali o in tempo reale?
Sì. Posso sviluppare pipeline batch, incrementali e in tempo reale in base al volume dei dati, ai requisiti di business e allo stack tecnologico.
Devo contattarti prima di effettuare un ordine?
Sì. Contattami prima di ordinare così posso rivedere l'ambito del progetto, la sua complessità, il volume di dati, le integrazioni necessarie e i tempi di consegna.
