Farò pulizia dei dati, deduplicazione e formattazione su file di dati disordinati
Data engineer Python: web scraping, pipeline ETL e arricchimento dei dati
Livello 1
Ha soddisfatto determinati criteri di prestazione e mostra un forte potenziale nel marketplace.
Informazioni su questo servizio
Il file ha 40.000 righe, tre persone l'hanno modificato, e la stessa azienda appare come Acme, ACME Ltd e Acme Limited. Sistemarlo a mano richiede una settimana e può introdurre nuovi errori lungo il percorso. Pulire i dati con il codice richiede un pomeriggio e può essere rifatto il mese prossimo.
Ciò che correggo
- Doppioni, inclusi quelli quasi uguali che una formula di foglio di calcolo non catturerà mai
- Date, nomi, indirizzi, valute e casing incoerenti
- Colonne unite o divise, e file che necessitano di ristrutturazione prima di essere utilizzabili
- Codifica, delimitatori e righe che si rompono durante l'importazione
Ciò che ricevi
- Un file pulito: CSV, Excel, JSON o Google Sheet
- Un changelog che indica cosa è stato cambiato, unito o eliminato, con il conteggio delle righe
- Lo script di pulizia, se vuoi eseguirlo tu stesso la prossima volta
Il più grande lavoro che ho svolto ha processato oltre 100 milioni di file JSON in CSV pronti per l'analisi.
Excel si esaurisce prima che finiscano la maggior parte di questi lavori. Per tutto ciò che supera circa 50.000 righe o che richiede fuzzy matching, uso Python e Pandas. Inviami il file e dimmi come dovrebbe essere il risultato. Confermerò l'ambito e ti fornirò un preventivo prima che tu ordini.
Il mio portfolio
FAQ
Traduzione automatica.
Puoi unire più file in uno?
Sì, e questa è la maggior parte del lavoro in un ordine tipico. Nomi di colonne diversi, formati di data diversi, righe sovrapposte e un file con una colonna in più che nessuno ha documentato. Li mappo a uno schema unico e ti dico da dove vengono le righe.
Il mio file ha 500.000 righe. È un problema?
No. Oltre le 50.000 righe il lavoro si sposta da un foglio di calcolo a Python e Pandas, che è più veloce e ripetibile piuttosto che più lento. Mezzo milione di righe è un lavoro normale. Invia un esempio e ti confermerò il livello prima che tu ordini.
Cosa si intende per duplicato?
Tu me lo dici, ed è la parte su cui vale la pena mettersi d’accordo prima di iniziare. Le corrispondenze esatte sono facili. Il lavoro utile è il fuzzy matching: Acme Ltd contro ACME Limited, lo stesso indirizzo scritto in quattro modi diversi, due record che differiscono solo per gli spazi. Ti mostro le corrispondenze prima di unire.
Mi dirai cosa hai cambiato?
Sì, ogni ordine include un changelog: righe inserite, righe eliminate, cosa è stato unito, cosa è stato eliminato e perché, e quali campi sono stati standardizzati. Non dovresti dover fidarti di un file pulito. Dovresti poterlo controllare.
Ottengo lo script di pulizia?
Incluso in Standard e Premium, in Python, commentato, così puoi eseguirlo sul prossimo export senza dover ri-ordinarlo. La versione basic consegna solo il file pulito, che è la scelta giusta se si tratta davvero di un lavoro una tantum.
Puoi pulire dati scraping con encoding rotto?
Sì, ed è una delle più comuni. Mojibake causato da un encoding sbagliato, entità HTML lasciate nei campi di testo, spazi e newline indesiderati dentro le celle, numeri memorizzati come testo con simboli di valuta attaccati. Invia un esempio e ti dirò cosa si può recuperare.
Puoi analizzare i dati anche oltre a pulirli?
Tabelle riassuntive, pivot e grafici sono inclusi in Standard e Premium, e sono utili per verificare la pulizia. Se hai bisogno di analisi statistica vera e propria o modellazione, è un lavoro diverso e preferirei indirizzarti altrove piuttosto che farlo in modo adeguato.
Può essere eseguito automaticamente ogni mese?
Sì, come pipeline programmata piuttosto che come ordine ripetuto: il file arriva, lo script si avvia, la versione pulita appare dove ti serve. Quello è il mio servizio di pipeline dati, non questo. Scrivimi e ti invierò il link invece di farti pagare dodici volte.
I miei dati contengono informazioni personali. È un problema?
Dimmi prima di inviarli. Posso lavorarci sopra, e cancellerò i file sorgente dopo la consegna su richiesta, ma preferirei saperlo in anticipo piuttosto che trovare nomi e indirizzi in un file in cui non me lo aspettavo. Dati pseudonimizzati o campionati vanno bene per definire il scope.
Come faccio a sapere di quale pacchetto ho bisogno?
Inviami prima il file, o un campione di esso. Alcuni lavori sembrano semplici e richiedono fuzzy matching tra tre fonti; altri sembrano spaventosi e sono solo una ricerca e sostituzione. Ti dirò quale livello è, o ti farò un preventivo personalizzato, prima che tu spenda qualcosa.
93 recensioni per questo servizio
| (83) | ||
| (8) | ||
| (0) | ||
| (1) | ||
| (1) |
Valutazione dettagliata
- Livello di comunicazione del venditore
- Qualità della consegna
- Valore della consegna
Ordina per
J jcummings72

Stati Uniti
I had 74,000 duplicate contacts and he was able to scrub the file and condense to no duplicates with all of the information. I’ve been trying to resolve this for years. He was able to turn it around within 24 hours. Thanks again!
50 USD-100 USD
Prezzo
4 giorni
Tempo
Utile?S 
soweilam01

Emirati Arabi Uniti
Collaborazione in corsoHighly recommend this seller for any project involving word and or excel.
50 USD
Prezzo
1 giorno
Tempo
Utile?S 
soweilam01

Emirati Arabi Uniti
Collaborazione in corsoVery detailed oriented and thorough seller. Happy reterning customer.
50 USD
Prezzo
4 giorni
Tempo
Utile?J 
johncharlin

India
very good job done
50 USD
Prezzo
1 giorno
Tempo
Utile?A aclaudiof

Puerto Rico
Job was done close to expectations, but not complete. Unfortunately it was delivered too late, and I couldn't meet my client due date. Supplier suggested a 50% discount, that ant the end was not given, and never delivered on time, with lack of response due to a private family event.
100 USD-200 USD
Prezzo
2 settimane
Tempo
Utile?
93 recensioni per questo servizio
| (83) | ||
| (8) | ||
| (0) | ||
| (1) | ||
| (1) |
Valutazione dettagliata
- Livello di comunicazione del venditore
- Qualità della consegna
- Valore della consegna
Ordina per
J jcummings72

Stati Uniti
I had 74,000 duplicate contacts and he was able to scrub the file and condense to no duplicates with all of the information. I’ve been trying to resolve this for years. He was able to turn it around within 24 hours. Thanks again!
50 USD-100 USD
Prezzo
4 giorni
Tempo
Utile?S 
soweilam01

Emirati Arabi Uniti
Collaborazione in corsoHighly recommend this seller for any project involving word and or excel.
50 USD
Prezzo
1 giorno
Tempo
Utile?S 
soweilam01

Emirati Arabi Uniti
Collaborazione in corsoVery detailed oriented and thorough seller. Happy reterning customer.
50 USD
Prezzo
4 giorni
Tempo
Utile?J 
johncharlin

India
very good job done
50 USD
Prezzo
1 giorno
Tempo
Utile?A aclaudiof

Puerto Rico
Job was done close to expectations, but not complete. Unfortunately it was delivered too late, and I couldn't meet my client due date. Supplier suggested a 50% discount, that ant the end was not given, and never delivered on time, with lack of response due to a private family event.
100 USD-200 USD
Prezzo
2 settimane
Tempo
Utile?

