Raccolgo dati da qualsiasi API o sito web in un database pulito
Pipeline di dati Python, web scraping e automazione di Excel
Informazioni su questo servizio
Scrivo Python che recupera i tuoi dati e continua a farlo - da un API REST, un endpoint pubblico o una pagina senza API.
Ciò che ottieni:
- Uno script di cui sei proprietario e che puoi eseguire tu stesso, non una scatola nera sulla mia macchina
- - Output dove ti serve: CSV, Excel, SQLite o il tuo database
- - Riprovi, riprendi dopo un crash e un controllo di integrità giornaliero che ti avvisa quando una fonte si ferma
- - Una breve nota su cosa coprono i dati e dove sono poco affidabili, cosa che la maggior parte dei venditori salta
Ho gestito collector 24/7 contro API di exchange per quattro sport e endpoint di exchange crypto, e ho processato dataset di milioni di record. Il mio codice e le mie relazioni sono pubblici su GitHub.
Prima di scrivere qualsiasi cosa confermo l'ambito per iscritto: fonti, campi, formato, programma. Se un sito blocca l'accesso automatizzato o i dati sono dietro login, te lo dico prima che tu paghi, non dopo.
Tecnologia:
Python
•
Excel
•
Pandas
Tecnica:
Automatizzato
FAQ
Traduzione automatica.
Lo script continuerà a funzionare se il sito cambia?
Piccole modifiche di layout che correggo entro la finestra di revisione. Per la stabilità a lungo termine consiglio una fonte API esistente, e te lo dico prima di iniziare se un sito sembra fragile.
Scrape siti che non lo permettono?
No. Controllo prima i termini di uso e robots.txt e ti avviso se una fonte è off-limits. Preferisco perdere l'ordine piuttosto che consegnarti uno script che blocca il tuo account.
Ottengo il codice sorgente?
Sì, in ogni pacchetto. Ricevi uno script Python eseguibile e una breve nota di configurazione, così puoi eseguirlo tu stesso, modificarlo o consegnarlo al tuo sviluppatore in seguito.
