Raccolgo dati da qualsiasi API o sito web in un database pulito

Alcune informazioni sono state tradotte automaticamente.

Lituania

Parlo Russo, Inglese

Pipeline di dati Python, web scraping e automazione di Excel

Costruisco Python che raccoglie dati e elimina il lavoro manuale: collector API e web che continuano a funzionare (tentativi, riprendi dopo un crash, controlli di integrità quotidiani), dati CSV e API...
Informazioni su questo servizio

Scrivo Python che recupera i tuoi dati e continua a farlo - da un API REST, un endpoint pubblico o una pagina senza API.


Ciò che ottieni:

  • Uno script di cui sei proprietario e che puoi eseguire tu stesso, non una scatola nera sulla mia macchina
  • - Output dove ti serve: CSV, Excel, SQLite o il tuo database
  • - Riprovi, riprendi dopo un crash e un controllo di integrità giornaliero che ti avvisa quando una fonte si ferma
  • - Una breve nota su cosa coprono i dati e dove sono poco affidabili, cosa che la maggior parte dei venditori salta

Ho gestito collector 24/7 contro API di exchange per quattro sport e endpoint di exchange crypto, e ho processato dataset di milioni di record. Il mio codice e le mie relazioni sono pubblici su GitHub.


Prima di scrivere qualsiasi cosa confermo l'ambito per iscritto: fonti, campi, formato, programma. Se un sito blocca l'accesso automatizzato o i dati sono dietro login, te lo dico prima che tu paghi, non dopo.

Tecnologia:

Python

•

Excel

•

Pandas

Tipo di informazioni:

Valuta e azioni

•

Confronto dei prezzi

Tecnica:

Automatizzato