Configurerò flussi di automazione n8n e intelligenza artificiale self-hosted con ollama

Alcune informazioni sono state tradotte automaticamente.

Italia

Parlo Italiano, Inglese, Spagnolo

Ingegnere infrastrutture senior, Linux, Docker, Proxmox e AI privata

Ingegnere infrastrutture con 20 anni di esperienza nell'IT aziendale: amministrazione di Linux e Unix, monitoraggio su larga scala, backup e recovery mission-critical, automazione - ora applicata a cl...
Informazioni su questo servizio

Ogni giorno gestisco AI privata sul mio hardware: modelli locali con Ollama, Open WebUI come interfaccia, Qdrant per la ricerca vettoriale e una pipeline RAG su oltre 10 milioni di paragrafi indicizzati con ricerca ibrida, reranking e citazioni basate sui dati.

COSA IMPLEMENTO: Ollama, llama.cpp e vLLM per modelli locali (Llama, Mistral, Qwen, DeepSeek, Gemma). Open WebUI o un'interfaccia personalizzata. Qdrant, Chroma o pgvector per gli embedding. n8n per l'automazione. Whisper per la trascrizione. Tutto in Docker, sulla tua macchina.

RAG SUI TUOI DOCUMENTI: PDF, Word, Excel, CSV e Markdown analizzati correttamente, con tabelle incluse. Risponde dai tuoi documenti e mostra la fonte, e lo fa anche quando la risposta non è presente invece di inventarla.

PERCHÉ SELF HOSTED: niente esce dal tuo edificio. Niente bolletta API, nessun processore di terze parti, nessun dato nel set di addestramento di qualcun altro. La scelta giusta per dati dei clienti, contratti o qualsiasi cosa sotto GDPR.

Dimmi la tua GPU, o se non ne hai, e cosa le chiederanno. Ti dirò onestamente cosa può fare il tuo hardware prima che tu ordini.

Server:

Virtual private server

•

Server app

Sistema operativo:

Linux