Sfoglia categorie
Esplora
Fiverr Pro
Italiano
$
USD
Configurerò un server AI privato self-hosted usando modelli open source
Omkar Magar
Informazioni su questo servizio
Traduzione automatica.
Se sei preoccupato di inviare i tuoi dati aziendali a OpenAI, Google o altri fornitori di AI di terze parti, configurerò un sistema AI privato che funziona interamente sul tuo hardware o server, così avrai il controllo completo sui dati.
Cosa include:
- Installazione e configurazione di un LLM open-source (qualsiasi modello disponibile su Hugging Face)
- Ottimizzazione della configurazione per il tuo hardware per la massima velocità possibile
- Un'interfaccia chat in stile ChatGPT (Open WebUI) che il tuo team può usare subito
- Opzionale: self-hosting di n8n e utilizzo degli stessi modelli per automatizzare i compiti
Ho già creato e testato questa configurazione (30-35 token/sec su un laptop con GPU vecchia 6-7 anni), quindi posso dirti se l'AI locale soddisfa le tue esigenze o se ha senso adottare un approccio ibrido, prima di spendere qualsiasi cosa.
I prezzi indicati sono la base per una configurazione a modello singolo su una sola macchina. Scope più ampi (più modelli, configurazioni più avanzate o complicate, deployment multi-utente) costeranno di più e richiederanno più tempo - scrivimi con la tua configurazione e ti invierò un preventivo preciso prima di ordinare.
Scopri di più su Omkar Magar
Omkar Magar
AI Engineer, Building AI Automations using open source models
- DaIndia
- Membro daago 2026
- Tempo di risposta medio1 ora
Lingue
Marathi, Inglese, Hindi
I'm an AI Engineer who helps small businesses automate their work using locally deployed open-source models. If you need AI automation that's practical, cost-effective and doesn't compromise your data privacy, I can help with that. Feel free to check out my projects and demos on my website.
What I do best:
I deploy open-source LLMs on your own hardware or private cloud, so you get AI capability without sending data to third parties. I build end-to-end n8n automations. I've built automated lead outreach system and voice receptionists that handle calls and bookings autonomously.
Traduzione automatica.
Il mio portfolio
FAQ
Traduzione automatica.
Ho bisogno di una GPU potente?
No - puoi usare anche GPU di budget di qualche anno fa, purché abbia abbastanza VRAM per ospitare il modello che preferisci. Possiamo anche spostare il modello sulla RAM o sulla CPU del sistema, ma questo riduce significativamente le velocità di inferenza. Quindi ti consiglierei un modello che si adatti interamente alla tua GPU, per inferenze più veloci.
Questo sostituirà completamente ChatGPT?
Dipende dal modello che scegli e dalla complessità del compito. Per compiti semplici come lavorare con PDF (o altri formati di file documenti), elaborazione di testo, ecc., i modelli open source vanno bene. Ma per compiti più complicati come lo sviluppo di app, grandi cambiamenti nel codice, ecc., i modelli flagship sono ancora molto superiori.
