Sfoglia categorie
Esplora
Fiverr Pro
Italiano
$
USD
Implementerò uno stack LLM privato locale con docker
Jeancam L.
Informazioni su questo servizio
Traduzione automatica.
Hai bisogno di capacità AI senza dover inviare ogni prompt o documento a un servizio di terze parti?
Sono un ingegnere AI e Python francese. Progetto e implemento stack LLM privati per ambienti locali, on-premise, ibridi e cloud. L'obiettivo non è semplicemente installare alcuni container; voglio offrirti un sistema affidabile che si adatti al tuo hardware, alle esigenze di privacy e al carico di lavoro previsto.
Il tuo stack può includere:
- OpenWebUI, Ollama o vLLM
- Servizi Dockerizzati e API compatibili con OpenAI
- RAG privato e ricerca vettoriale
- PostgreSQL o pgvector
- Configurazione di autenticazione, HTTPS e reverse proxy
- Routing LiteLLM tra modelli locali e cloud
- Monitoraggio dell'uso, budget di team e visibilità dei costi
Ti aiuterò a scegliere i modelli più adatti al tuo CPU, RAM o GPU, invece di promettere prestazioni irrealistiche. La consegna include la configurazione concordata, documentazione e un passaggio di consegna chiaro.
Contattami prima di ordinare con le specifiche hardware e il numero di utenti, così posso confermare la migliore architettura e il pacchetto.
Scopri di più su Jeancam L.
Jeancam L.
- DaFrancia
- Membro daago 2021
- Ultima consegna3 anni
Lingue
Francese, Inglese
Graduated from engineering school ESISAR in Valence, France, I have a lot of knowledge in various programming languages: Java, python, c. I have acquired a deep expertise in Selenium testing and web scraping. I am familiar with web languages (js, css, html), the WordPress and Shopify CMS that I use for my personal projects and the Spring framework.
Traduzione automatica.
FAQ
Traduzione automatica.
Tutto può funzionare localmente?
Sì, quando l'hardware disponibile supporta il modello e il carico di lavoro scelti. Imposterò aspettative realistiche prima di iniziare.
Tutto può funzionare localmente?
Sì, quando l'hardware disponibile supporta il modello e il carico di lavoro scelti. Imposterò aspettative realistiche prima di iniziare.
Puoi combinare modelli locali e cloud?
Sì. Uno stack ibrido può mantenere compiti sensibili localmente mentre utilizza modelli cloud solo quando serve capacità aggiuntiva.
Fornisci il server o la GPU?
No. Tu fornisci la macchina target o l'account cloud; io configuro e implemento lo stack concordato.
Puoi aggiungere la ricerca di documenti privati?
Sì. RAG, citazioni e ricerca vettoriale possono essere incluse nello scope Standard o Premium.
