Sfoglia categorie
Esplora
Fiverr Pro
Italiano
$
USD
configurerò un llm privato autoospitato sul tuo server con Ollama, vLLM, Open WebUI
Junaid Aslam
Level 1
Selezionato da Fiverr Pro
Junaid Aslam selezionato dal team Fiverr Pro per la sua esperienza.
Informazioni su questo servizio
Traduzione automatica.
Per favore scrivimi per discutere i requisiti prima di procedere con l’ordine.
Vuoi un assistente AI che tenga i dati sul tuo server? Configuro un LLM privato sul tuo VPS o sul tuo server GPU. Nessun prompt o documento va a terze parti.
Cosa configuro
- Ollama o vLLM che servono un modello open: Llama 3, Mistral, DeepSeek, Qwen, Gemma, o qualsiasi modello di Hugging Face
- Open WebUI come schermo della chat, con account utente e ruoli
- Un API compatibile con OpenAI, così le tue app lo chiamano come chiamano OpenAI
- RAG opzionale sui tuoi PDF e documenti, con pgvector o Qdrant
- Configurazione Docker Compose, Nginx, HTTPS e una guida di handover scritta
Dove gira
Qualsiasi server Linux: il tuo VPS, macchina on-premises, AWS, Azure, Google Cloud, o un GPU affittata su RunPod. GPU: NVIDIA H100, A100, L40S, RTX 4090. Ti dico subito il costo mensile.
Posizione dei dati
Posso ospitare nell’UE, Regno Unito, USA o in qualsiasi paese o regione tu scelga. Supporta regole di residenza dati come GDPR, UK GDPR e CCPA.
Cosa non faccio
Non effettuo fine-tuning né quantizzazione dei modelli. Distribuisco e collego modelli aperti esistenti.
Prima di procedere con l’ordine
Parliamo del tipo di documento, del numero di utenti e del budget. Poi ti consiglio un modello e una dimensione del server.
Scopri di più su Junaid Aslam
Junaid Aslam
ASP Dot NET Core, Web API, React, JS, TS, SQL, NoSQL, AWS, Azure, AI Chatbot RAG
Level 1
Junaid Aslam fa parte del catalogo di Fiverr Pro ed è stato selezionato da un team di Fiverr Pro per le sue capacità e competenze.
Selezionato per
Sviluppo di software
- DaPakistan
- Membro daset 2015
- Tempo di risposta medio1 ora
- Ultima consegna1 mese
Lingue
Urdu, Inglese
Pro-vetted Senior .NET engineer with 7+ years building full-stack web apps and APIs for clients across the US, UK, EU, and beyond. I specialise in .NET, .NET Core, ASP.NET MVC5, Web API, Blazor, React, and Next JS, following Clean Architecture and SOLID principles so your codebase stays maintainable as it grows. I also offer AI automation & AI integration services, including custom AI chatbots, RAG, n8n, make.com AI workflows, Claude/GPT API.. My tech stack includes C# .NET 10, 9.0 · Blazor · EF Core · API · React/Next.js · TypeScript · MS SQL · Azure · AWS · WordPress · Firebase · PostgreSQL.
Traduzione automatica.
Il mio portfolio
Altri servizi della categoria Sviluppo AI offerti da me
FAQ
Traduzione automatica.
Ho bisogno di un mio server o GPU?
No. Posso configurarlo su un VPS, sul tuo account cloud o su una GPU noleggiata su RunPod. Ti comunico le dimensioni e il costo mensile prima di iniziare. Paghi direttamente al fornitore.
Quali server e GPU puoi usare?
Qualsiasi server Linux con accesso SSH: AWS, Azure, Google Cloud, RunPod o tuo hardware. Le GPU includono NVIDIA H100, A100, L40S e RTX 4090.
Quali open LLM puoi far girare?
Llama 3, Mistral, DeepSeek, Qwen e Gemma, nelle dimensioni supportate dal tuo hardware. Ti aiuto a scegliere il modello migliore per il tuo uso.
I miei dati sono privati?
Sì. Il modello gira sul tuo server. Nessun prompt o documento va a un servizio AI esterno a meno che non mi chiedi di collegarne uno.
Ollama o vLLM, quale serve?
Ollama è semplice e va bene per team piccoli. vLLM è più veloce per molti utenti su una GPU. Ti consiglio uno dopo che mi dici quanti utenti hai.
La mia app può chiamarlo come l’API OpenAI?
Sì. Ollama e vLLM offrono entrambi un API compatibile con OpenAI. Le tue app cambiano solo l’URL di base e il nome del modello.
Può rispondere dai miei documenti (RAG)?
Sì, nel pacchetto Premium. Aggiungo RAG sui tuoi PDF e file con pgvector o Qdrant.
Puoi ospitare in UE, UK o US per GDPR?
Posso ospitare nella regione che scegli. Supporta regole di residenza dati come GDPR, UK GDPR e CCPA. Non posso fornire consulenza legale o certificare conformità.
Fai fine-tuning o quantizzazione dei modelli?
No. Distribuisco e connetto modelli aperti esistenti. Non alleno né effettuo fine-tuning.
