Deployo LLM locali, configuro agent AI e risolvo problemi API

Alcune informazioni sono state tradotte automaticamente.

Sri Lanka

Parlo Singalese, Inglese

4 ordini completati

Sviluppatore Full Stack, Linux SysAdmin, esperto di automazione

Sono uno sviluppatore web full stack laureando all'Università di Moratuwa, specializzato in Linux Server Administration. A differenza dei VA standard, gestisco infrastrutture cloud reali su DigitalOce...
Informazioni su questo servizio

Hai bisogno di una dashboard AI privata o hai problemi con l'API di Local LLM?

Lo configurerò in modo sicuro e risolverò i bug!


Sono specializzato nel deploy di Local LLM e piattaforme di AI Agent (come Hermes e Open WebUI) su server Linux/GPU o localmente sul tuo PC. Assicuro che i tuoi modelli AI funzionino senza problemi con endpoint API pronti per la produzione.


Cosa faccio:

  • Configurazione Local LLM: Deploy di Ollama, vLLM o LM Studio sul tuo VPS/PC Linux o server GPU.
  • Dashboard AI: Configurazione di Open WebUI, AnythingLLM o Hermes Agent.
  • Modelli personalizzati: Configurazione di Modelfiles (Llama 3, Qwen, Mistral, GLM) per il tuo caso d'uso specifico.
  • Sicurezza API: Generazione di chiavi API sicure per i tuoi sviluppatori da usare subito.


Risoluzione problemi & correzione bug:

  • Risolvere errori di connessione API, problemi CORS e timeout degli endpoint.
  • Risolvere errori Out of Memory (OOM) della GPU e crash CUDA.
  • Correggere bug di Docker container e Nginx reverse proxy che causano fallimenti dell'AI.


Perché scegliere me?

Sono un Linux SysAdmin & Full-Stack Developer e gestisco infrastrutture complesse così puoi concentrarti sulla creazione delle tue app AI.


Nota: Fornisco infrastrutture server funzionanti e API. Non scrivo il codice di integrazione AI nella tua app.


Scrivimi i dettagli del tuo server prima di ordinare!

Strumenti:

Docker

Framework:

Npm

Terraform

Ansible

Altro

Provider Cloud:

Amazon Web Services

microsoft azure

Oracle Cloud

Linguaggio di programmazione:

Bash

JavaScript

PHP

Python

Expertise:

Installazione

Migrazione

Configurazione

Il mio portfolio