Deployo local llms, agente hermes e risolvo problemi API

Alcune informazioni sono state tradotte automaticamente.

Sri Lanka

Parlo Singalese, Inglese

4 ordini completati

Sviluppatore Full Stack, Linux SysAdmin, esperto di automazione

Sono uno sviluppatore web full stack laureando all'Università di Moratuwa, specializzato in Linux Server Administration. A differenza dei VA standard, gestisco infrastrutture cloud reali su DigitalOce...
Informazioni su questo servizio

Hai bisogno di una dashboard privata per AI Agent o hai problemi con l'API di Local LLM? Lo configurerò e fixerò i bug!


Sono specializzato nel deploy di Local LLMs e piattaforme di AI Agent (come Hermes e Open WebUI) sui tuoi server. Assicuro che i tuoi modelli di AI funzionino senza problemi e ti fornisco endpoint API perfetti e pronti per la produzione.


Setup di AI Dashboard & Local LLM:

  • Deploy di Ollama, vLLM o LM Studio in modo sicuro sul tuo VPS Linux o server GPU.
  • Configurazione e setup di piattaforme di AI Agent & Dashboard (es. Hermes, Open WebUI, AnythingLLM).
  • Personalizza i file Modelfile (Llama 3, Qwen, Mistral) per il tuo caso d'uso specifico.
  • Genera e configura chiavi API sicure così i tuoi sviluppatori possono usarle subito.


️ Risoluzione bug di AI & Troubleshooting:

  • Correggi errori di connessione API, problemi CORS e timeout degli endpoint.
  • Risolve errori GPU Out of Memory (OOM) e crash CUDA.
  • Fix di problemi con container Docker e bug del reverse proxy (Nginx) che causano fallimenti di AI.


Nota: Fornisco dashboard di AI completamente funzionanti e endpoint API. Non realizzo integrazioni nel web/app mobile personalizzato.


Scrivimi i dettagli del server o il problema attuale di AI prima di ordinare!

Strumenti:

Docker

Framework:

Npm

Terraform

Ansible

Altro

Provider Cloud:

Amazon Web Services

microsoft azure

Linguaggio di programmazione:

Bash

JavaScript

PHP

Python

Expertise:

Installazione

Debug

Configurazione

Il mio portfolio