Aggiungerò funzionalità llm al tuo backend python con rag citato e controllo dei costi


Informazioni su questo servizio
Traduzione automatica.
Vuoi una funzionalità LLM che dia risposte fondate, fallisca in modo sicuro e non ti sorprenda sulla fattura. Lo integriamo nei backend Python esistenti.
Ciò che costruisco: retrieval (RAG) con citazioni, così ogni risposta indica la sua fonte; output strutturati, validati con pydantic prima che qualcosa venga salvato o agito; passaggi dell'agente che aspettano l'approvazione di una persona prima di modificare i dati; routing e caching del modello per mantenere sotto controllo il costo per richiesta; e un set di valutazione, così la qualità viene misurata invece di essere valutata a occhio.
Come lavoro: leggo il tuo codice prima di modificarlo, scrivo prima il test che fallisce e ti guido attraverso la funzionalità sui tuoi dati prima di consegnarla. Background: Python di produzione (Django REST, pytest, queue workers su AWS) su una piattaforma che già integra funzionalità LLM, dopo anni di lavoro remoto per team in Nuova Zelanda, Singapore e Australia.
Cosa ottieni: la funzionalità nel tuo repo con test, una breve nota di progettazione e i risultati della valutazione.
Scrivimi prima con il tuo stack e cosa dovrebbe fare la funzionalità.
Scopri di più su Ike Mawira
ESP32 and FreeRTOS firmware engineer, LLM features in Python
- DaKenya
- Membro daapr 2018
Lingue
Inglese, Swahili
Traduzione automatica.
FAQ
Traduzione automatica.
Quali modelli usi?
Qualunque soluzione si adatti alle tue esigenze di costo e privacy: un'API ospitata come OpenAI o Anthropic, o un modello open che ospiti tu. Mantengo il provider dietro un'interfaccia unica, così puoi cambiare in seguito.
Il mio codice e i dati resteranno privati?
Sì. Nessuno riutilizza o mostra a nessuno senza il tuo permesso, e sono felice di firmare un NDA.
