Ottimizzerò e distribuirò custom llms per il tuo caso d'uso specifico

Il fine-tuning è ideale per stile, tono, formato e compiti specializzati. RAG è migliore per il richiamo di fatti da grandi basi di conoscenza. Spesso entrambi funzionano insieme. Scrivimi con il tuo caso d'uso e ti dirò sinceramente quale approccio è più adatto — non ti venderò il fine-tuning se non ne hai bisogno.

Fino a 13B con QLoRA su un singolo A100 o 4090, senza problemi. Modelli più grandi (30B-70B) richiedono setup multi-GPU — scrivimi per un preventivo personalizzato. Lavoro con Llama 2/3, Mistral, Mixtral, Phi, Gemma, Qwen e la maggior parte degli LLM open-source su Hugging Face.

Ricevi sempre il codice completo di training, le configurazioni e un notebook che puoi ri-eseguire. L’obiettivo è che tu possa riaddestrare o fare iterazioni senza dipendere da me. Includo commenti dettagliati nel codice e un README che spiega come caricare l’adapter, eseguire inferenze e continuare il training.

Nessun ingegnere onesto può garantire metriche prima di aver visto i tuoi dati. La qualità dipende dalla qualità, dalla dimensione del dataset e dalla difficoltà del compito. Prima di accettare un ordine, rivedo un campione dei tuoi dati e stabilisco aspettative realistiche. Se non è adatto, te lo dirò subito.

Il calcolo viene fatturato separatamente. Per piccoli lavori LoRA su modelli ≤7B, posso usare Colab Pro o Kaggle. Per lavori più grandi, fornisci crediti cloud (AWS/GCP/RunPod) o affitto GPU a costo, con ricevute. Il calcolo tipico va da 20 a 200 dollari, a seconda della dimensione del modello e del dataset.

Lavoro con JSONL, CSV, Parquet, Alpaca, ShareGPT e le strutture più comuni. Se i tuoi dati sono disordinati o in un formato insolito, i livelli Standard e Premium includono pulizia e riformattazione. Per il Basic, fornisci dati puliti e correttamente formattati.

Una revisione è un’ulteriore sessione di training con iperparametri modificati o piccole variazioni nei dati (fino a circa il 10% del dataset), basata sul tuo feedback. Le revisioni NON includono cambiare il modello di base, ridefinire il compito o sostituire grandi parti del dataset — queste richiedono un nuovo servizio.

La distribuzione di base (compatibile Ollama GGUF su una singola macchina) è disponibile come extra. Per distribuzioni complete in produzione con API, autoscaling o infrastrutture cloud, consulta il mio gig dedicato alla distribuzione o scrivimi per un preventivo personalizzato.