Farò il fine tune di un llm sui tuoi dati con lora e valutazione completa

Prima di pagare qualcuno per fare il fine-tuning di un modello: circa la metà dei progetti che mi arrivano non ne hanno bisogno. Un miglior prompt o il retrieval risolvono il problema a molto meno, e te lo dirò gratis invece di accettare l'ordine.

Quando il fine-tuning È la soluzione - vocabolario di dominio, un formato di output specifico, un tono che il modello di base non può mantenere, o per ridurre i costi di inferenza - ecco cosa faccio.

Sono un ingegnere ML e Generative AI con più di 4 anni di esperienza in AI in produzione. Ho fatto il fine-tuning di modelli GPT e BERT per migliorare la precisione contestuale del 30%, e attualmente lavoro su un modello di base di circa 30 miliardi di parametri.

COSA OTTIENI

Una valutazione onesta se il fine-tuning supera il prompting

Progettazione, pulizia e formattazione del dataset, dove la maggior parte dei progetti fallisce

LoRA / QLoRA o fine-tuning completo su modelli open

Un sistema di valutazione che misura ciò che ti interessa, non le curve di perdita

Numeri prima/dopo su un set di test riservato

Pesi, codice di inferenza e artefatti quantizzati di tua proprietà

MODELLI

Llama, Mistral, Qwen, Gemma, Phi, oltre a fine-tuning ospitato da OpenAI · PyTorch, Hugging Face, PEFT, Unsloth, Axolotl

Scrivimi con cosa il modello deve fare e quali dati hai, anche se sono disordinati o non sei sicuro che siano abbastanza.