Affinerò e addestrerò llms con pytorch e huggingface

Ottimizzo modelli open sui tuoi dati in modo che comprendano davvero la tua terminologia, i tuoi documenti e il tuo caso d'uso.

Ciò che faccio

• Ottimizzo LLM con pesi aperti usando LoRA o fine-tuning completo, su PyTorch e HuggingFace
• Pulisco e strutturo i tuoi dati grezzi in un set di addestramento utilizzabile, di solito la parte più difficile
• Costruisco un sistema di valutazione per misurare la qualità, non solo indovinarla
• Esporto per la produzione: ONNX, TorchScript o un'API di inferenza deployata
• Lo faccio girare sulla tua infrastruttura, così non ci sono costi per token API

Recenti lavori: ho ottimizzato un modello sulla documentazione interna di un cliente. La precisione sul loro benchmark è passata da circa 60% a oltre 90%, girando sul loro hardware.

Come lavoro

Costruisco il set di valutazione prima di addestrare qualsiasi cosa. Senza di esso non si può capire se un'operazione ha migliorato o peggiorato le cose, e la maggior parte dei progetti di fine-tuning salta questo passaggio.

Ti dirò anche quando il fine-tuning non è la soluzione, a volte RAG o prompt più intelligenti ti portano lì a molto meno.

Scrivimi con il tuo caso d'uso e la dimensione del dataset, e ti dirò cosa è realistico.