Svilupperò hardware edge ai e distribuirò local llm usando phi 3 o ollama

Headline: Porta l'intelligenza al tuo hardware con Edge AI

Se vuoi creare un dispositivo intelligente che non si affidi a costose API cloud, sono specializzato nel distribuire Local LLMs (Phi-3, Llama 3, Mistral) sul Hardware Edge come Raspberry Pi 5 e Compute Module 4/5.

Cosa offro:

• Distribuzione LLM su dispositivo: Configurazione esperta di Ollama e Phi-3 (3B a 7B parametri) ottimizzata per RAM limitata.
• Integrazione interfaccia vocale: Creazione di sistemi "Push-to-Talk" con alta precisione di Speech-to-Text (STT) e Text-to-Speech (TTS) naturale.
• Logica AI avanzata: Posso programmare modelli per riassumere input lunghi, archiviarli localmente con timestamp e ricostruirli su comando vocale.
• Design hardware: Prototipazione con RPi 5, tenendo presente il prodotto finale CM5/Industrial (gestione dell'energia, ricarica Type-C e Bluetooth).
• Distribuzione WiFi: Configurazione di sistemi che permettono aggiornamenti e caricamenti del modello via WiFi invece che tramite schede SD.

Il mio stack tecnologico:

• Hardware: Raspberry Pi 5, CM4/5, ESP32, Mic/Speaker I2S/USB.
• Modelli AI: Phi-3, Ollama, Whisper (STT), Piper/Coqui (TTS).
• Lingue: Python, C++, Bash.

Perché scegliermi?

Non scrivo solo codice; capisco il passaggio da un prototipo "ingombrante" di RPi 5 a un dispositivo compatto