Progetterò modelli specializzati tiny gpt bert style per dispositivi edge

Hai bisogno di un'IA che funzioni localmente senza API cloud, accesso a internet o server esterni?

Progetto e implemento modelli di IA transformer-specifici per piattaforme embedded con risorse limitate, utilizzando operazioni convenzionali di vettori, matrici e tensori.

A seconda del compito target, posso sviluppare versioni leggere di:

• architetture in stile GPT per generazione di testo o previsione di sequenze
• architetture in stile BERT per classificazione, embedding e estrazione di caratteristiche
• architetture encoder-decoder per compiti specifici di sequenza a sequenza
• modelli basati su attenzione ottimizzati per inferenza embedded
• modelli quantizzati e ottimizzati per memoria per MCU a 32 bit
• architetture di inferenza multi-MCU o cluster di MCU

Le piattaforme target possono includere ESP32-S3, STM32, altri MCU a 32 bit, a seconda della RAM, Flash, PSRAM e requisiti specifici disponibili.

L'obiettivo è Edge AI completamente offline: l'inferenza viene eseguita direttamente sul tuo dispositivo, senza dipendere da API di OpenAI, server cloud o connessione internet continua.

Importante: Questi sono sistemi di IA embedded specifici per applicazioni, non sostituti completi di ChatGPT. Contattami prima di ordinare così posso valutare le risorse del tuo MCU, il dataset, i requisiti del modello e il compito target.