Eseguirò jailbreak del modello AI, test di injection di prompt e analisi della sicurezza di llm

Effettuerò una valutazione completa della sicurezza del modello AI, inclusi test di jailbreak, analisi di injection di prompt, tentativi di bypass dei filtri di sicurezza e rilevamento di vulnerabilità per LLM e chatbot.

Sono specializzato nell’individuare punti deboli nei sistemi di AI e nel mostrare come gli attaccanti possano manipolare il tuo modello per generare risposte non sicure, dannose, di parte o non autorizzate.

COSA TESTERÒ

1. Attacchi di jailbreak

• Jailbreak in stile DAN
• Override del prompt di sistema
• Attacchi di cambio personalità
• Fuga dal ruolo e attivazione forzata della modalità interna

2. Attacchi di injection di prompt

• Manipolazione diretta del prompt
• Injection indiretta di prompt (istruzioni nascoste)
• Injection di prompt HTML/Markdown
• Attacchi di avvelenamento del contesto

3. Bypass dei filtri di sicurezza

• Superare le barriere di sicurezza
• Far uscire il modello contenuti limitati
• Superare i limiti etici
• Conflitti nascosti nelle policy

4. Attacchi avversariali multi-step

• Manipolazione della catena di pensiero
• Attacchi contestuali a più livelli
• Loop di istruzioni ricorsive

5. Test di allucinazioni e bias

• Condizioni scatenanti per allucinazioni
• Controlli di amplificazione dei bias
• Risposte contraddittorie
<li Trappole di ragionamento errato