Sicurezza dei sistemi LLM: AI red teaming e guardrail

Come si attaccano i sistemi AI e come si difendono, con red teaming dal vivo e cosa chiedono AI Act, Cyber Resilience Act e NIS2.

  • Destinatari:Tecnico
  • Durata:16 ore · 2 giornate
  • Formato:In sede o online
  • Lingua:Italiano o inglese

Cosa imparerai

  • Riconoscere prompt injection, jailbreak ed esfiltrazione di dati
  • Condurre una sessione di AI red teaming con risultati riproducibili
  • Progettare guardrail a più livelli su input e output
  • Limitare i danni di un agent con privilegi minimi
  • Tradurre i requisiti di AI Act, CRA e NIS2 in test e processi

Contenuti del corso

4 moduli · 16 ore in totale

1. Superficie di attacco4 ore
  • Prompt injection diretta e indiretta
  • Jailbreak e abuso degli strumenti degli agent
  • Data e model poisoning
2. AI red teaming dal vivo4 ore
  • Metodo e piano di test
  • Attacchi su un sistema di esempio
  • Report e priorità di correzione
3. Difesa in profondità4 ore
  • Classificatori di input, filtri di output
  • Gestione dei segreti e redazione dei dati personali
  • Logging e monitoring degli abusi
4. Normativa e processi4 ore
  • Robustezza e cybersecurity nell’AI Act
  • Segnalazione di vulnerabilità e incidenti nel CRA
  • Playbook per quando qualcosa va storto

Requisiti

  • Esperienza di sviluppo software o di sicurezza informatica
  • Conoscenza di base dei modelli di linguaggio

Descrizione

Un sistema basato su LLM accetta istruzioni in linguaggio naturale da chiunque: è la sua forza ed è anche la sua principale vulnerabilità. Le difese classiche non bastano, perché l'attacco può arrivare da un documento, una mail o una pagina web letta dall'agent.

Il corso nasce dal nostro lavoro di AI red teaming e hardening, lo stesso con cui proteggiamo l'assistente di questo sito. Due giornate pratiche: si attacca, si misura, si corregge.

A chi è rivolto

  • Sviluppatori che costruiscono prodotti con LLM
  • Team di sicurezza informatica
  • CTO e responsabili tecnici soggetti ad AI Act, CRA o NIS2

Richiedi informazioni

Il corso non si acquista online: lo organizziamo per il tuo team. Scrivici e ti mandiamo programma e proposta.

Chi fa la richiesta? *

Ti rispondiamo entro 24 ore lavorative con programma e proposta. Nessun impegno.

Altri corsi della categoria