PSA (Telemetria Comportamentale per l’AI in tutti gli ambiti di applicazione)

Descrizione

Le organizzazioni stanno mettendo in produzione modelli linguistici e agenti IA che non possono ispezionare. Il modello è una scatola nera: nessun accesso a pesi, logit o dati di addestramento. Quando deraglia — adulazione (sycophancy), allucinazione, cedimento a un jailbreak, gestione errata di un utente in crisi, o collasso comportamentale lungo una catena multi-agente — il guasto è invisibile finché non produce un danno, e non esiste alcuna traccia di audit per dimostrare cosa sia accaduto.

Allo stesso tempo, la normativa sta rendendo obbligatoria la prova comportamentale. L’AI Act dell’UE, il NIST AI RMF e la ISO/IEC 42001 richiedono tutti un monitoraggio continuo e una documentazione probatoria del comportamento dei sistemi IA. Oggi questa prova, in larga parte, non esiste.

La soluzione

PSA (Posture Sequence Analysis) è uno strato di osservabilità comportamentale e di rischio per i sistemi LLM e agentici. Misura ciò che il modello fa — dall’esterno, senza accedere alle sue componenti interne.

• Classifica — ogni risposta dell’IA è classificata in posture comportamentali da 7 micro-classificatori ottimizzati (stress avversariale, adulazione, rischio di allucinazione, densità persuasiva, pressione in input, stabilità agentica, pressione inter-agente).

• Valuta (score) — metriche di rischio in tempo reale (Behavioral Health Score, Input Risk Score, Dyadic Risk Module, Agentic Behavioral Index, punteggio di rischio sistemico “Swiss Cheese” per gli sciami di agenti).

• Prevede — il forecasting longitudinale CPF3 segnala la deriva comportamentale e i pattern di rischio interno (insider risk) prima che degenerino.

• Dimostra — SIGTRACK produce una traccia di audit a catena di hash, ancorata esternamente (drand), delle sequenze di posture — prova a prova di manomissione, senza memorizzare il testo grezzo dell’utente.

Il risultato: un EKG comportamentale per qualsiasi LLM e un radar di rischio sistemico per qualsiasi sciame di agenti — indipendente dal modello, neutrale rispetto al fornitore, installabile sopra sistemi già in produzione.