L'AI Act non è un adempimento: è una decisione di architettura

Chi ha già modelli in produzione affronta l'AI Act in due modi: come documentazione a valle o come requisito di progettazione. La differenza di costo tra i due percorsi si misura in trimestri.

La maggior parte delle organizzazioni affronta l'AI Act come un esercizio documentale a valle. È l'errore più costoso che abbiamo osservato nei nostri programmi: la classificazione del rischio determina requisiti di tracciabilità, sorveglianza umana e qualità dei dati che progettare costa settimane e riadattare costa trimestri.

Il primo passo è un inventario onesto, e qui emerge quasi sempre un divario: nei clienti con cui lavoriamo, il numero di modelli in produzione supera del 40-60% quello noto alla funzione di rischio. Fogli di calcolo con regressioni, script di scoring, componenti dentro pacchetti acquistati: nessuna governance è possibile su ciò che non è censito.

Il secondo passo è una distinzione decisiva: sistemi che assistono una decisione umana contro sistemi che la sostituiscono. La sorveglianza umana è efficace solo se l'operatore ha tempo, informazioni e autorità per dissentire. Una casella da spuntare a fine processo non è sorveglianza, e un ispettore lo riconosce in pochi minuti.

Il terzo è la documentazione tecnica. Vista come obbligo è un costo; vista come pratica di ingegneria è ciò che consente di sostituire un modello tra due anni senza ripartire da zero. Le organizzazioni che la producono in continuo la ottengono quasi gratis: sono quelle che la ricostruiscono a scadenza che pagano il conto.

Sui dati di addestramento, la domanda non è solo la provenienza ma la rappresentatività. Un modello addestrato su una popolazione che non corrisponde a quella servita produce disparità che emergono in esercizio, quando correggerle costa molto di più. E sul monitoraggio post-rilascio vale la stessa logica: un sistema conforme il giorno del rilascio non lo è per sempre. Senza misura continua, la conformità è una fotografia.

L'indicazione operativa è netta: trattare la conformità come un requisito non funzionale, al pari di sicurezza e prestazioni. Chi ha fatto questa scelta ha impiegato settimane; chi ha atteso la scadenza ha impiegato trimestri — e ha riprogettato sistemi già in produzione.