L'AI Act non è un adempimento: è una decisione di architettura

Chi ha già modelli in produzione affronta l'AI Act in due modi: come documentazione a valle o come requisito di progettazione. La differenza di costo e complessità tra i due percorsi può essere significativa.

La maggior parte delle organizzazioni affronta l'AI Act come un esercizio documentale a valle. È un errore comune e costoso: la classificazione del rischio determina requisiti di tracciabilità, sorveglianza umana e qualità dei dati che è più efficace progettare fin dall’inizio che aggiungere in seguito.

Il primo passo è un inventario onesto, e qui emerge quasi sempre un divario: nei programmi di questo tipo, il numero di modelli in uso può superare sensibilmente quello noto alla funzione di rischio. Fogli di calcolo con regressioni, script di scoring, componenti dentro pacchetti acquistati: nessuna governance è possibile su ciò che non è censito.

Il secondo passo è una distinzione decisiva: sistemi che assistono una decisione umana contro sistemi che la sostituiscono. La sorveglianza umana è efficace solo se l'operatore ha tempo, informazioni e autorità per dissentire. Una casella da spuntare a fine processo non è sorveglianza, e un ispettore lo riconosce in pochi minuti.

Il terzo è la documentazione tecnica. Vista come obbligo è un costo; vista come pratica di ingegneria è ciò che consente di sostituire un modello tra due anni senza ripartire da zero. Le organizzazioni che la producono in continuo la ottengono quasi gratis: sono quelle che la ricostruiscono a scadenza che pagano il conto.

Sui dati di addestramento, la domanda non è solo la provenienza ma la rappresentatività. Un modello addestrato su una popolazione che non corrisponde a quella servita produce disparità che emergono in esercizio, quando correggerle costa molto di più. E sul monitoraggio post-rilascio vale la stessa logica: un sistema conforme il giorno del rilascio non lo è per sempre. Senza misura continua, la conformità è una fotografia.

L'indicazione operativa è netta: trattare la conformità come un requisito non funzionale, al pari di sicurezza e prestazioni. Adottare questa scelta fin dall’inizio può ridurre tempi e rilavorazioni rispetto a un adeguamento tardivo.