Un algoritmo può decidere se concedere un prestito, selezionare un candidato per un colloquio o influenzare l’accesso a servizi essenziali. Ma cosa accade se quella decisione è discriminatoria, poco trasparente o lesiva dei diritti delle persone?
Con l’entrata in vigore dell’AI Act, l’Unione Europea introduce un nuovo strumento di governance per affrontare questi rischi: la FRIA (Fundamental Rights Impact Assessment), la valutazione d’impatto sui diritti fondamentali.
Cos’è la FRIA (Valutazione d’Impatto sui Diritti Fondamentali)
La FRIA (Fundamental Rights Impact Assessment) è una valutazione obbligatoria prevista dall’Art. 27 dell’AI Act. Serve a identificare e ridurre i rischi che un sistema AI ad alto rischio potrebbe causare sui diritti fondamentali: privacy, non discriminazione, libertà di espressione, accesso a servizi essenziali. Non è un controllo una tantum: accompagna il sistema AI per tutto il suo ciclo di vita.
| Progettazione | Addestramento | Validazione | Implementazione | Monitoraggio |
La FRIA copre tutte le fasi del ciclo di vita, non solo il lancio iniziale.
Chi è obbligato a farla
1. Enti pubblici
PA centrale, comuni, scuole, ospedali pubblici, ASL
2. Privati con servizi pubblici
Cliniche private, trasporti in concessione, distribuzione energia
3. Deployer ad alto rischio
Banche (credit scoring), assicurazioni vita e salute
Ad esempio, gli istituti di credito o le compagnie assicurative che implementano algoritmi per valutare la solvibilità o definire tariffe sanitarie individuali devono effettuare la valutazione preventiva.
Non tutti i sistemi di intelligenza artificiale sono soggetti alla FRIA. L’obbligo riguarda esclusivamente i sistemi classificati come ad alto rischio dall’AI Act. Le applicazioni che non rientrano in questa categoria, e che non costituiscono pratiche vietate, non devono rispettare i requisiti specifici previsti per la valutazione d’impatto sui diritti fondamentali.
Cosa deve contenere una FRIA
| 1 | Descrizione del sistema: come verrà usato, per quanto tempo e con quale frequenza. |
| 2 | Persone coinvolte: quali individui o gruppi potrebbero essere impattati, inclusi soggetti vulnerabili. |
| 3 | Rischi specifici: identificazione dei potenziali danni per ciascuna categoria di persone. |
| 4 | Supervisione umana: come viene garantito il controllo umano sul sistema. |
| 5 | Piano di rimedio: misure per ridurre i rischi; da aggiornare se il sistema cambia significativamente. |
| 6 | Robustezza e affidabilità: valutazione dei dati usati per la validazione, dei limiti del sistema e delle condizioni in cui le prestazioni possono degradarsi (es. popolazioni sottorappresentate nel set di addestramento). |
| 7 | Pubblicazione sommario: i risultati devono essere resi accessibili per garantire trasparenza. |
Monitoraggio della FRIA
La FRIA non si esaurisce con la valutazione iniziale. L’AI Act richiede che i rischi per i diritti fondamentali siano monitorati durante l’intero ciclo di vita del sistema di intelligenza artificiale, verificando che le misure di mitigazione adottate continuino a essere efficaci nel tempo.
Il monitoraggio dovrebbe essere effettuato periodicamente e ogni volta che intervengono modifiche significative al sistema, ai dati utilizzati, alle modalità di impiego o al contesto operativo. L’obiettivo è individuare tempestivamente eventuali nuovi rischi o effetti indesiderati che potrebbero incidere sui diritti e sulle libertà delle persone interessate.
Potrebbe interessarti anche: