Sommario: 1. Introduzione. 2. L’IA nella trasformazione dei sistemi di sicurezza sociale: opportunità e criticità. 3. I rischi dell’algoritmizzazione della protezione sociale. Opacità della decisione amministrativa. 4. Segue. Bias e discriminazioni indirette. 5. Segue. Esclusione digitale e nuove vulnerabilità sociali. 6. Il quadro delle garanzie costituzionali ed europee. 7. Segue. L’AI Act e i sistemi di IA ad alto rischio nel settore del welfare. 8. Segue. La supervisione umana quale garanzia dell’esercizio del potere amministrativo. 9. La tutela giurisdizionale e il sindacato giudiziale sulle decisioni algoritmiche. 10. Conclusioni.
1. Introduzione
L’impiego dell’intelligenza artificiale (d’ora in poi IA) nei sistemi di sicurezza sociale costituisce una delle più significative trasformazioni che stanno interessando il welfare contemporaneo. La progressiva digitalizzazione delle amministrazioni pubbliche e l’utilizzo crescente di sistemi algoritmici per la gestione delle prestazioni previdenziali e assistenziali stanno infatti modificando profondamente le modalità attraverso le quali le prestazioni sociali vengono riconosciute, erogate, controllate e, talvolta, revocate1.