Etica dell’IA nel settore pubblico: il dibattito sulla governance in Italia incontra il targeting algoritmico di France Travail

Un saggio di Agenda Digitale sostiene che l’IA nel settore pubblico dovrebbe essere guidata dalla dignità umana, dalla supervisione, dal bene comune, dalla qualità dell’informazione e dalla centralità del lavoro. Quell’assetto teorico diventa concreto in un rapporto separato su France Travail, dove un algoritmo interno utilizza 26 variabili e dati di addestramento provenienti da 60.000 controlli passati per decidere quali disoccupati siano prioritari per le ispezioni. La vicenda mostra quanto rapidamente il punteggio automatizzato possa trasformarsi in uno strumento di profilazione se trasparenza e responsabilità sono deboli. Per le pubbliche amministrazioni italiane e per i fornitori che le servono, la lezione è che l’etica operativa non è uno slogan: deve essere incorporata nei flussi decisionali, nella documentazione e nei meccanismi di ricorso. È rilevante anche per i DPO e i team legali, perché questi sistemi possono incidere in modo sostanziale sui diritti e sull’accesso ai servizi. La implicazione più ampia è che l’IA nel settore pubblico ha bisogno di governance prima della scala.

Fonti

• Dalla Magnifica Humanitas alla PA: un’etica operativa per l’AI — Agenda Digitale
• France Travail – 26 variabili decidono se siete sospetti — Korben