Öffentlicher-Sektor-KI-Ethik: Italiens Governance-Debatte trifft auf das algorithmische Targeting von France Travail

Ein Essay von Agenda Digitale argumentiert, dass KI im öffentlichen Sektor von Menschenwürde, Aufsicht, dem Gemeinwohl, Informationsqualität und der Zentralität der Arbeit geleitet werden sollte. Dieser abstrakte Rahmen wird in einem separaten Bericht über France Travail konkret, wo ein internes Algorithmus 26 Variablen und Trainingsdaten aus 60.000 früheren Kontrollen verwendet, um zu entscheiden, welche arbeitslosen Personen bei der Inspektion priorisiert werden. Die Geschichte zeigt, wie schnell automatisierte Bewertung zu einem Instrument des Profilings werden kann, wenn Transparenz und Rechenschaftspflicht schwach sind. Für italienische öffentliche Verwaltungen und die Anbieter, die sie bedienen, ist die Lehre, dass operative Ethik kein Schlagwort ist: Sie muss in Entscheidungsabläufe, Dokumentation und Beschwerdemechanismen eingebaut werden. Dies ist auch für DPOs und Rechtsteams relevant, da diese Systeme Rechte und den Zugang zu Dienstleistungen erheblich beeinträchtigen können. Die weitergehende Implikation ist, dass KI im öffentlichen Sektor Governance braucht, bevor sie skaliert wird.

Quellen

• Von der Magnifica Humanitas bis zur PA: eine operative Ethik für die KI — Agenda Digitale
• France Travail – 26 Variablen entscheiden, ob Sie verdächtig sind — Korben