Overblog
Editer l'article Suivre ce blog Administration + Créer mon blog
Syndicat Force Ouvrière des Services Publics de la Marne

SERVICES PUBLICS

10 Décembre 2024 , Rédigé par FO Services Publics 51

I A dans les services publics : la défenseure des droits appelle à renforcer le contrôle humain

Dans un rapport, Claire Hédon s’inquiète des risques qu’induit l’“algorithmisassion” massive des services publics pour les droits des usagers. Comme garde-fous, elle préconise de mieux encadrer la validation des décisions prises et de renforcer l’information au public

Calcul des taxes et des impôts, attribution de prestations sociales ou de places en crèche, accès aux établissements de l’enseignement supérieur… Un nombre croissant de décisions administratives individuelles sont prises sur la base de résultats livrés par des algorithmes et des modèles d’intelligence artificielle (IA). Le nouveau ministre de la Fonction publique, Guillaume Kasbarian, entend d’ailleurs encore accélérer le développement de l’usage de l’intelligence artificielle dans les services publics et même faire de l’IA “la pierre angulaire de la transformation de la fonction publique”

Dans un rapport, Claire Hédon, la défenseure des droits, s’inquiète des risques qu’induit cette “algorithmisation” massive des services publics pour les droits des usagers, qui “s’en trouvent substantiellement affectés”. Elle rappelle que les législations européenne – le RGPD, en attendant l’AI Act – et nationale – loi “Informatique et Libertés”, code des relations entre le public et l’administration (CRPA) – prévoient d’ores et déjà des garde-fous pour garantir le respect de ces droits.

Pour Guillaume Kasbarian, l’IA est “la pierre angulaire de la transformation de la fonction publique”

Le cadre réglementaire pose, entre autres principes, que la personne concernée par une décision prise sur le fondement d’un algorithme doit en être informée et qu’elle doit pouvoir obtenir une intervention humaine en cas de recours. Pour éviter l’effet “boîte noire”, l’organisme public qui utilise un traitement algorithmique doit pouvoir expliciter ses règles de fonctionnement et en conserver la maîtrise.

Or la défenseure des droits note, sur la base des réclamations qu’elle reçoit, que des décisions administratives “partiellement automatisées” ne bénéficient pas de l’intervention humaine attendue. Elle cite, en exemples, la procédure d’affectation en lycée, Affelnet, et la plate-forme d’accès à l’enseignement supérieur, Parcoursup : “Les personnes qui interviennent dans la prise de décision individuelle ont tendance à avaliser les résultats produits par le système sans les questionner.”

Le Défenseur des droits appelle à consolider les droits des usagers face au numérique

Face à ce constat, Claire Hédon recommande “d’édicter des critères et des modes opératoires obligatoires pour qualifier plus précisément la nature de l’intervention humaine requise”. Il s’agit notamment de préciser à quel moment intervient ce contrôle humain et sous quelle forme. Quels résultats doit-il valider ou infirmer ? Pour formaliser cette opération de contrôle, l’agent public pourrait se voir confier une liste de tâches définies à l’avance.

“Droit à l’explication” des décisions administratives

La défenseure des droits entend, par ailleurs, répondre à l’exigence de transparence et propose de consacrer un “droit à l’explication” des décisions administratives entièrement ou partiellement automatisées. Le rapport recommande enfin au gouvernement d’introduire une sanction en cas de non-respect de l’obligation de publication en ligne des informations relatives aux systèmes utilisés. 

Visibles et aisément accessibles sur les sites des administrations et organismes concernés, ces informations doivent permettre à l’usager de mieux comprendre les décisions prises le concernant et de pouvoir les contester le cas échéant. 

ACTEURS PUBLICS : article publie le mercredi  20 novembre 2024 &  Xavier Biseul

 

Partager cet article
Repost0
Pour être informé des derniers articles, inscrivez vous :
Commenter cet article