NUMERIQUE

20 Octobre 2023 , Rédigé par FO Services Publics 51

Un mode d’emploi pour faire toute la transparence sur les algorithmes publics

Alors que l’intelligence artificielle (IA) n’a jamais eu autant la cote que depuis l’irruption de ChatGPT et autres IA conversationnelles concurrentes, le collectif Datapublica publie un guide pour aider les acteurs publics à faire – enfin – toute la transparence sur les algorithmes qu’ils mettent en œuvre.

Une piqûre de rappel. Encore une. Déjà en 2019, le service chargé de l’ouverture et de l’exploitation des données publiques, Etalab, publiait un guide pour aider les acteurs publics à se conformer aux règles de transparence des algorithmes utilisés par le secteur public, comme celui de la plate-forme d’affectation dans l‘enseignement supérieur Parcourscup. À commencer par l’obligation d’informer l’usager qu’un algorithme est intervenu sur son dossier.

Depuis 2018 et la loi Lemaire adoptée deux ans plus tôt, les administrations sont en effet tenues d’ouvrir les codes sources de leurs algorithmes, utilisés pour prendre une grande variété de décisions pour les usagers comme pour les agents, à la fois pour attribuer des aides ou subventions, répartir les places en crèches, ou bien encore gérer l’avancement du personnel… C’est pourquoi elles sont également tenues d’en expliquer le fonctionnement, dans une logique de redevabilité envers les citoyens.

Algorithmes : le défenseur des droits s’inquiète d’une automatisation des discriminations

Force est de constater que l’exercice n’est toujours pas complètement maîtrisé par les acteurs publics. Au point qu’il mérite, aux yeux de certains, de faire l’objet d’un nouveau guide. Ou plutôt d’un “support de compréhension et un outil d’appropriation du sujet par les acteurs publics”, selon un collectif à l’origine d’un document, Datapublica, qui réunit les sociétés Innopublica, Civiteo, Datactivist et Parme Avocats. “Plus qu’un guide pratique ou technique, ce cahier replace dans un contexte détaillé les notions et enjeux liés aux algorithmes publics”, explique l’introduction du document, qui insiste sur l’enjeu démocratique de la transparence de l’action publique.

“En 2022, cinq ans après son entrée en vigueur, la transparence des algorithmes publics est mise en œuvre de façon anecdotique, déplore le rapport. Si la réalité de chaque administration est différente, certains obstacles communs persistent, dont la mauvaise compréhension des enjeux ou la difficile appréhension d’un sujet technique par les élues et agentes du secteur public.” Et de citer l’entrave supplémentaire que peut constituer “le recours aux logiciels propriétaires” des éditeurs privés, bien moins enclins à lever le voile sur le fonctionnement de leurs outils.

Panorama du régime juridique applicable

Pour aider les décideurs et agents à y voir plus clair, le document a le mérite d’apporter une vision à la fois précise et complète du sujet. Il commence par apporter une définition des algorithmes publics, puis décrit leurs avantages et inconvénients et déconstruit les idées reçues, pour ensuite resituer l’utilisation qui en est faite par les administrations. Et d’enchaîner avec un rappel de l’exigence de transparence s’agissant tout particulièrement des acteurs publics, et avec un panorama complet du régime juridique applicable en France

L’État s’interroge sur l’avenir des algorithmes dans le service public

Loin de s’opposer au déploiement des algorithmes dans le secteur public, le document offre ensuite un mode d’emploi pour les intégrer à la conduite des politiques publiques et en assurer toute la transparence, à travers la constitution, étape par étape, de son propre registre des algorithmes publics. Il offre ainsi une analyse des différents mécanismes d’appropriation et d’encadrement de l’usage des algorithmes, des chartes aux lignes directrices, en passant par les moratoires, les audits techniques et autres évaluations d’impact.

De quoi, peut-être, dépasser le manque de culture numérique des acteurs publics sur l’impact des algorithmes sur la vie quotidienne et le manque de portage politique pour faire de cette transparence algorithmique non plus un idéal… mais enfin une réalité.

acteurs publics : article publie leLE MARDI 10 octobre 2023 & EMILE MARZOLF

3 algorithmes ouverts à la métropole de Lille
La métropole de Lille s’est volontiers pliée à l’exercice de la transparence. À commencer par celle sur les résultats d’une expérimentation menée en 2022 pour “ouvrir” ses algorithmes, et surtout définir une méthodologie. Les conclusions de l’expérimentation révèlent, s’il le fallait encore, la complexité du sujet, à commencer par la définition de ce qu’est un algorithme, ces derniers n’étant pas toujours automatisés ni même informatisés. Néanmoins, la démarche a semble-t-il suscité un véritable intérêt chez les agents. Au total, une quinzaine d’algorithmes informatisés ont été identifiés et 7 ont fait l’objet d’un travail approfondi avec les métiers pour en expliquer et en publier le fonctionnement. Au bout du compte, seuls 3 algorithmes ont été effectivement “ouverts” : l’algorithme de calcul de la tarification sociale des transports, celui du traitement de l’éligibilité et du calcul des aides au logement, et enfin l’algorithme de gestion des accès en déchetterie.

Partager cet article

Repost0

GESTION RESSOURCES HUMAINES

ORGANISATION TERRITORIALE

Retour à l'accueil

Commenter cet article