/image%2F0977250%2F20140708%2Fob_ce0751_fo-gd.JPG)
NUMERIQUE
Le Conseil d’État plaide pour un développement volontariste de l’IA dans le public
Dans un rapport de plus de 360 pages, les membres du Palais-Royal plaident pour l’élaboration et la mise en œuvre d’une stratégie “volontariste” mais “lucide” de développement de l’IA dans le service public. Ils appellent, en effet, à définir sans attendre une doctrine d’emploi de l’IA pour gagner la confiance des agents publics comme des usagers.
“Le potentiel des systèmes d’intelligence artificielle reste encore très largement sous-exploité dans la sphère publique”. Dans une vaste étude rendue publique ce 30 août, le Conseil d’État invite les pouvoirs publics à franchir le pas et à recourir plus massivement à l’intelligence artificielle. Sans pour autant s’affranchir d’une réflexion sur les gardes-fous à mettre en place pour s’assurer que ce déploiement s'opère dans le respect des droits des usagers et des agents publics.
L’étude, indique le rapport, vise ainsi à “conjurer le double risque que le secteur public soit le spectateur passif et le régulateur distant du développement des systèmes d’intelligence artificielle par d’autres, ou un apprenti-sorcier numérique oublieux des exigences fondamentales de l’éthique de l’action publique et, en particulier, du primat de l’humain sur la technique”.
Les avancées et les retards de la stratégie Macron en matière d’intelligence artificielle
Pour éviter ces deux scénarios, l’étude, commandée par le Premier ministre, invite à mettre en œuvre une véritable stratégie “volontariste” mais “lucide”.
Si la France s’est dotée en 2018 d’une stratégie nationale pour l’intelligence artificielle, celle-ci est avant tout axée autour de la recherche et du développement économique et industriel. Aucune stratégie ni doctrine d’emploi de l’IA n’ont véritablement été définies pour soutenir et encadrer ce déploiement dans les services publics, si ce ne sont les travaux menés par Etalab pour questionner l’avenir des algorithmes dans le secteur public.
Initiatives dispersées
Les administrations n’ont toutefois pas attendu une telle stratégie pour se lancer, ici et là, avec des degrés de maturité divers. “On constate surtout une très grande hétérogénéité dans la maturité des administrations, le degré d’avancement des réflexions et des projets et l’ampleur des investissements qui y sont consacrés”, écrit le Conseil. “Alors que les activités de contrôle, d’enquête et de sanction, dans lesquelles le « retour sur investissement » est bien identifié, sont assez dynamiques, le déploiement de SIA [systèmes d'IA] innovants est plus balbutiant dans les activités de service à l’usager, et embryonnaire pour ce qui concerne les fonctions support”.
Après les impôts, le ciblage des contrôles par IA s’installe aux douanes
Or, a insisté le co-rapporteur de l’étude lors de sa présentation, Alexandre Lallet, il est impératif, pour l’administration, d’équilibrer les usages. Autrement dit, de ne pas se concentrer sur des usages répressifs, au risque “de donner à l’opinion le sentiment que l’IA n’est qu’un instrument de sanction ou de surveillance” alors qu’elle peut, selon le Conseil, à la fois aider à améliorer la qualité du service public, à optimiser l’emploi des ressources publiques, et à soutenir la compétitivité économique du pays grâce à la commande publique.
L’acceptabilité sociale de l’IA, de la part des usagers comme des agents, figure en effet parmi les freins avancés par les administrations rencontrées par le groupe de travail du Conseil d’État. Leur frilosité tient aussi aux risques juridiques qu’elles perçoivent, parfois à tort selon le Conseil, mais aussi à l’impératif de sécurisation de l’outil développé. Mais c’est bien la disponibilité et la qualité des données ainsi que les moyens et compétences pour les exploiter qui font le plus défaut selon les administrations.
Lignes directrices
Pour dépasser ces obstacles, l’étude du Conseil d’État n'appelle pas à un grand soir législatif et budgétaire. En attendant l’adoption du règlement sur l’IA au niveau européen. “On ne propose pas de grande loi avec un décuplement des crédits alloués, mais plutôt d’anticiper en élaborant des lignes directrices, expérimentales au départ, pour tracer une stratégie, des objectifs, des principes, et donc des orientations qu’il appartiendra ensuite au Parlement d’adopter en droit dur dans plusieurs années au moment de l’adoption du règlement européen”, a souligné le président-adjoint de la section de l’intérieur du Conseil d’État, Thierry Tuot. Ces “lignes directrices” permettraient d’accélérer le déploiement de l’IA dans un cadre “de confiance” qui puisse faire l’objet d’une expérimentation concrète et d’un débat.
Cette “IA publique de confiance” comme la nomme le Conseil d’État, reposerait sur au moins 7 principes longuement détaillés dans l’étude : la primauté de l’humain, et donc responsabilité des concepteurs et opérateurs du système d’IA ; la performance de l’outil et de ses résultats ; l’équité et la non-discrimination du système ; sa transparence (pour vérifier le fonctionnement et la loyauté du système) ; sa sûreté face à d’éventuelles attaques et détournements ; sa soutenabilité environnementale ; et l’autonomie stratégique de la puissance publique, soit sa capacité à maîtriser les technologies. Le conseil d’État s’interroge à ce titre sur l’importance de l’arbitrage entre le “faire” et le “faire faire” (ce qui implique, aussi, une réflexion sur les plafonds d’emploi et sur les appels à projets qui ne permettent pas de financer les dépenses de personnel) ou même avec l’achat du prêt-à-l ’emploi, et donc sur le niveau de compétences de l’État.
Pilotage stratégique
Le Conseil d’État appelle ainsi à mener une “politique RH de l’IA publique” consistant à former les agents publics mais aussi les hauts dirigeants à ses enjeux, afin d’en faire des ambassadeurs, certes, mais éclairés. “Ce n’est pas faire injure à la fonction publique que de constater, comme l’ont fait de nombreuses personnes auditionnées, que la culture de l’IA est faible, voire inexistante, chez la plupart des agents publics, y compris à haut niveau de responsabilité.”
Même parmi les personnes en prise directe avec ces sujets, comme les Administrateurs ministériels des données (AMDAC), le Palais-Royal a constaté une maîtrise du sujet très variée. Pour le nerf de la guerre que constituent les développeurs et ingénieurs des données, le Conseil d’État réitère les habituels appels à fluidifier et améliorer les processus de recrutement et de fidélisation dans la fonction publique.
Comment l’État veut attirer 400 experts de la donnée
En tout état de cause, il manque à l’État des moyens humains, mais également une véritable capacité de pilotage pour diffuser la “culture de l’IA” dans les administrations. Ce n’est pas le coordinateur interministériel à l’IA, dont la mission dépasse largement le secteur public, qui va suivre et orchestrer cette stratégie à lui seul. À la place, le Conseil d’État recommande, sans pousser à la centralisation ou à l’hypertrophie, à la création d’“une structure de pilotage chargée de concevoir et d’animer la mise en œuvre de la stratégie des SIA publics, de mettre à la disposition des administrations les ressources de toute nature dont elles ont besoin pour concevoir et déployer des systèmes d’IA, d’incarner et de porter les actions de communication et de sensibilisation du grand public, de représenter la France dans les instances européennes et internationales et d’y déployer une stratégie d’influence et, enfin, d’assurer une fonction de veille juridique, technique et d’« intelligence administrative »”.
Autant de fonctions assumées aujourd’hui par une diversité d’acteurs, de la Direction générales des entreprises à l’ambassadeur pour le numérique en passant par Etalab, que le Conseil d’État voudrait voir renforcées et mieux coordonnées.
acteurs publics : ARticle publié le mardi 30 aoüt 2022 & eMILE MARZOLF
/https%3A%2F%2Fassets.over-blog.com%2Ft%2Fcedistic%2Fcamera.png)
