GESTION RESSOURCES HUMAINES

11 Mars 2025 , Rédigé par FO Services Publics 51

Un rapport sénatorial pointe les risques de l'IA lors du premier contact entre services publics et usagers

Si les outils d’intelligence artificielle de type chatbots présentent quelques avantages pour prendre en charge les interactions avec le public, un risque de déshumanisation des services mais aussi d’effacement des agents ne doit pas être négligé, selon un rapport sénatorial.

La délégation à la prospective du Sénat publie une série de rapports thématiques autour du thème : "L’IA et les services publics". Ses derniers travaux se penchent plus particulièrement sur la question de "l’IA, territoire et proximité". "À l’instar des révolutions technologiques générales que furent la machine à vapeur, l’électricité ou encore Internet, l’intelligence artificielle (IA) pourrait profondément changer la façon dont nous vivons et travaillons, et ceci dans tous les domaines, expose ainsi Christine Lavarde, sénatrice des Hauts-de-Seine et présidente de la délégation à la prospective. Pourtant, dans le secteur public, les expérimentations restent à ce jour limitées, les annonces modestes, et la parole très prudente." Il ressort de ces travaux que si l’IA est un outil qui présente certains avantages, mais aussi des risques et des limites, son utilisation ne pourra se faire que si les agents, usagers et citoyens ont pleinement confiance.

“IA et productivité” : les projets lauréats du secteur public dévoilés

Une confiance qui passe d’abord par la connaissance et plus particulièrement par une approche sectorielle. "L’IA au service de l’intérêt général, c’est une IA au service des humains et contrôlée par des humains, poursuit Christine Lavarde. C’est aussi une IA qui s’adapte à notre organisation administrative et à notre tradition juridique et qui garantit le respect des droits et libertés de chacun."

Pour la délégation, la mise en place de l’IA dans les services publics et plus particulièrement dans les collectivités ne sera efficace qu’à condition de maîtriser une multitude de risques. Au-delà des risques financiers et environnementaux, l’irruption de l’intelligence artificielle présente un risque de déshumanisation des services qui peut avoir de lourdes conséquences en matière de gestion RH et de gestion des compétences. Le rapport insiste notamment sur le fait que les performances de l’intelligence artificielle incitent à faire faire par des machines un nombre croissant de tâches au contact avec le public et plus seulement des tâches spécialisées de soutien et d’appui. "En remplaçant les échanges des usagers des administrations avec des personnes physiques par des échanges avec des robots conversationnels, on peut étendre les plages horaires d’ouverture des services, assurer un accueil en masse sans délai d’attente et parfois même apporter des réponses plus documentées et plus pertinentes que ne pourrait le faire une personne physique", analysent les sénateurs.

Un risque d’effacement des agents

Pour autant, les expérimentations montrent que l’utilisation de l’IA avec des outils de types chatbots automatise la relation en captant moins bien les informations fines qui se déduisent du comportement, de l’intonation et d’autres aspects mis en évidence dans un échange entre êtres humains. Et de la même manière, l’IA peut aussi passer à côté des spécificités territoriales, et perdre en performance par rapport à ce que saurait faire un opérateur humain. Aussi, les chabots, comme ils peuvent être utilisés dans les grandes administrations et dans les collectivités, se révèlent de plus en plus performants, mais peuvent aussi avoir tendance à apporter des réponses préformatées ne prenant pas en compte les spécificités individuelles. "De nombreux tests ont conduit à une déshumanisation de la relation de l’usager avec l’administration lorsqu’on remplace des agents d’accueil qui assuraient auparavant le premier contact avec le public", poursuit le rapport.

L’IA générative “Albert” bientôt accessible à tous les agents publics

Une standardisation qui peut engendrer malentendus et frustrations chez les usagers, mais aussi du côté des agents, en proie à un certain effacement et qu’il faut nécessairement accompagner dans l’appréhension de ces nouvelles technologies et leur bonne utilisation. Car si l’IA peut dans certains cas être performante, elle peut aussi, selon les sénateurs, faire basculer d’une aide à la décision à une fonction décisionnelle automatisée. "De nombreuses études montrent que nous hésitons à remettre en cause les préconisations d’une machine lorsque celle-ci a montré dans le passé qu’elle avait raison, explique le rapport. Nous devenons de simples exécutants de décisions prises par l’IA." Un risque sur lequel il est aussi nécessaire de sensibiliser et préparer les agents.

acteurs publics : article publie le lundi 24 fevrier 2025 & Marie Malaterre

Partager cet article

Repost0