Les territoires et la révolution de l’IA

Dans un contexte de grande incertitude générale, impactant également l’administration publique, l’IA peut être perçue comme « une couche supplémentaire » d’incertitude. Cependant elle peut aussi être considérée comme un formidable levier de transformation au sein des territoires pour faire face aux grands défis de demain. Lors de la soirée du 25 juin qui s’est tenue chez Onepoint, nous avons mis un point d’honneur à accueillir un panel d’experts au niveau des villes, des Régions et des Communautés d’agglomération.

Ces acteurs sont venus partager leurs enjeux métiers et la façon dont ils appréhendent l’IA et l’IA générative à travers des projets innovants qu’ils pouvaient mener localement. Ils ont présenté aussi bien des expérimentations que des projets s’inscrivant dans une logique de déploiement à l’échelle avec deux thématiques principales : L’IA au service de la relation usagers et l’IA au service du pilotage de la ville durable de demain (optimisation des ressources, des infrastructures et appui aux politiques publiques). Avant d’aborder ces deux sujets clés, Jean-Gabriel Ganascia, dans sa Keynote d’introduction a rappelé l’importance d’intégrer une réflexion d’éthique tout au long des projets d’IA.

Keynote d’Introduction – Jean-Gabriel Ganascia : IA et Éthique

L’importance de l’éthique dans la mise en œuvre de projets d’IA :

Ingénieur et philosophe, expert en intelligence artificielle, Professeur à Sorbonne Université (LIP6), membre du CNPEN (Comité National Pilote d’Ethique du Numérique), Jean-Gabriel Ganascia a présidé le comité d’éthique du CNRS de 2016 à 2021 et est aujourd’hui Président de comité d’éthique de France Travail.

Plusieurs enseignements et défis d’adoption en matière d’IA :

Jean-Gabriel Ganascia a introduit le sujet de l’IA en soulignant que les intelligences artificielles sont des « objets socio-techniques », c’est-à-dire qu’ils doivent être intégrés dans le tissu social existant. Il a évoqué plusieurs grands défis liés à leur adoption :

La technologie doit se développer au plus près des usages. En effet, dès 2006, on cherche à comprendre pourquoi certaines technologies d’IA répondant correctement à une problématique ne fonctionnent pas. Le résultat c’est qu’elles ne s’adaptent pas suffisamment aux usages des utilisateurs. Un phénomène amplifié selon le professeur Ganascia par une tendance française à la verticalité : “on impose un outil en considérant qu’il sera forcément adopté”. Par exemple, une alerte nocturne concernant un vol matinal est mal adaptée aux besoins réels des utilisateurs.

Il y a une certaine nécessité à trouver de la valeur à toutes les échelles de transformation et ce défi est intimement lié à la confiance. Il faut alors se poser la question fondamentale de la valeur apportée par l’IA pour les salariés. Si elle est démontrée pour l’organisation, le salarié doit lui aussi percevoir cette valeur, de la même façon que l’utilisateur final. Il prend notamment l’exemple du secteur bancaire, où les solutions d’IA fonctionnent très bien mais n’ont jamais trouvé preneur à cause du manque de confiance des clients, et de la crainte importante des banquiers d’être remplacés.

L’existence de risques juridiques encore présents qui appellent à une certaine prudence. Jean-Gabriel Ganascia, cite l’exemple parlant d’Air Canada : un usager prend un billet pour des obsèques et demande une réduction – car le chatbot lui avait indiqué qu’il pourrait le faire sous 90 jours – or ce n’est pas exact et cela est dû à une erreur d’hallucination de l’IA. Cela engendre ensuite des poursuites judiciaires de la part de l’utilisateur, questionnant la notion de « responsabilité du chatbot » qui a pu être engagée. Ce risque d’hallucination pouvant entraîner des risques juridiques appelle donc à la prudence avec leurs usages.

Enfin, un défi éminemment éthique est celui de la diffusion d’informations potentiellement fallacieuses qui peut constituer un frein à l’adoption.

Lorsque « Ethique » et « Numérique » se rencontrent

Jean-Gabriel Ganascia rappelle que le terme « éthique » vient d’ethos, signifiant les mœurs, et est étroitement lié à la morale symbolisant les habitudes et les règles de vie partagées. De l’autre côté le numérique ne se rapporte pas à la tradition, il se rapport souvent à la rupture, créant même parfois de nouvelles « normes ». Jean-Gabriel Ganascia a évoqué la distinction entre éthique et normes, soulignant que ceux qui établissent les normes sont souvent partie prenante et peuvent donc avoir des intérêts propres.

(En)cadrer l’IA : par une méthodologie pratique

Pour encadrer l’IA, il a insisté sur l’importance de mettre en place une « méthodologie pratique » dans les projets. Des comités externes et éthiques pour poser des contraintes technologiques et s’assurer que les développements respectent les principes éthiques. Des comités techniques ayant pour rôle de décliner ces contraintes en spécifications techniques précises. Puis, des comités normatifs qui seraient responsables de la certification des technologies d’IA, garantissant qu’elles répondent aux standards établis. Enfin, le développement de comités de supervision pour vérifier qu’il n’y a pas de détournement des usages de l’IA, en surveillant l’application des technologies dans la pratique et en assurant la transparence et l’audibilité des systèmes.

Table ronde 1 : Impact de l’IA sur la relation usagers et enjeux éthiques

L’Expérimentation incrémentale pour la simplification et la personnalisation des services public, sans tomber dans l’écueil de la déshumanisation : Avec Bernard Giry, Directeur général adjoint Transformation Numérique de la Région Île-de-France, Grégoire de Lasteyrie, Maire de Palaiseau et Président de la communauté d’Agglomération Paris-Saclay et Jean-Paul Muller Directeur technique IA onepoint en tant que modérateur.

On le voit aujourd’hui, lors des premières expérimentations menées par le gouvernement, le déploiement de chatbot notamment pour France Service à travers la solution Albert peuvent avoir des résultats très impactant en termes de service rendu aux citoyens.

L’IA générative et la simplification administrative

Dans le cadre des 8 expérimentations d’IA lancées  par la Région Ile-de-France, les start-ups pionnières du territoire ont été invitées à proposer des cas d’usage pour moderniser le service public régional. Parmi ces expérimentations, six se concentrent sur le potentiel de l’IA générative au service de l’administration publique ainsi que la mesure du retour sur investissement (ROI) de ces projets.

Traduire le langage administratif en langage commun

Pour Bernard Giry, il y a aujourd’hui “un besoin fort de traduire le langage administratif en langage commun pour les usagers et l’IA générative permet cela”. Un exemple concret est la mise en place d’une interface pour connaître les aides dont le citoyen peut bénéficier au niveau régional. Ce projet, co-construit avec Lighton, atteint aujourd’hui un taux de réponses correctes de 98 %. La Région souligne que ce succès est dû notamment au développement d’une documentation verticale permettant d’obtenir des réponses intelligibles et fiables.

Bernard Giry cite également l’exemple de « Ma région, ma commune » où les fiches projets, leurs contenus, budgets et impacts sont rendus plus facilement accessibles à tous. Les modèles de langage (LLM) permettent de résumer ces fiches et d’analyser des rapports pour les rendre ainsi plus compréhensibles.

L’aide aux instructeurs des droits des sols

Grégoire de Lasteyrie a quant à lui mis en lumière un autre cas d’usage intéressant : l’aide aux instructeurs des droits des sols grâce à l’IA générative. Dans le cadre de l’urbanisme, cela permet aux agents de gagner du temps sur l’instruction des dossiers et d’identifier les non-conformités, apportant une réelle valeur ajoutée sur toute la chaîne de valeur, et ainsi d’incrémenter les plans locaux d’urbanisme (PLU). L’objectif final est de simplifier le processus pour donner un meilleur accès à l’information.

Un outil puissant pour apporter un suivi personnalisé aux citoyens

Grégoire de Lasteyrie a ajouté que l’IA peut également être un levier important pour personnaliser les réponses aux usagers. Pour lui, la question principale est de savoir “comment l’IA peut s’ajouter aux services publics actuels sans être perçue comme un outil de défiance”. Il rappelle l’attente forte d’un service personnalisé de la part des usagers, presque « sur-mesure ». L’IA permet de répondre à ce défi en facilitant le suivi des usagers, notamment par le biais de courriers personnalisés. Toutefois, il souligne la contrainte des ressources humaines, car certains agents ne savent pas utiliser ces technologies, voire y sont hostiles.

L’IA comme levier d’inclusion

Ce dernier souligne également que le service public doit « s’adresser à tous », tant aux adeptes du numérique qu’aux réfractaires. Il indique que, sur son territoire à Palaiseau, le plateau de Saclay concentre l’innovation et qu’il se doit d’être pionnier sur ces sujets.. La mairie incite ainsi les agents à expérimenter l’IA sur la base du volontariat, avec une expérimentation d’un an pour s’approprier ces usages et identifier des opportunités intéressantes. L’IA et le speech-to-text permettent aujourd’hui à une partie de la population, notamment ceux maîtrisant mal le français, de pouvoir envoyer des courriers simplement, devenant ainsi un levier d’inclusion.

Prévention de la déshumanisation et adaptation des agents

La crainte de la déshumanisation des services publics est un sujet de préoccupation. Le pôle transformation numérique de la Région Ile-de-France a proposé une approche itérative, “en ciblant les points de souffrance déjà connus” et en travaillant avec les directions volontaires. Actuellement, la Région est en train de mettre en place la troisième « semaine de l’IA », permettant aux 2000 agents du siège de s’acculturer. Grégoire de Lasteyrie insiste de son côté sur le fait que “l’IA doit être un outil facilitateur, non un substitut aux compétences humaines, pour éviter de fragiliser la relation entre l’usager et la collectivité”. L’IA doit être intégrée de manière à compléter, et non remplacer, les compétences humaines, permettant ainsi de redistribuer les postes libérés pour améliorer la qualité des services publics.

Éthique et transparence

“Il est crucial que lorsqu’on parle à une IA, on sache que l’on parle à une IA”. Bernard Giry expose que la transparence et l’audibilité sont nécessaires. Par ailleurs, la Région Ile-de-France a souhaité stimuler et cibler en priorité l’écosystème local dans le choix de ses solutions. Bien que la Région ne dispose pas de la capacité à entraîner une IA, elle peut faire fonctionner des LLM en cloud fermé pour répondre à ses besoins. Ils soulignent l’importance de développer des solutions éthiques, intégrées dès la conception.

Prise de parole, Nicolas Gaudemet, Chief AI Officer Onepoint : Tendances de l’IA générative

Tendances de l’évolution de l’IA générative :

Pause et moratoires : Nicolas Gaudemet a rappelé la tendance selon laquelle une pause ou des moratoires pourraient être nécessaires dans le développement de l’IA, soulignant ainsi les préoccupations éthiques et régulatoires croissantes autour de cette technologie évolutive.

Plateau des modèles actuels : Il a également mentionné qu’une deuxième tendance observée est le fait que les modèles d’IA actuels pourraient avoir atteint un plateau, ce qui nécessiterait une réévaluation des approches et des stratégies futures dans le domaine de l’intelligence artificielle.

Accélération et point de rupture : Enfin, il rappelle que d’un autre côté, il est aujourd’hui aussi envisagé une accélération significative, voire un point de rupture où les IA pourraient s’auto-entraîner, soulignant ainsi la dynamique rapide de l’évolution technologique.

Approche responsable de Onepoint :

Développement de Néo : Convaincu qu’il faut accompagner le changement, tout en inventant le futur avec des engagements les plus responsables possible, Onepoint a adopté une approche proactive en mettant en production Neo, il y a un an. Neo est désormais déployé chez plusieurs clients publics et privés, comme la Caisse des Dépôts (CdC) et la Française des Jeux (FdJ), se distinguant par ses paramètres de modération rigoureuse, la frugalité de ses modèles, et leur adaptation proportionnelle aux besoins spécifiques des utilisateurs, tout en étant hébergés dans des pays respectueux de l’environnement.

Difficultés dans le Secteur Public : Nicolas Gaudemet a reconnu les défis uniques auxquels est confronté le secteur public dans l’adoption de l’IA, à travers notamment le besoin d’une appropriation par les agents territoriaux de ces outils et la montée en compétence permettant une meilleure efficience opérationnelle et une amélioration du service public.

Souveraineté des données : Soulignant l’importance de la sécurité des données, il a noté que 20% des collaborateurs utilisent aujourd’hui des adresses professionnelles sur des plateformes comme GPT, ce qui expose les organisations au risque de fuites d’information. Pour lui, il est donc crucial de fournir des outils souverains pour garantir la confidentialité des données sensibles.

En conclusion, Nicolas Gaudemet a souligné l’importance d’embrasser l’évolution de l’IA générative de manière responsable et proactive. Onepoint, à travers l’initiative Neo et d’autres projets, démontre son engagement à développer une intelligence artificielle qui non seulement répond aux exigences présentes mais aussi prépare les organisations aux défis futurs, tout en plaçant la modération, la sécurité des données et la durabilité au cœur de ses efforts d’innovation technologique.

Table Ronde 2 : L’IA au service du pilotage de la ville pour une accélération des grands projets de territoires intelligents et durables

Avec Emilie Mothé, adjointe au Maire de Châlons-en-Champagne et Responsable des sujets Modernisation administrative, Smart City, Voirie, Stationnement, Philippe Sajhau, Directeur de la ville intelligente, de l’innovation et de la donnée, Ville de Noisy-le-Grand, Barbara Cuffini-Valero Direction de l’Investissement de la Banque des territoires – Département Transition Numérique (DITNUM), et Pascal Hoguet, Directeur de projet territoires intelligents et durables Onepoint en tant que modérateur

Une diversification des projets d’IA soutenus par la Banque des territoires

En introduction Barbara Cuffini-Valéro a évoqué que les panels de projets participants à l’AAP de la Banque des territoires « Démonstrateur d’IA frugale au service de la transition écologique” étaient de plus en plus variés ce qui montre que les collectivités s’emparent pleinement  du sujet. Il y a une diversité des cas d’usages avec des projets complexes notamment autour de la gestion de l’eau, de la protection de la biodiversité, et du mapping de sources de pollution. Il y a donc selon elle, un véritable souhait d’explorer et d’adresser une large gamme de thématiques s’inscrivant dans les champs de compétences de la Banque des territoires.

L’AAP dans sa dernière vague a aussi permis aux entreprises de s’associer au public dans le cadre de consortium pour expérimenter avec les territoires dans une logique de partenariat. On peut citer parmi les exemples évoqués un lauréat pour la gestion des fuites d’eau par captation sonore ou une société qui utilise l’IA pour détecter les îlots de chaleur et végétaliser la ville en collaboration avec le Grand Lyon notamment.

Ce sont des projets déjà très matures, en termes de démarche d’ouverture, en direction des usagers, mais aussi des agents, des élus, des entreprises pour faire fructifier leurs usages. Ce programme doté de 40M d’euros de financement, permet aujourd’hui à une communauté constituée de 25 lauréats de faciliter les discussions et le partage entre pairs.

Vision de territoire intelligent et durable « Connecte Châlons » :

Emilie Mothé a présenté le projet “Connecte Châlons” conçu sur une période de cinq ans en collaboration avec trois communes et l’agglomération. Ce projet vise à répondre aux défis locaux tels que la transition énergétique en développant un socle Système d’Information (SI) intégrant des services comme l’éclairage public, la vidéoprotection, la mobilité, les télécommunications et le stationnement. À terme, “Connecte Châlons” inclura également la gestion des déchets, de l’eau et de l’assainissement, avec un système de supervision avancé développé en collaboration avec onepoint (Provoly) ainsi qu’un centre de commandement. L’intégration de l’IA permettra de réaliser des signalements à travers du « speech to text » et la qualification automatique (nature, urgence, gravité). De plus, l’IA permettra aussi de développer la vidéo protection à travers notamment des LLM (ex: Wintics) basée sur du computer vision mis au service d’évènements « positifs » comme l’évaluation du nombre de participants lors d’un évènement en temps réel, témoin d’attractivité du territoire.

Noisy-le-Grand, territoire pionnier en termes d’IA :  de la réduction des consommations énergétiques des bâtiments à la prévision du développement des infrastructures scolaires

Noisy-le-Grand (70.000 habitants) a conçu progressivement sa stratégie de territoire intelligent et durable. Ce territoire est aujourd’hui reconnu comme pionnier en matière d’IA au service de la transition énergétique à travers notamment la mise en place de sa plateforme de données “RECITAL”. Ce projet est lauréat de l’AAP “Démonstrateur d’IA frugale au service de la transition énergétique des territoires » porté par  la Banque des territoires. L’objectif de Noisy le Grand est ambitieux : réduire ses consommations énergétiques de 20% dans les deux ans et de 50% d’ici à 2030. Aujourd’hui le territoire travaille à une clusterisation des 200 bâtiments de la ville avec l’’intégration d’une brique IA qui permettra de prioriser les interventions de rénovation. L’IA vient donc compléter et accélérer un grand projet de transformation du territoire.

Par ailleurs, la ville innove aussi en se basant sur l’IA pour prédire et anticiper le nombre d’élèves par quartier. Elle travaille notamment en partenariat avec le Cerema afin de récolter des données pertinentes et ainsi ajuster régulièrement ses politiques d’offre de classes.

IA frugale et position de la Banque des Territoires  :

La Banque des Territoires promeut une utilisation responsable et frugale de l’IA. La notion de frugalité est particulièrement importante depuis la deuxième vague de l’AAP qui soutient ces initiatives pour les territoires. Des outils comme « Green Algorithm » sont utilisés pour mesurer l’impact lié à l’utilisation de ces solutions. La Banque des territoires insiste également sur son approche axée sur la souveraineté et la montée en compétences dans l’utilisation de l’IA dans les projets territoriaux.

Accompagnement des agents et participation citoyenne :

Emilie Mothé a précisé qu’un aspect clés des projets de transformation territorial d’envergure comme « Connecte Châlons » réside dans l’accompagnement des agents dans l’adoption des nouvelles technologies et dans l’implication des citoyens au niveau local. Philippe Sajhau a indiqué qu’un des leviers de transformation de ces projets se situait dans la sélection d’équipes motivées et la co-construction avec les agents afin d’assurer une transition fluide vers ces nouveaux modèles. Il a précisé qu’il était également essentiel de gérer les préoccupations des agents concernant la charge de travail supplémentaire associée à l’IA et à la gestion des données. Parallèlement, Emilie Mothé a mentionné des initiatives comme Decidim qui peuvent faciliter l’engagement des citoyens dans le processus décisionnel renforçant ainsi la transparence et la responsabilité des projets territoriaux.

Synthèse

l’IA peut être un levier considérable pour transformer en profondeur les territoires, offrant des opportunités inédites pour améliorer la relation usagers et aider au pilotage des villes durables de demain. Lors de la soirée du 25 juin, les témoignages de différentes collectivités ont illustré l’impact positif de l’IA sur des projets concrets, allant de la simplification administrative avec l’IA générative en Ile de France à l’optimisation des ressources urbaines à Noisy-le-Grand, avec une nécessité d’accompagner ce changement et d’impliquer les acteurs locaux. L’importance d’intégrer et de renforcer la réflexion éthique à chaque étape des projets d’IA a clairement été mise en évidence lors de ces riches échanges, de même que celle d’un développement et d’une utilisation responsable de ces technologies.