Christophe Vercellone (Min. Intérieur) : « MIrAI, ce sont des IA internes pour éviter la Shadow IA »

Pourquoi avez-vous créé une IAG au sein même du Ministère de l’Intérieur, MirAI ?

Il s’agit avant tout de faire gagner du temps aux agents. Aujourd’hui, la plupart des citoyens utilisent l’IA et il est impossible de l’interdire dans le cadre professionnel. Mais nous voulions évidemment éviter la dangereuse Shadow IA.

Je rappelle en effet que, vue la sensibilité des données que nous traitons, il y aurait un vrai danger à ce que les agents de Ministère utilisent des outils publics, même pour améliorer leur performance. Comme avec tout shadow IT, l’espoir des agents est dans un gain de performance et donc, quelque part, dans leur opinion, d’agir dans l’intérêt du service. Ce qui est évidemment faux.

Quels sont les usages prévus ?

La première fonctionnalité est l’agent conversationnel qui fonctionne avec un LLM standard. Nous n’avons pas cherché à entraîner un LLM mais nous recourons à du RAG pour que cet agent conversationnel donne des réponses aux agents humains dans le contexte du ministère. L’outil n’est pas ouvert au public (il n’est pas prévu qu’il le soit) mais peut être amené à répondre à une question posée par un administré à un agent qui, lui, va interroger l’IA et recevoir sa réponse. L’agent humain sert donc toujours d’intermédiaire et de filtre.

Ce choix est lié au fait que le taux d’échec (d’hallucination) n’est jamais nul. Il est donc indispensable qu’il y ait une validation humaine, que l’IA ne remplace jamais l’humain, car les agents humains sont porteurs de la responsabilité du ministère. Toute réponse donnée à un administré engage le ministère.

Un deuxième type d’usage est la transformation d’image en texte. C’est plus que de la simple OCR car, ici, l’outil est capable de comprendre la mise en page et de reconstruire un texte complet.

Assez souvent utilisée conjointement avec la précédente, nous avons une fonction de synthèse de document.

Enfin, l’outil le plus attendu est pour l’instant encore en accès limité. Il s’agit du compte-rendu de réunion à partir d’un enregistrement audio. La limitation d’usage actuelle est liée d’une part à la vérification de l’efficacité et de la fiabilité de l’outil, d’autre part à la charge en consommation de ressources que nous anticipons car, précisément, l’outil est très attendu. Nous avons beaucoup de réunions…

Nous réfléchissons à d’autres usages possibles de l’IA, par exemple une aide à la rédaction des e-mails.

Notre optique est toujours de travailler au profit de nos agents pour les aider au quotidien en s’appuyant sur un LLM standard, non-spécifiquement entraîné, par exemple Albert de la DINUM, mais toujours avec un hébergement interne pour garantir la sécurité de nos données. Il ne faut pas oublier que l’entraînement met autant en risque les données que l’usage par l’utilisateur final.

Quels usages réels par les agents du Ministère constatez-vous ?

C’est difficile à dire. Nous avons déjà partiellement gagné car nous avons constaté une nette baisse des accès aux outils publics. Nous avons choisi de ne pas les bloquer totalement parce que nous ne sommes pas dupes : si nous bloquons, les agents adopteront un contournement et nous n’aurions plus aucune visibilité sur ce qui est fait. Nous préférons suivre l’évolution des pratiques.

Nous avons notamment des difficultés à mesurer les bénéfices de l’agent conversationnel. Pour l’instant, nous faisons des enquêtes qualitatives mais un agent qui annonce gagner tant d’heures, en fait, n’en sait rien. L’agent conversationnel semble davantage utilisé pour l’aide à la rédaction que pour répondre à des questions.

L’outil pour la synthèse de texte est aussi très utilisé.

Et, comme je l’ai dit, le compte-rendu de réunion est le plus attendu selon nos remontées.

Quelle architecture technique avez-vous mise en place ?

Pour l’instant, nous avons hébergé une partie de l’outil, notre propre LLM en l’occurrence, sur une instance externe, chez Scaleway, pour, d’une part, aller vite et, d’autre part, apprendre à intégrer des GPU dans un Cloud mais tout en gardant une maîtrise totale. Les données, elles, sont hébergées sur un cloud SecNumCloud (Scaleway ne l’est pas encore) afin de ne jamais mettre en péril nos données.

Fin 2025, nous allons commencer à tout rapatrier sur notre propre Cloud, Pi, avec nos propres GPU qui seront alors intégrées. La mise en production de cette nouvelle architecture est prévue pour courant 2026. Cette nouvelle architecture sera aussi proposée avec une zone « diffusion restreinte » et l’outil pourra donc donc être utilisé dans des procédures judiciaires et des enquêtes.

Cela dit, sans qu’il y ait de liens avec MirAI, il existe déjà un outil de transcription des auditions de mineurs victimes (en particulier dans des affaires de pédocriminalité), Parole. Cet outil est sur une plateforme spécifique, intégré à l’outil de gestion des auditions. Pour les mineurs victimes, il n’y a qu’une seule audition, sans prise de note, entièrement filmée. Or la procédure pénale est écrite. Nous gagnons plusieurs jours par audition avec cet outil.

Quels sont les liens avec les autres initiatives publiques, notamment de la DINUM ?

Avec le Ministère de la Justice, nous avons des liens nombreux et nous leur mettons notamment à disposition des GPU. Nous partageons avec le cloud de Bercy, Nubo, nos travaux sur l’intégration des GPU dans le Cloud. D’une manière générale, nous essayons de partager au maximum nos expériences avec nos collègues mais certains ministères n’ont pas nos contraintes et ne voient pas l’intérêt de réinventer la roue : ils peuvent utiliser les outils publics.

Nous travaillons avec la DINUM sur Albert, notamment utilisé sur des preuves de concepts.

Quels accompagnements et formations mettez-vous en place pour vos agents ?

Nous sommes tout à fait conscients que c’est important d’accompagner les agents du ministère, à tous les niveaux. C’est l’évolution du numérique qui a le plus d’impact sur la relation humain-machine depuis l’origine de l’informatique. En effet, auparavant, on savait que ce qui sortait de la machine était vrai, basé sur des chiffres et sur des faits enregistrés. Si les données entrées étaient bonnes, ce qu’affichait l’ordinateur était bon. Les décideurs pouvaient donc prendre des décisions sur ce qui sortait de leur ordinateur qui pouvait être réputé juste et objectif.

Aujourd’hui, ce n’est plus forcément exact.

Nous avons déjà formé plus de cinq cents décideurs aux biais de l’IA et aux limites de l’intelligence artificielle. Et nous avons également formé les managers intermédiaires pour qu’ils sachent faire de l’IA un levier de performance.

Concernant l’ensemble des agents, nous nous sommes appuyés sur la plateforme Pix pour leur permettre d’évaluer leurs compétences en IA. Nous avons également mis en place des webinaires de formation ainsi que des « Cafés IA ». Nous avons formé des « ambassadeurs IA » pour qu’ils transmettent leurs compétences aux agents au cours de ces « Cafés IA » et récoltent les idées d’usages. Certains agents ont de très bonnes idées de ce qui pourrait être réalisé à leur niveau.

Enfin, quelles sont les prochaines étapes de l’IA au sein du Ministère ?

Tout d’abord, comme je l’ai dit, il y a le rapatriement technique.

Nous menons actuellement une centaine d’expérimentations de cas d’usages (par exemple sur la détection et la prédiction de feux de forêt).

Nous travaillons aussi à un projet pour améliorer la gestion des mails reçus de la part des citoyens, mais nous avons, à ce niveau, besoin d’un cadre juridique clair.