Opsci au côté d'Etalab pour le développement d'un "ChatGPT du service public"

Acteurs publics présente les initiatives annoncées par le Ministre de la transformation et de la fonction publique autour de l’implémentation des LLM dans les services publics : Un millier d'agents expérimentent un “ChatGPT du service public”.

Nous contribuons au développement d’Albert, un “copilote” de ServicesPublics+ : ce modèle, entraîné à partir de LLaMa-2, est capable de suggérer des réponses possibles aux questions des usagers en suivant le style de 40 000 réponses déjà disponibles et en s’appuyant sur 5 000 fiches de références. Et nous développons des méthodes expérimentales pour faciliter la co-écriture des textes à partir de sources de référence.

Nous nous réjouissons de l'implication d'Opsci auprès de la Direction interministérielle du numérique (DINUM) pour l’évaluation et l’entraînement des modèles de l’État. Et pour le travail qui a précédé, qui visait à identifier les meilleurs LLM en open source et les adapter aux besoins spécifiques des agents publics avec des méthodes de “fine-tuning” : nous avons initié l’élaboration d’un protocole d’évaluation des modèles pour les organisations qui va plus loin que les benchmarks généralistes, ajoutant des critères d’intégration aux infrastructures en accord avec les politiques de communication (incorporation de feuilles de style) et de protection des données personnelles, ainsi que de sobriété énergétique.

Nous sommes absolument convaincus que le LLM doit être être pensé non seulement comme un projet technique mais aussi organisationnel voire social, qui doit pouvoir s’intégrer de manière harmonieuse dans les environnements de travail. Nous en dirons bientôt plus sur Le bon LLM.

La mobilisation de la DINUM autour de l'implémentation de l'IA dans l'administration présente trois caractéristiques réjouissantes :

• Focus préalable sur les usages : il ne s'agit pas de développer pour développer, mais d'identifier des problèmes à résoudre, des frictions à réduire, des opportunités d'amélioration tangible d'un service, auxquelles on s'attache ensuite à trouver une réponse technique. On fait de l'IA mais on fait aussi de l'UX.
• Pragmatisme et opportunisme technologique : dans un LLM game hyper mouvant, Etalab s'attache à ne pas être "model-bounded" et à construire une infrastructure sur laquelle déployer une gamme de produits (modèles-agents) qui pourront utiliser différents LLM. On a travaillé sur Falcon, LLaMa, on travaille sur Mistral, et j'imagine que tout ça va encore bouger...
• Réalisme des projets : ils doivent faire leurs preuves vite pour être prolongés, on les teste même s'ils sont imparfaits puis on les améliore. Cela peut sembler naturel au monde de la tech, c'est original pour l'administration.

Les expérimentations vont se prolonger dans les mois à venir, avec d’autres modèles comme Falcon et Mistral AI, sur le terrain des techniques de réentrainement (RAG, RLHF…), et des usages, pour que le déploiement des solutions retenues soit un succès !