Définir le périmètre : public, interne, ou les deux ?
Il existe deux usages très différents, avec des niveaux de risque différents. Choisissez-les séparément.
- Assistant public (chatbot) : répond directement aux habitants, en langage naturel, sur des sujets de la vie courante (horaires, démarches, déchets, équipements). Risque : réponse inexacte reçue sans relecture, avec des conséquences sur l'habitant.
- Aide aux agents (agent-assist) : propose des brouillons de réponses, des résumés ou des traductions qu'un agent relit avant envoi. Risque plus faible, car un humain valide. Souvent un meilleur point de départ.
Ce que l'assistant public peut raisonnablement faire : renseigner sur les informations contenues dans les sources de la commune, orienter vers la bonne page ou le bon service, répondre dans la langue de l'habitant. Ce qu'il ne doit pas faire : prendre une décision administrative, instruire un dossier, interpréter la loi, donner un avis médical ou juridique, traiter une urgence, ou s'exprimer au nom du collège sur une question politique.
Les garde-fous indispensables
- Toujours identifié comme IA. L'habitant doit savoir qu'il parle à un système automatique, au début et pendant l'échange. Aucune réponse ne doit être présentée comme celle d'un agent.
- Sources citées. Chaque réponse s'appuie sur des documents de la commune (site, FAQ, règlements) qu'elle cite, avec un lien. Sans source pertinente, l'assistant le dit au lieu d'inventer.
- Refus hors périmètre. Urgence, santé, droit, décision individuelle, sujets sans rapport avec la commune : refus poli et renvoi vers le bon contact. En cas de danger, renvoi vers le 112.
- Escalade humaine. À tout moment, l'habitant peut obtenir un contact (numéro, formulaire, horaires). L'assistant ne retient jamais quelqu'un dans une boucle.
- Aucune décision administrative. Il n'attribue rien, ne refuse rien, ne promet aucun délai ni résultat, ne crée aucun dossier à la place de l'habitant.
- Base de connaissances maîtrisée. L'assistant ne répond qu'à partir de ce que la commune fournit et tient à jour. Une base obsolète produit des réponses fausses fiables en apparence.
- Pas de données personnelles inutiles. Les données personnelles saisies par l'habitant ne doivent pas partir vers un fournisseur de modèle sans nécessité ni encadrement.
- Contrôles hors du modèle. Ne vous fiez pas à la seule consigne donnée au modèle. Des contrôles techniques doivent vérifier les réponses (horaires, montants, liens et coordonnées connus de la base), détecter les tentatives de contournement et neutraliser des instructions cachées dans les sources.
- Plafond d'usage et interrupteur. Limite de coût ou de volume et possibilité de désactiver l'assistant immédiatement.
C'est la logique d'un assistant comme celui de Placette (en bêta), qui est signalé comme IA, cite ses sources, refuse hors périmètre, ne prend pas de décision administrative et renvoie vers un agent. Aucun assistant n'est infaillible : exigez de tout fournisseur qu'il présente ses limites autant que ses fonctions. Voir la page Assistant IA.
Transparence, règlement européen sur l'IA et décisions automatisées
Le règlement (UE) 2024/1689 sur l'intelligence artificielle (AI Act) prévoit des obligations de transparence pour les systèmes qui interagissent avec des personnes : informer qu'elles échangent avec une IA, sauf si cela est évident. Il prévoit aussi des obligations de formation des personnes qui utilisent ces systèmes dans l'organisation. Les dates d'application, la portée exacte pour un chatbot communal et les éventuels aménagements de calendrier sont à vérifier auprès de sources officielles et de votre juriste (à vérifier).
- Transparence : mention claire que l'assistant est une IA (voir ci-dessus).
- Systèmes à haut risque : certains usages d'IA dans l'accès aux services publics essentiels, notamment l'évaluation de l'éligibilité à des prestations, sont qualifiés à haut risque. Un assistant qui informe sans décider n'est a priori pas dans cette catégorie, mais le raisonnement est à confirmer pour votre cas (à vérifier). C'est une raison supplémentaire de ne jamais lui faire instruire un dossier.
- Décision automatisée (RGPD, article 22) : les décisions fondées exclusivement sur un traitement automatisé et produisant des effets juridiques sont encadrées de manière stricte (à vérifier). Votre assistant ne doit rien décider.
- Protection des données : voir RGPD et application citoyenne pour le rôle du fournisseur du modèle, le pays de traitement, la base légale, les durées de conservation et l'éventuelle analyse d'impact.
Journaux, confidentialité et fournisseurs
- Journal des échanges : indispensable pour contrôler la qualité et traiter les plaintes, mais c'est aussi un traitement de données personnelles : durée de conservation limitée, accès restreint aux personnes habilitées, information de l'habitant.
- Questions sans réponse : un rapport des questions que l'assistant n'a pas su traiter est l'outil le plus utile pour améliorer votre base de connaissances.
- Fournisseur du modèle : qui est-il, où traite-t-il les données, utilise-t-il les échanges pour s'entraîner (la réponse attendue est non), est-il listé comme sous-traitant ultérieur dans l'accord de sous-traitance ?
- Retrait des données personnelles avant envoi : demandez comment cela est fait et testé.
- Usage et coûts : plafonds, alertes de consommation, absence de dépassement imprévu sur votre budget.
Informez les habitants dans la politique de confidentialité et sur l'écran de l'assistant : ce qui est conservé, combien de temps, qui peut le lire.
Évaluer avant le lancement : un jeu de test de 30 questions réelles
Ne jugez pas un assistant sur une présentation soigneusement choisie par le fournisseur. Construisez votre propre jeu de test, à partir de vraies questions.
- Collectez les questions réelles reçues à l'accueil, par téléphone, par mail, sur les réseaux sociaux : prenez-en environ 30, représentatives, dans les langues de la commune.
- Répartissez-les : horaires et contacts, démarches, déchets, enseignement et accueil, urgences et danger, questions hors périmètre (météo, politique, médical, juridique), questions pièges (informations obsolètes, noms proches, demandes de décision).
- Écrivez la réponse attendue et la source correspondante, avant de tester, avec un agent compétent.
- Ajoutez des cas adverses : demande d'ignorer les consignes, tentative de faire dire quelque chose de politique, demande d'une promesse (« je serai remboursé ? »), question en dialecte ou avec fautes.
- Notez chaque réponse : correcte et sourcée / correcte sans source / refus approprié / imprécise / fausse / dangereuse. Une seule réponse dangereuse ou une réponse fausse sur un sujet sensible est un motif de blocage.
- Fixez vos critères d'acceptation avant les résultats, par écrit : par exemple aucune réponse dangereuse, un taux défini de réponses correctes et sourcées, tous les refus nécessaires effectués. Les seuils sont les vôtres, pas des références universelles.
- Rejouez le test après chaque changement important (mise à jour du modèle, base de connaissances) et à intervalles réguliers.
Gérer les échecs et faire vivre le dispositif
- Procédure d'incident : qui est prévenu en cas de réponse fausse ou sensible ? Qui peut couper l'assistant ? Quel message de correction est publié ?
- Voie de signalement : l'habitant doit pouvoir signaler une mauvaise réponse en un geste.
- Revue périodique : une revue des échanges (par échantillon et par thèmes sensibles) et des questions sans réponse, chaque semaine au début, puis chaque mois.
- Mise à jour de la base : quand une règle ou un horaire change, la source est mise à jour le jour même ; une personne est responsable.
- Responsabilité interne : un agent nommé, avec un suppléant, et un élu informé.
- Plan B : si l'assistant est coupé, la page de contact et le standard doivent continuer à fonctionner.
Pour poser les bonnes questions à un fournisseur sur ces points, voir Choisir une application communale : 15 questions. Pour intégrer l'assistant dans votre plan de lancement, voir Réussir le lancement en 90 jours.
Questions fréquentes
Un assistant IA peut-il répondre sans citer de source ?
Il vaut mieux qu'il s'abstienne. Sans source de la commune, il risque d'inventer. Exigez qu'il cite les documents qui fondent chaque réponse ou qu'il dise qu'il ne sait pas.
L'assistant peut-il traiter une demande administrative ?
Non. Il informe et oriente, il ne décide pas, n'instruit pas et ne promet rien. Les décisions restent prises par la commune.
Combien de temps faut-il pour tester un assistant ?
Plusieurs jours de travail pour construire un jeu d'environ 30 questions réelles et noter les réponses, avec des agents de terrain, avant tout lancement. Le test se refait ensuite après chaque changement important.
Ce guide est informatif et ne constitue pas un avis juridique. Les règles et les seuils évoluent : vérifiez-les auprès de votre service juridique, de votre délégué à la protection des données ou de l'autorité compétente.
