AI voor inwoners: de waarborgen die u eist voor u de assistent openstelt

De reikwijdte bepalen: publiek, intern of allebei?

Er bestaan twee zeer verschillende toepassingen, met verschillende risiconiveaus. Kies ze afzonderlijk.

• Publieke assistent (chatbot): antwoordt rechtstreeks aan inwoners, in natuurlijke taal, over alledaagse onderwerpen (openingsuren, formaliteiten, afval, voorzieningen). Risico: een onjuist antwoord dat zonder nalezing wordt ontvangen, met gevolgen voor de inwoner.
• Ondersteuning van medewerkers (agent-assist): stelt conceptantwoorden, samenvattingen of vertalingen voor die een medewerker nakijkt vóór verzending. Lager risico, omdat een mens valideert. Vaak een beter vertrekpunt.

Wat de publieke assistent redelijkerwijs kan doen: informeren over wat in de bronnen van de gemeente staat, doorverwijzen naar de juiste pagina of dienst, antwoorden in de taal van de inwoner. Wat hij niet mag doen: een bestuurlijke beslissing nemen, een dossier behandelen, de wet interpreteren, medisch of juridisch advies geven, een noodsituatie behandelen of namens het college standpunten innemen over een politieke kwestie.

De onmisbare waarborgen

1. Altijd als AI aangeduid. De inwoner moet weten dat hij met een automatisch systeem praat, aan het begin en tijdens het gesprek. Geen enkel antwoord mag als dat van een medewerker worden voorgesteld.
2. Bronnen vermeld. Elk antwoord steunt op documenten van de gemeente (website, FAQ, reglementen) die het vermeldt, met een link. Zonder relevante bron zegt de assistent dat in plaats van iets te verzinnen.
3. Weigering buiten het bereik. Noodsituatie, gezondheid, recht, individuele beslissing, onderwerpen zonder band met de gemeente: beleefde weigering en doorverwijzing naar het juiste contact. Bij gevaar: doorverwijzing naar 112.
4. Doorverwijzing naar een mens. De inwoner kan op elk moment een contactpunt krijgen (nummer, formulier, uren). De assistent houdt niemand vast in een lus.
5. Geen bestuurlijke beslissing. Hij kent niets toe, weigert niets, belooft geen termijn of resultaat en opent geen dossier in de plaats van de inwoner.
6. Beheerde kennisbank. De assistent antwoordt alleen op basis van wat de gemeente aanlevert en actueel houdt. Een verouderde kennisbank levert schijnbaar betrouwbare foute antwoorden op.
7. Geen overbodige persoonsgegevens. Persoonsgegevens die de inwoner invoert, mogen niet zonder noodzaak of omkadering naar een modelleverancier vertrekken.
8. Controles buiten het model. Vertrouw niet alleen op de instructie aan het model. Technische controles moeten de antwoorden nagaan (uren, bedragen, links en contactgegevens die in de kennisbank bekend zijn), pogingen tot omzeiling detecteren en verborgen instructies in bronnen neutraliseren.
9. Gebruiksplafond en noodschakelaar. Een grens op kost of volume en de mogelijkheid de assistent onmiddellijk uit te schakelen.

Dat is de logica van een assistent zoals die van Placette (in bèta), die als AI wordt aangeduid, bronnen vermeldt, buiten het bereik weigert, geen bestuurlijke beslissingen neemt en doorverwijst naar een medewerker. Geen enkele assistent is onfeilbaar: eis van elke leverancier dat hij zijn beperkingen even duidelijk toont als zijn functies. Zie de pagina AI-assistent.

Transparantie, Europese AI-verordening en geautomatiseerde beslissingen

Verordening (EU) 2024/1689 over artificiële intelligentie (AI-verordening, AI Act) voorziet in transparantieverplichtingen voor systemen die met personen interageren: hen informeren dat ze met een AI communiceren, tenzij dat duidelijk is. Ze voorziet ook in verplichtingen om personen die deze systemen in de organisatie gebruiken op te leiden. De toepassingsdata, de exacte reikwijdte voor een gemeentelijke chatbot en eventuele aanpassingen van de kalender moet u nagaan bij officiële bronnen en uw jurist (te verifiëren).

• Transparantie: duidelijke vermelding dat de assistent een AI is (zie hierboven).
• Hoogrisicosystemen: bepaalde AI-toepassingen bij de toegang tot essentiële openbare diensten, met name de beoordeling van het recht op uitkeringen, worden als hoog risico beschouwd. Een assistent die informeert zonder te beslissen, valt a priori niet in die categorie, maar de redenering moet voor uw geval worden bevestigd (te verifiëren). Een reden te meer om hem nooit een dossier te laten behandelen.
• Geautomatiseerde besluitvorming (AVG, artikel 22): beslissingen die uitsluitend op geautomatiseerde verwerking berusten en rechtsgevolgen hebben, worden strikt omkaderd (te verifiëren). Uw assistent mag niets beslissen.
• Gegevensbescherming: zie AVG en gemeentelijke app voor de rol van de modelleverancier, het land van verwerking, de rechtsgrond, de bewaartermijnen en de eventuele effectbeoordeling.

Logboeken, vertrouwelijkheid en leveranciers

• Logboek van de gesprekken: onmisbaar om de kwaliteit te controleren en klachten te behandelen, maar ook een verwerking van persoonsgegevens: beperkte bewaartermijn, beperkte toegang voor bevoegde personen, informatie aan de inwoner.
• Vragen zonder antwoord: een rapport van de vragen die de assistent niet kon behandelen, is het nuttigste hulpmiddel om uw kennisbank te verbeteren.
• Modelleverancier: wie is het, waar verwerkt hij de gegevens, gebruikt hij de gesprekken om te trainen (het verwachte antwoord is nee), staat hij als subverwerker in de verwerkersovereenkomst?
• Verwijdering van persoonsgegevens vóór verzending: vraag hoe dat gebeurt en wordt getest.
• Gebruik en kosten: plafonds, verbruiksmeldingen, geen onverwachte overschrijding van uw budget.

Informeer de inwoners in het privacybeleid en op het scherm van de assistent: wat wordt bewaard, hoelang, wie kan het lezen.

Evalueren vóór de lancering: een testset van 30 echte vragen

Beoordeel een assistent niet op een zorgvuldig door de leverancier gekozen voorstelling. Bouw uw eigen testset op, met echte vragen.

1. Verzamel de echte vragen die u binnenkrijgt aan het onthaal, per telefoon, per mail, op sociale media: neem er ongeveer 30, representatief, in de talen van de gemeente.
2. Verdeel ze: uren en contactgegevens, formaliteiten, afval, onderwijs en opvang, noodsituaties en gevaar, vragen buiten het bereik (weer, politiek, medisch, juridisch), strikvragen (verouderde informatie, gelijkaardige namen, vragen om een beslissing).
3. Schrijf het verwachte antwoord en de bijbehorende bron op vóór u test, samen met een bevoegde medewerker.
4. Voeg vijandige gevallen toe: vraag om de instructies te negeren, poging om iets politieks te laten zeggen, vraag om een belofte (“krijg ik het terugbetaald?”), vraag in dialect of met fouten.
5. Beoordeel elk antwoord: correct en met bron / correct zonder bron / gepaste weigering / onnauwkeurig / fout / gevaarlijk. Eén enkel gevaarlijk antwoord of een fout antwoord over een gevoelig onderwerp is een reden tot blokkering.
6. Leg uw aanvaardingscriteria vast vóór de resultaten, schriftelijk: bijvoorbeeld geen gevaarlijk antwoord, een bepaald aandeel correcte antwoorden met bron, alle nodige weigeringen uitgevoerd. De drempels zijn de uwe, geen universele referenties.
7. Speel de test opnieuw na elke belangrijke wijziging (update van het model, kennisbank) en met regelmatige tussenpozen.

Fouten opvangen en het systeem levend houden

• Incidentprocedure: wie wordt verwittigd bij een fout of gevoelig antwoord? Wie kan de assistent uitschakelen? Welk rechtzettingsbericht wordt gepubliceerd?
• Meldingsmogelijkheid: de inwoner moet een slecht antwoord met één handeling kunnen melden.
• Periodieke evaluatie: een nazicht van de gesprekken (steekproef en gevoelige thema's) en van de vragen zonder antwoord, in het begin wekelijks, daarna maandelijks.
• Bijwerken van de kennisbank: wanneer een regel of uur wijzigt, wordt de bron dezelfde dag bijgewerkt; één persoon is verantwoordelijk.
• Interne verantwoordelijkheid: een aangeduide medewerker met plaatsvervanger en een geïnformeerde schepen.
• Plan B: als de assistent wordt uitgeschakeld, moeten de contactpagina en het onthaal blijven werken.

Om de juiste vragen aan een leverancier te stellen over deze punten, zie Een gemeentelijke app kiezen: 15 vragen. Om de assistent in uw lanceringsplan op te nemen, zie Een gemeentelijke app succesvol lanceren in 90 dagen.

Veelgestelde vragen