Generatieve AI bij de Rijksoverheid: koers, kansen en kaders

Allereerst lichtte Yannick God, coördinator AI en Algoritmen bij CIO Rijk, het overheidsbrede standpunt op het gebied van genAI toe: “Sinds 2023 neemt de Rijksoverheid een voorlopig standpunt in. Begin 2024 hebben we een overheidsbrede visie gelanceerd. In dat jaar hebben we bovendien veel pilots en experimenten bij overheden gedaan. Op basis daarvan hebben we ons standpunt doorontwikkeld. Daarbij is er ruimte voor innovatie en aandacht voor de kansen die de technologie biedt. Sinds begin dit jaar vindt er intensieve afstemming plaats over dit overheidsbrede standpunt.”

Overheidsbreed standpunt: wat is dat?

De vraag is natuurlijk wat dit overheidsbrede standpunt is, vervolgde God: ”Jullie hebben een primeur, want het standpunt is nog niet officieel naar buiten gebracht.” Vervolgens somde God de belangrijkste voorwaarden op die gelden voor alle overheidsinstanties die genAI inkopen, ontwikkelen en/of gebruiken. “De inzet van genAI voldoet aan bestaande wet- en regelgeving, het doel van de inzet is helder en transparant geformuleerd en er is een risicoanalyse uitgevoerd. Verder zijn noodzaak en proportionaliteit onderbouwd. Welk probleem wordt er bijvoorbeeld opgelost dat niet op een andere manier kan worden opgelost? Zijn de randvoorwaarden, zoals AI-geletterdheid en governance op orde? Is er een exit-strategie beschikbaar om bij problemen te kunnen stoppen met genAI, zodat de veiligheid is geborgd? De inzet van genAI moet voorts passen binnen en aansluiten op relevante beleidscontext. Ten slotte is genAI niet toegestaan onder consumentenvoorwaarden, zoals ChatGPT via een browser.”

Per pilot een goede afweging

Eén van de aanwezigen vroeg hoe hard het overheidsbrede standpunt is, bijvoorbeeld bij een pilot. “Sowieso moet een pilot voldoen aan wet- en regelgeving en moet er een risicoanalyse worden uitgevoerd”, zei God. “Maar overigens is dit afhankelijk van de context en de inzet. We moeten niet generiek maar pragmatisch naar een pilot kijken en een goede afweging maken tussen enerzijds de businesswaarde en anderzijds de risico’s.”

DefGPT: de AI-chatbot van Defensie

Vervolgens kwam Sofie Berns, afdelingshoofd DATA bij het ministerie van Defensie aan het woord: “Onze afdeling stelt tools, standaarden en een veilig en beheerd platform beschikbaar en vertaalt veelbelovende innovaties naar concrete resultaten. Onze AI-chatbot DefGPT is zo’n resultaat: een intern alternatief voor populaire AI-diensten als ChatGPT, waarmee onze medewerkers sinds november 2024 op basis van enorme hoeveelheden data complexe taaltaken kunnen uitvoeren. DefGPT is specifiek getraind op defensie-informatie en -taken.”

Gevoelige informatie

Voorheen werd ChatGPT bij Defensie duizenden malen per dag gebruikt, schat Berns in: “Dat brengt grote risico’s met zich mee. Gevoelige informatie kan op straat komen te liggen. Daarmee geef je je tegenstander een informatievoorsprong. In deze tijden van geopolitieke spanningen houdt onze bedrijfsvoering rekening met dreiging en wegen we risico’s op een andere manier af. Een gesloten, veilige omgeving als DefGPT is daarbij cruciaal.”

Mens en machine versterken elkaar

Het ministerie van Justitie en Veiligheid (JenV) heeft een vergelijkbare interne “AI-assistent” met de roepnaam Robin. “Met dit alternatief voor ChatGPT willen we volledig veilig, betrouwbaar en in control zijn”, zegt projectleider Joost de Haan. Hij benadrukt dat mens en machine elkaar niet vervangen, maar elkaar juist versterken. Bij de ontwikkeling van Robin werkt JenV samen met partners, zoals de Immigratie- en Naturalisatiedienst (IND) en het Centraal Justitieel Incassobureau (CJIB). Het mooie van Robin is volgens De Haan dat je bestanden kunt uploaden en op basis daarvan de machine kunt bevragen. En er is meer. “We vatten specifieke kennis in speciale tools, zogenoemde chatbot plugins. Doordat Robin deze plugins kan gebruiken voegen we extra functionaliteit aan de machine toe.”

Kritieke succesfactoren

Voor de ontwikkeling van Robin noemt De Haan 5 kritieke succesfactoren: “Ten 1e hebben we onze eigen ICT-infrastructuur en de JenV Trusted Cloud. Die ondersteunen ons ministerie bij de flexibele, veilige en efficiënte inzet van ICT-middelen en voldoen volledig aan onze strikte beveiligings- en compliance-eisen. Ten 2e werken we in multidisciplinaire teams met zowel technici als niet-technici. Ten 3e hebben we een gezamenlijk doel, namelijk een multi-inzetbare applicatie. De 4e succesfactor is focus: we vragen per persoon een beschikbaarheid van drie dagen per week. Ten slotte richten we bij de productie onze DevOps-processen meteen in en zorgen we ervoor dat onze bouwers en beheerders samenwerken via één gestroomlijnd proces.”