Een Haagse ‘AI-gate’? Tijd voor een fundamenteel debat

Recent meldde de Volkskrant dat een groot aantal berichten op sociale media onder naam van minister-president Jetten met behulp van of door kunstmatige intelligentie is geschreven. Kort daarna berichtte Nieuwsuur dat toespraken van minister van Defensie Yesilgöz-Zegerius en staatssecretaris Boswijk ‘oververtegenwoordigd [waren] in het aantal speeches waarin AI werd gebruikt’. Vervolgens kwam daar het nieuws bij dat ook door de volksvertegenwoordiging AI volop wordt gebruikt. De NOS schreef: ‘Een kwart van de ingediende documenten met Kamervragen is in ieder geval deels geschreven door AI.’ De media hebben de teksten gecontroleerd met behulp van een AI-detectieprogramma. Hoewel valspositieve uitslagen kunnen voorkomen, en zeker bij kleinere teksten daarom voorzichtigheid geboden blijft, lijkt het wel mogelijk om met deze methode AI-gebruik op grotere schaal te signaleren.

Nu deze nieuwsberichten vlak voor Prinsjesdag werden uitgebracht, lag het voor de hand dat ze ook in de Algemene Politieke Beschouwingen aan bod zouden komen. Terwijl AI en de gevolgen daarvan voor de economie voorwerp van gesprek waren, werd het AI-gebruik bij berichten van de premier slechts zijdelings genoemd. Soms hintten Kamerleden op het nieuws. Zo had Stoffer (SGP) in een interruptiedebat met Paternotte (D66) ‘met behulp van AI een paar citaatjes naar boven gehaald’, en probeerde later Markuszower (Groep Markuszower) in een debat met Brekelmans (VVD) een beeld van nauwe betrokkenheid van de laatste bij de totstandkoming van de begroting te schetsen door AI de data van begrotingsoverleggen te laten reproduceren.

Over het gebruik van AI bij het stellen van Kamervragen is tijdens de Algemene Politieke Beschouwingen niet gesproken. Het is evenwel te hopen dat dit alsnog zal worden geagendeerd. Een bredere doordenking van het gebruik van AI in en door de volksvertegenwoordiging is namelijk onontbeerlijk en had eerlijk gezegd reeds plaats moeten hebben gevonden. In België loopt de discussie hierover momenteel wel. In het eerdergenoemde NOS-bericht wordt aan het einde door een geïnterviewde de vraag gesteld: ‘Als straks ook nog de antwoorden op Kamervragen met AI worden geformuleerd, kun je je afvragen: wie communiceert er nou met wie?’

AI in het parlementaire proces

‘Straks’ lijkt echter nu te zijn. In de Overheidsbrede Monitor Generatieve AI wordt beschreven dat generatieve AI mede ‘wordt ingezet ter bevordering van het democratisch proces’. In de monitor worden daarbij als voorbeelden genoemd: ‘ondersteuning bij verslaglegging bij vergaderingen van de gemeenteraad of bij het ondersteunen van ambtenaren bij het beantwoorden van Kamervragen.’

Bewindspersonen zetten AI in bij de beantwoording van Kamervragen. Binnen de centrale overheid kan gebruik worden gemaakt van een AI-assistent die helpt bij het verzamelen van data en informatie die relevant zijn voor de beantwoording van Kamervragen, zo valt te lezen op het Platform AI & Overheid. In een ander artikel op deze website wordt meer uitleg gegeven over de werking van de assistent. Die helpt niet alleen bij het zoeken van bronnen maar ook met het genereren van teksten: ‘Vervolgens is het de vraag welke feitelijke antwoorden als suggesties aan de gebruiker kunnen worden voorgelegd. Uiteindelijk beoordeelt de beleidsmedewerker de door de AI-assistent aangereikte teksten en gebruikt die als input voor de definitieve beantwoording. Al die input refereert naar de oorspronkelijke teksten. Honderd procent verifieerbaar dus.’

Kamerleden en bewindspersonen gebruiken dus door AI aangereikte teksten als input voor vragen en de beantwoording daarvan. Een student die dat in een scriptie doet zal dat doorgaans moeten vermelden en verantwoorden, wil er sprake zijn van verifieerbaar gebruik. Toch vinden we een disclaimer als ‘Deze vragen zijn mede gemaakt of voorbereid met behulp van AI’ of ‘Voor de beantwoording van deze vragen is gebruik gemaakt van AI’ nog niet terug in de Kamerstukken.

AI is allang het democratisch proces binnengekomen. Of dat is ‘ter bevordering’ van dat proces vraagt om een fundamentele discussie, die had moeten worden gevoerd voorafgaand aan de introductie van AI. In reacties op het gebruik van generatieve AI voor publieke uitingen door politici ging het al over de relatie tussen kiezer en gekozene, over het belang van authenticiteit en transparantie wanneer voor het schrijven van teksten AI is gebruikt. Toegegeven: voorheen werden ook lang niet alle toespraken en speeches door politici zelf geschreven, maar mede door ambtenaren, assistenten of spindoctors. Maar met het verdwijnen van ‘de menselijke factor’ lijkt de vertrouwensrelatie onder druk komen te staan. In de Overheidsbrede handreiking voor de verantwoorde inzet van generatieve AI wordt dit risico overigens ook onderkend:

‘Overheidsorganisaties hebben de verantwoordelijkheid om de burger van betrouwbare informatie te voorzien. Wanneer generatieve AI bij dit proces wordt ingezet, kan dit negatieve gevolgen hebben voor de geloofwaardigheid en reputatie van de overheid. Een generatieve AI-systeem weegt niet de betrouwbaarheid van informatie mee bij het beantwoorden van een prompt. Dit schaadt mogelijk het vertrouwen van burgers. Dit risico bestaat ook als er transparant wordt gecommuniceerd over het gebruik van generatieve AI-toepassingen, aangezien men de informatie mogelijk met een kritischere blik tot zich neemt.’

Het parlement aan zet

Het gebruik van AI in parlementaire controle vraagt om een verdieping van deze discussie. Welke rol kan en mag AI spelen bij het controleren van de regering, bij het voorbereiden van wetgeving of bij het voeren van debatten? En hoe transparant moet dat gebruik zijn? Is het nemen van de politieke verantwoordelijkheid voldoende, en zou vermelding dan achterwege kunnen blijven?

Meijer en Kars hebben eerder dit jaar in een publicatie van de Zuidelijke Rekenkamer de plek van AI in de volksvertegenwoordiging verkend. In hun lezenswaardige essay bespreken zij vier rollen voor AI: die van passieve ondersteuner, actieve ondersteuner, fractiemedewerker of zelfs van volksvertegenwoordiger zelf. Daarbij noemen ze voor elke rol voorbeelden uit de huidige praktijk; AI wordt immers al volop door de overheid en volksvertegenwoordiging gebruikt. Ook op decentraal niveau: gemeenteraden in Zwolle, Castricum, Haarlem en elders hebben al richtlijnen vastgesteld voor het gebruik van AI door raadsleden. Een stap in de goede richting; daar wordt het debat over het gebruik van AI door en in de volksvertegenwoordiging dus in ieder geval gevoerd. Al valt meteen op dat iedere gemeente een eigen aanpak kiest. Deze praktijk en ontwikkelingen roepen vragen op die ook door de Staten-Generaal moeten worden gewogen. Meijer en Kars roepen in hun essay op tot die weging: ‘Het is van belang dat de volksvertegenwoordiging actief met deze vragen aan de slag gaat door te experimenteren maar ook door te reflecteren op de wenselijkheid en onwenselijkheid van bepaalde ontwikkelingen.’

En daar is dus haast bij. AI wordt gebruikt in het parlementaire debat, op sociale media, bij het opstellen van Kamervragen en bij de beantwoording daarvan, en allicht nog meer. De precieze rol daarvan in het parlementaire proces is nu onduidelijk. Er is geen centrale AI-infrastructuur voor de Staten-Generaal, zoals nu in een bepaalde vorm wordt opgetuigd voor het Europees Parlement, en er zijn geen regels over hoe het gebruik daarvan door volksvertegenwoordigers moet worden vermeld en verantwoord. Dit staat nog los van wezenlijke vragen over privacy, mogelijke vooringenomenheid van taalmodellen en digitale afhankelijkheid van niet-Nederlandse of niet-Europese partijen. Zolang de grenzen niet zijn bepaald, blijft de onduidelijkheid bestaan – met alle mogelijke gevolgen voor het vertrouwen in de volksvertegenwoordiging en het parlementair proces.

Aanknopingspunten zijn er genoeg. Naast het essay van Meijer en Kars zijn er bijvoorbeeld al richtlijnen ontwikkeld door de Interparlementaire Unie (IPU), gericht op het gebruik van AI door en in het parlement en de manieren om hier beleid op te voeren. Specifiek voor de parlementaire context gelden daarbij volgens de IPU onder meer als aandachtspunten:

‘Perhaps most fundamentally, parliaments must balance the pursuit of efficiency through AI with the preservation of core democratic values. While AI can enhance many aspects of parliamentary work, it is crucial that it is used to augment – not replace – the essential human elements of democratic representation and decision-making.

The adoption of AI in parliaments has direct implications for legislative processes. There is the potential for AI to significantly alter how debates are conducted and how legislation is drafted. While AI can provide valuable insights and efficiencies, it is essential to maintain human oversight in any move towards AI-assisted lawmaking. The nuanced and often politically sensitive work of parliaments requires a level of judgement and ethical consideration that current AI systems cannot replicate.’

Dit slaat de spijker op de kop. Het debat hierover kan niet snel genoeg beginnen.