Big Tech: blinde vlek in het bestuursrecht?

Overheden leunen bij de ontwikkeling en inzet van geautomatiseerde systemen ten behoeve van hun eigen besluitvorming sterk op de expertise van private partijen. Zo maken veel gemeentes gebruik van de diensten van softwareleveranciers om de WOZ-waarde van woningen te bepalen. En die WOZ-waarde wordt weer gehanteerd bij het opleggen van verschillende belastingaanslagen.

Ook wanneer overheden gebruik maken van geautomatiseerde besluitvorming, zijn zij gebonden aan fundamentele rechtsnormen, zoals de grondrechten en de algemene beginselen van behoorlijk bestuur (motiveringsbeginsel, zorgvuldigheidsbeginsel, etcetera). Dat is de afgelopen jaren meerdere keren bevestigd, onder meer in de Syri-uitspraak en de AERIUS-jurisprudentie. Volgens de Raad van State moeten de algemene beginselen van behoorlijk bestuur in een geautomatiseerde context zelfs ‘verscherpt’ worden geïnterpreteerd (whatever that may be), juist om een ‘black box’ bij geautomatiseerde besluitvorming te voorkomen.

Grote afwezige in die bestuursrechtelijke rechtsontwikkeling is echter Big Tech. Hoe is dat mogelijk? Hoewel Big Tech zeker niet afwezig is binnen de overheid (integendeel; zij lijkt alom aanwezig), bestaat binnen het bestuursrecht vanouds een bijna tunnelvisie-achtige belangstelling voor (individuele) besluiten die door de overheid worden genomen. Maar juist bij die individuele besluiten verdwijnt Big Tech naar de achtergrond. Allereerst is een aantal concrete besluitvormingssystemen in-house ontwikkeld door de overheid zelf, zoals het systeem AERIUS voor het berekenen van de stikstofdepositie. Private partijen komen daarbij sowieso niet in beeld. En zelfs wanneer private partijen wel worden ingeschakeld, bijvoorbeeld om de WOZ-waarde van woningen te bepalen, hebben die partijen eerder het karakter van Small Tech dan van Big Tech.

Overheden zijn zich in toenemende mate bewust, al dan niet hiertoe aangespoord door de rechter, van de noodzaak om ook wanneer zij leunen op de expertise (en software) van private partijen, te waarborgen dat de algemene beginselen van behoorlijk bestuur worden nageleefd. Zo heeft de gemeente Amsterdam contractvoorwaarden voor algoritmen ontwikkeld, waarmee met private partijen afspraken kunnen worden gemaakt over de transparantie en uitlegbaarheid van algoritmen. Met Small Tech zal de overheid die afspraken wellicht nog wel kunnen maken, maar kan de overheid ook haar rug recht houden als zij met Big Tech om tafel gaat? Worden de algemene beginselen van behoorlijk bestuur ook dan verscherpt geïnterpreteerd of kan Big Tech de interpretatie van die ‘vage’ beginselen eenvoudig naar haar hand zetten? In de confrontatie met Big Tech zal moeten blijken of de algemene beginselen van behoorlijk bestuur inderdaad in staat zijn om grenzen te stellen aan ‘onbehoorlijk’ geautomatiseerd bestuur.