Onderzoeksprotocol

Inleiding

De Zuidelijke Rekenkamer is in 2005 ingesteld door Provinciale Staten van Noord-Brabant en Limburg.
De rekenkamer is onafhankelijk en vindt haar wettelijke basis in de Provinciewet. De rekenkamer oefent de taken en bevoegdheden uit die haar op grond van de Provinciewet en daarop gebaseerde gemeenschappelijke regeling zijn toegekend. In dat kader onderzoekt zij de doeltreffendheid, doelmatigheid en de rechtmatigheid van het provinciebestuur van de provincies Noord-Brabant en Limburg. De rekenkamer wil daarmee een bijdrage leveren aan de kwaliteit en het lerend vermogen van het provinciaal bestuur.

Dit onderzoeksprotocol beschrijft de richtlijnen die de rekenkamer hanteert bij de inrichting en uitvoering van haar onderzoek. Het doel van dit protocol is om de kwaliteit van de onderzoeken van de rekenkamer te waarborgen en te zorgen voor een goed verloop van het onderzoeksproces. Daarnaast wil de rekenkamer met dit protocol inzicht bieden in de werkwijze van de rekenkamer en helderheid verschaffen over de wijze waarop de rekenkamer haar taken uitoefent.

De rekenkamer heeft dit onderzoeksprotocol vastgesteld op 6 juli 2020. Het betreft een actualisering van het onderzoeksprotocol van 29 november 2011. De belangrijkste wijzigingen hebben betrekking op:

  • een consistent gebruik van termen in overeenstemming met andere publicaties die betrekking hebben op het werk van de rekenkamer, zoals het werkprogramma en de strategische agenda 2017-2022;
  • een consistent gebruik van termen in overeenstemming met de geactualiseerde Gemeenschappelijke Regeling Zuidelijke Rekenkamer Noord-Brabant en Limburg 2020;
  • het aanvullen van een aantal mogelijkheden met betrekking tot de bestuurlijke afstemming met betrokken gedeputeerden;
  • het toevoegen van een passage over de waarborging van een zorgvuldig gegevensbeheer, conform de vereisten van de Algemene verordening gegevensbescherming (AVG).
    het toevoegen van een stroomschema over het onderzoeksproces, voor de overzichtelijkheid en toegankelijkheid van het onderzoeksprotocol.

Onderzoeksproces

In onderstaande figuur worden de standaard stappen in de uitvoering van onderzoek door de Zuidelijke Rekenkamer weergegeven. De inhoud van de stappen worden vervolgens is aparte sub paragrafen toegelicht, waarvan de nummering overeenkomt met de nummering in de overzichtsfiguur.

Onderwerpselectie

De rekenkamer heeft een onafhankelijke positie. Dit betekent dat de rekenkamer zelf bepaalt welke onderwerpen worden onderzocht en hoe het onderzoek wordt ingericht. De rekenkamer stelt elk jaar vóór 1 november, zoveel mogelijk vanuit een meerjarenperspectief, een werkprogramma voor het volgende kalenderjaar vast. Voor het opstellen van het werkprogramma bestudeert en volgt de rekenkamer ontwikkelingen in het provinciale bestuur (monitoring). In aanvulling daarop kan zij vooronderzoeken/verkenningen uitvoeren naar beleidsthema’s/onderwerpen, om de wenselijkheid en/of focus van nader onderzoek of vervolgonderzoek vast te stellen. Met vervolgonderzoek gaat de rekenkamer voor een door haar in het verleden uitgevoerd onderzoek, na wat de stand van zaken is en in hoeverre Gedeputeerde Staten hun toezeggingen zijn nagekomen.

Er is een Programmaraad voor de rekenkamer, waarin vier leden van Provinciale Staten, van wie één plaatsvervangend lid, van elk van de deelnemende provincies zitting hebben. De Programmaraad heeft – onder andere- als taak het aan de rekenkamer doen van aanbevelingen bij het door de rekenkamer voorgenomen werkprogramma. De Programmaraad fungeert op verzoek voor de leden van de rekenkamer als klankbord.

Provinciale Staten Limburg en Noord-Brabant kunnen via de Programmaraad een onderwerp voor onderzoek door de rekenkamer voordragen. De rekenkamer bepaalt zelf, gehoord de Programmaraad, welke onderwerpen zij onderzoekt en hoe ze dat doet. De rekenkamer beschouwt een verzoek van Provinciale Staten als zwaarwegend, maar besluit in laatste instantie zelf of zij een verzoek zal honoreren. Wanneer de rekenkamer besluit een verzoek niet te honoreren, zal zij dit motiveren tegenover Provinciale Staten.

Dit alles leidt tot een voorraadlijst met onderwerpen, die we op twee momenten in het jaar bespreken met onze Programmaraad: in het najaar, met het oog op het werkprogramma in de eerste helft van het daaropvolgende jaar, en in het voorjaar, met het oog op ons werkprogramma voor de tweede helft van dat jaar. Het toevoegen aan de voorraadlijst en maken van een definitieve keuze voor een onderzoek, wordt bepaald aan de hand van onze selectiecriteria:

  • Het maatschappelijke en/of financiële belang van het onderwerp.
  • De mogelijkheden om bij te dragen aan leren en/of verbeteren.
  • Risico’s in doeltreffendheid, doelmatigheid en/of rechtmatigheid van het beleid.
  • Verantwoordingsrisico’s.
  • De verwachte toegevoegde waarde van het rekenkameronderzoek.
  • Het onderwerp leent zich voor een vervolg op een eerder rekenkameronderzoek.
  • Het betreft een werkgebied van de provincie waar we nog relatief weinig onderzoek hebben gedaan.

 

Daarnaast bekijken we de potentiële onderwerpen op de mate waarin ze kunnen bijdragen aan het realiseren van onze speerpunten voor 2017-2022.

Naast de vaste momenten in het jaar, kan het voorkomen dat de rekenkamer op verzoek of op basis van de actualiteit tussentijds besluit nieuwe onderwerpen op te pakken. Dezelfde afwegingscriteria als hierboven zijn dan van toepassing en ook dan wordt de Programmaraad geïnformeerd en om een reactie gevraagd.

Startnotitie

Voorafgaand aan de start van een regulier onderzoek stelt de rekenkamer een concept startnotitie op met daarin de doelstelling en onderzoeksvragen, de onderzoeksmethode, het normenkader en de onderzoeksplanning. De normen van het normenkader zijn gebaseerd op de relevante wet- en regelgeving (of soms op het ontbreken ervan), het provinciale beleid en op de reeds ontwikkelde kennis van het onderwerp en de onderzoeksmethodologie. De concept startnotitie wordt aan de ambtelijke organisatie voor commentaar aangeboden. Bij verzoekonderzoeken worden ook Provinciale Staten om commentaar gevraagd. In voorkomende gevallen legt de rekenkamer een concept startnotitie voor aan de Programmaraad. De rekenkamer beoordeelt het eventueel ontvangen commentaar en beslist of de startnotitie wordt aangepast. Na vaststelling door de rekenkamer van de definitieve startnotitie, wordt deze via de griffie ter kennisneming aangeboden aan Provinciale Staten en aan de ambtelijke organisatie (algemeen directeur, contactpersoon rekenkamer en contactpersoon onderzoek). De startnotitie wordt vervolgens openbaar gemaakt door plaatsing op de website van de rekenkamer. In geval van een vooronderzoek, verkennend onderzoek, vervolgonderzoek of quickscan kan de rekenkamer volstaan met het informeren van de ambtelijke organisatie en Provinciale Staten over de doelstellingen, inhoud en aanpak van het onderzoek. In dat geval wordt geen uitgebreide startnotitie opgesteld en in procedure gebracht.

Gegevensverzameling

De rekenkamer heeft krachtens de wet het recht op alle informatie voor zover zij die ter vervulling van haar taak nodig acht. Voor de uitoefening van dit recht worden de onderzoekers geacht op te treden met mandaat van de rekenkamer. De rekenkamer verkrijgt de benodigde informatie door eigen onderzoek, of krijgt deze op verzoek schriftelijk of mondeling/via een gesprek ‘aangeleverd’ door de ambtelijk, en eventueel bestuurlijk en externe betrokkenen.

De rekenkamer onderhoudt gedurende het onderzoek rechtstreeks contact met de ambtelijk, en eventueel, externe betrokkenen. De rekenkamer gaat zorgvuldig om met al hetgeen haar bij de uitvoering van haar taak ter kennis is gekomen. Gegevens die naar hun aard vertrouwelijk zijn, worden door de rekenkamer als zodanig gebruikt en alleen voor zover de vervulling van haar taak dat vereist. Bij het verwerken, bewaren en eventueel opnemen van (persoons)gegevens neemt ze de uitgangspunten van de Algemene verordening gegevensbescherming (Avg) in acht, zoals omschreven in de privacyverklaring van de rekenkamer en jaarlijks getoetst door de Functionaris Gegevensbescherming (FG) van de rekenkamer. Van eventuele gesprekken worden conceptverslagen gemaakt, die voor reactie aan de gesprekspartners worden voorgelegd. De rekenkamer beoordeelt het eventueel ontvangen commentaar op een conceptgespreksverslag en beslist of het verslag wordt aangepast. Na vaststelling van het definitieve gespreksverslag door de rekenkamer wordt dit aan de gesprekspartners toegezonden. Via gesprekken verkregen gegevens worden herkenbaar (bijvoorbeeld via inleidende zinsdeel ‘vanuit de ambtelijke organisatie is aangegeven’) maar zoveel als mogelijk geanonimiseerd opgenomen in het concept rapport van bevindingen en gaat zo mee in het ambtelijke hoor- en wederhoor (zie hierna). In voorkomende gevallen, bijvoorbeeld bij rapporten die naar hun aard privacygevoelige informatie bevatten, kan de rekenkamer een concept ter specifieke toetsing voorleggen aan de FG.

Rapport van bevindingen en ambtelijk wederhoor

De fase van de gegevensverzameling wordt bij een regulier onderzoek afgerond met een conceptrapport van bevindingen. Dit rapport bevat het feitencomplex en wordt vertrouwelijk voor ambtelijk hoor en wederhoor aan de ambtelijke organisatie voorgelegd met de vraag om te reageren op de juistheid en volledigheid van de daarin opgenomen feitelijke bevindingen. Voor het ambtelijk wederhoor geldt een standaard termijn van tien werkdagen. In bijzondere situaties kan deze termijn worden uitgebreid tot 15 werkdagen, waartoe de rekenkamer beslist. Verzoeken om correctie of aanvulling in de ambtelijke reactie dienen vergezeld te gaan van voldoende onderbouwing. De rekenkamer beoordeelt de verzoeken en beslist of het rapport van bevindingen wordt aangepast. De rekenkamer kan besluiten onderdelen van het rapport van bevindingen ter verificatie voor te leggen aan de griffie. Het gaat in dit geval om een feitelijke toets op beschrijvingen van informatievoorziening aan Provinciale Staten. Na eventuele aanpassing van het rapport van bevindingen wordt het door de rekenkamer vastgesteld. Als de rekenkamer op basis van het rapport van bevindingen conclusies en aanbevelingen formuleert, worden deze voorgelegd voor bestuurlijk hoor en wederhoor (zie sub paragraaf Bestuurlijk rapport en bestuurlijk wederhoor).

Bestuurlijk rapport en bestuurlijk wederhoor

Na vaststelling van het rapport van bevindingen stelt de rekenkamer bij een oordelend onderzoek een concept bestuurlijk rapport op dat naast de bevindingen op hoofdlijnen, ook de conclusies en aanbevelingen bevat. Dit conceptrapport wordt, vertrouwelijk, voor bestuurlijk wederhoor aan het college van Gedeputeerde Staten voorgelegd. Gedeputeerde Staten ontvangen dan ook het definitieve rapport van bevindingen met inzicht in de wijze van verwerking van het ambtelijk commentaar door de rekenkamer. Het college krijgt de gelegenheid om te reageren op de conclusies en aanbevelingen.

In geval van een compact oordelend onderzoek – bijvoorbeeld quickscan of vervolgonderzoek – kan de rekenkamer besluiten de bevindingen en daarop gebaseerde conclusies en aanbevelingen samen te voegen in een onderzoeksbrief. In dergelijke gevallen vindt ook bestuurlijk wederhoor plaats.

Als er behoefte bestaat, kan in de fase van bestuurlijk wederhoor een bestuurlijk gesprek met de verantwoordelijk Gedeputeerde plaatsvinden. Een dergelijk gesprek dient dan om voorafgaand aan publicatie een toelichting te geven op de belangrijkste conclusies en aanbevelingen van de rekenkamer.

Ook voor het bestuurlijk wederhoor geldt een standaard termijn van tien werkdagen, met de mogelijkheid voor de rekenkamer deze termijn in bijzondere gevallen te verlengen tot maximaal 15 dagen. In reactie op het bestuurlijk commentaar stelt de rekenkamer een nawoord op dat, evenals de reactie van Gedeputeerde Staten, in het uiteindelijke bestuurlijke rapport wordt opgenomen. Het definitieve bestuurlijke rapport wordt vervolgens door de rekenkamer vastgesteld.

Bij onderzoeken en publicaties die geen conclusies en aanbevelingen bevatten – denk aan vooronderzoeken, verkennende onderzoeken en informerende publicaties – wordt in principe geen bestuurlijk rapport opgesteld en vindt geen bestuurlijk wederhoor plaats. Wanneer daartoe de behoefte bestaat, kan bij dergelijke onderzoeken en publicaties wel een vorm van bestuurlijke betrokkenheid op maat plaatsvinden, voorafgaand aan publicatie. Te denken valt aan een informeel bestuurlijk gesprek met de verantwoordelijk gedeputeerde of andere vorm van bestuurlijke reactie. De rekenkamer beslist daartoe per geval.

Openbaarmaking/externe communicatie

Na vaststelling wordt het bestuurlijk rapport, de onderzoeksbrief of andersoortige publicatie aangeboden aan Provinciale Staten en verzonden aan Gedeputeerde Staten, de provinciale organisatie en vertegenwoordigers van relevante persorganen. Na de aanbieding aan Provinciale Staten worden de rapporten openbaar. In geval geen bestuurlijk rapport of onderzoeksbrief met conclusies en aanbevelingen is opgesteld, wordt volstaan met publicatie van de bevindingen en eventueel daarbij horende producten als een handreiking of factsheet. Voorafgaand aan publicatie kan de rekenkamer zich laten adviseren door de Programmaraad over de vormgeving van publicaties en de timing van openbaarmaking, om te zorgen voor een goede landing bij Provinciale Staten. Ook de griffies worden betrokken in dit proces. Inhoudelijke afwegingen en formuleringen blijven de verantwoordelijkheid van de rekenkamer.

Per onderzoek wordt door de rekenkamer bepaald hoe over het onderzoek extern gecommuniceerd wordt. Daarbij geldt in ieder geval het volgende: bij het verschijnen van een publicatie maakt de rekenkamer dit openbaar met een persbericht en publiceert de resultaten op haar website. De voorzitter van de rekenkamer is in beginsel woordvoerder en verstrekt informatie over het verloop en de uitkomsten van het onderzoek. Hij kan hiervoor ook een van de andere leden of de directeur-secretaris aanwijzen.

Behandeling door PS

Voor de presentatie, bespreking en behandeling van haar rapporten door Provinciale Staten, volgt de rekenkamer de procedures die de provincie Limburg en Noord-Brabant daarvoor hebben vastgesteld en stemt haar inbreng per rapport af met de betrokken griffies. Afhankelijk van de standaardprocedures en behoeften per rapport, omvat de inbreng van de rekenkamer in deze fase het beantwoorden van vragen, het geven van toelichting en bijwonen van vergaderingen en bijeenkomsten van Provinciale Staten waarin haar rapporten worden behandeld.

Evaluatie en monitoring

Na publicatie van een onderzoek en de daarbij horende behandeling, evalueert de rekenkamer de gang van zaken tijdens het onderzoek. De rekenkamer volgt/monitort de provinciale bespreking en besluitvorming naar aanleiding van haar onderzoek. Daarnaast volgt de rekenkamer – in afstemming met de griffies – de doorwerking en uitvoering van de aanbevelingen die de rekenkamer doet aan respectievelijk Provinciale Staten en Gedeputeerde Staten. De uitkomsten van evaluatie en monitoring worden gebruikt voor het verslag van werkzaamheden, dat de rekenkamer jaarlijks opstelt van haar werkzaamheden over het afgelopen jaar.

Indien de uitkomsten van onderzoek daar aanleiding toe geven, kan de rekenkamer besluiten tot vervolgonderzoek, waarin diepgaander onderzocht wordt wat na verloop van tijd de stand van zaken is en in hoeverre Gedeputeerde Staten hun toezeggingen zijn nagekomen.

Kwaliteitseisen rekenkameronderzoek

De rekenkamer stelt een aantal kwaliteitseisen aan haar onderzoek, zowel aan het proces als het product.

Zorgvuldigheid

Rekenkameronderzoek moet betrouwbaar, degelijk en onpartijdig zijn. Daarom is het van groot belang dat het onderzoek zorgvuldig verloopt. Zorgvuldig wil zeggen dat er prudent wordt omgegaan met de informatie waar de rekenkamer op basis van haar bevoegdheden toegang toe heeft en dat de onderzochte de kans krijgt om te reageren op feiten en conclusies (hoor en wederhoor). De rekenkamer zorgt ervoor dat de resultaten van het onderzoek op een evenwichtige wijze openbaar worden gemaakt. Zorgvuldigheid is daarmee een van de belangrijke kwaliteitseisen voor het werk van de rekenkamer. Dit omvat ook het zorgvuldig en op een veilige manier omgaan met (persoons)gegevens, in overeenstemming met de Algemene verordening gegevensbescherming (Avg).

Objectiviteit

Het onderzoeksonderwerp wordt zo gekozen dat de selectie van de te onderzoeken en in de rapportage te presenteren feiten zonder vooringenomenheid plaatsvindt en evenwichtig is. Feiten worden in rapporten gescheiden van oordelen gepresenteerd. Taalgebruik is niet tendentieus en niet suggestief.

Onderbouwing en consistentie

Methoden en technieken voldoen aan de eisen van validiteit en betrouwbaarheid. De informatie mag geen onjuistheden of onvolledigheden bevatten en dient evenwichtig te zijn. De conclusies die de rekenkamer trekt moeten worden onderbouwd en moeten logisch voortvloeien uit de bevindingen afgezet tegen de normen. Bevindingen zijn zoveel mogelijk gebaseerd op schriftelijke bronnen of andere vastleggingen en liefst op meer dan één bron. Feiten zijn geverifieerd aan de bron. Informatie uit schriftelijke bronnen kan worden aangevuld met informatie uit gesprekken.

Bruikbaarheid

Het onderzoeksrapport of de publicatie die de rekenkamer uitbrengt geeft toegankelijke, bondige en actuele informatie waarmee Provinciale Staten, Gedeputeerde Staten en ambtelijke organisatie maatregelen kunnen voorstellen en treffen, gericht op verbetering van de kwaliteit en het lerend vermogen van het provinciaal bestuur. Op de onderzoeksvragen wordt antwoord gegeven.

Onafhankelijkheid

De keuze van onderwerpen, aspecten en, indien van toepassing, te hanteren normen vindt plaats in volledige vrijheid en zonder vatbaar te zijn voor welke pressie dan ook. Dit geldt ook voor het onderzoeksproces (waaronder de verwerking ambtelijke commentaar) en het formuleren van conclusies.

Doelmatigheid en doelgerichtheid

Het onderzoek wordt voldoende afgebakend en de aanpak van het onderzoek is doelgericht. Bij de keuze van methoden en technieken wordt een kosten – batenafweging gemaakt. De organisatie van het onderzoek voldoet aan algemene eisen van goed projectmanagement.

Controleerbaarheid

Het onderzoeksproces wordt zodanig vastgelegd dat het mogelijk is om het onderzoek en de daarbij behorende overwegingen achteraf te reconstrueren. Daarbij houdt de rekenkamer rekening met de wettelijke normen die gelden voor archivering, inclusief de vereisten van de Avg.

Constructief

De rekenkamer wil een bijdrage leveren aan de kwaliteit en het lerend vermogen van het provinciaal bestuur. Zij stelt zich daarom constructief op, houdt rekening met context en heeft oog voor de haalbaarheid van eventuele aanbevelingen.