18 DOELTREFFENDHEID EU-BELEID IN NEDERLAND
18.3 Kwaliteit van de informatie over doelrealisatie
Volgens de Europese Commissie is de analyse van «outputs and results achieved to date (...) the core element of the update» (Europese Commis-sie, ongedateerd, § 4.2). In § 18.2 is aangegeven dat het positief is dat er (doorgaans) indicatoren met kwantitatieve streefwaarden zijn opgesteld.
Bij de analyse van de updates in dit hoofdstuk hebben wij ook gekeken naar de kwaliteit van de indicatoren en het verband tussen indicatoren en doelen zodat uitspraken over doelrealisatie kunnen worden gedaan.
18.3.1 Algemeen overzicht informatie over doelrealisatie
Overzicht 78 geeft een beeld van de mate waarin informatie over
doelrealisatie is opgenomen in de updates. Als bij een doel geen relevante informatie over de feitelijke doelrealisatie was opgenomen, is de score
«onbekend» ingevuld. De oorzaken worden toegelicht in § 18.3.3. De doelen zijn op het niveau van de maatregelen bekeken, tenzij anders aangegeven.
Positief scoren de programma’s Stedelijke Gebieden Nederland en het EUREGIO-programma. Op alle doelen kenden deze programma’s geschikte informatie over de doelrealisatie. Van vijf van de twaalf programma’s kan daarentegen geen uitspraak over de doelbereiking worden gedaan.
De totaalscore in het overzicht laat zien dat van ongeveer de helft van de doelen iets kan worden gezegd over de mate waarin ze zijn gehaald. Om uiteenlopende redenen (zie § 18.3.3) is voor de andere helft van de doelen de score niet op te maken uit de updates. De scores op de mate van doelbereiking komen in § 18.4 aan de orde.
Overzicht 78. Aanwezigheid informatie over doelrealisatie (aantal en percentage)
Programma # Doelen
(maatregelen)
Informatie over doel-realisatie
Doelen waarvan doel-realisatie onbekend
# % # %
Flevoland 25 17 68% 8 32%
Noord 7 0 0% 7 100%
Oost 8 0 0% 8 100%
Zuid 9 8 89% 1 11%
Steden* 3 3 100% 0 0%
ESF-3 8 5 63% 3 37%
FIOV 11 8 73% 3 27%
Equal 9 0 0% 9 100%
Leader+** 7 0 0% 7 100%
Euregio
Maas-Rijn 12 6 50% 6 50%
EUREGIO*** 10 10 100% 0 0%
Noordwest
Europa 10 0 0% 10 100%
TOTAAL 119 57 48% 62 52%
* De evaluatie van Stedelijke Gebieden Nederland geeft alleen informatie op het niveau van de algemene prioriteiten; niet op het niveau van de operationele maatregelen.
** Leader+ bestaat uit vier deelprogramma’s die in dit hoofdstuk als een programma worden beschouwd. De doelen van de deelprogramma’s zijn identiek.
*** Gemeenschappelijke evaluatie voor drie euregio’s met Nederlandse betrokkenheid:
EUREGIO, Euregio Rijn-Waal en Euregio Rijn-Maas-Noord.
18.3.2 Voorbeelden van indicatoren
Aantal deelnemers
De indicator «aantal deelnemers» aan cursussen en re-integratietrajecten (ESF3 en Equal) geeft een indruk van de geleverde prestaties. Het is een indicatie van het aantal mensen dat kennis en vaardigheden wordt bijgebracht. Volgens ons zou het beter zijn als ook informatie over de uitval wordt verwerkt. Daarnaast zou het ook goed zijn als op deelnemers-niveau effecten bekend zijn zoals een baan of diploma, afgezet tegen de streefwaarden. Bij ESF3 zijn alleen van de prestaties streefwaarden opgenomen in het enkelvoudig programmeringsdocument. De resultaat-en impactindicatorresultaat-en zijn bij de start van het programma niet gekwantifi-ceerd en daardoor zijn er geen streefcijfers waarmee vergeleken kan worden tussen beoogd en gerealiseerd.
Werkgelegenheid
Werkgelegenheid is een veelgebruikte effect- en prestatie-indicator, die ook door de Europese Commissie als een belangrijke indicator wordt gezien in het Europese cohesiebeleid. Soms is de indicator niet relevant maar vaak ook wel – dit hangt af van het doel. In een update wordt een inschatting gedaan van de netto-effecten van het programma (Noord-Nederland). Dit is op zichzelf positief en zou navolging verdienen in de overige programma’s. Echter, dan moet wel van realisatiecijfers worden uitgegaan. Zoals aangegeven in § 18.3.3 is de inschatting in Noord-Neder-land gebaseerd op informatie over verwachte in plaats van gerealiseerde effecten. De andere programma’s gaan uit van bruto-effecten. Dat wil zeggen dat de causale relatie tussen het programma en het effect niet wordt gelegd.
18.3.3 Oorzaken gebrekkige informatie over doelrealisatie
Overzicht 79 geeft inzicht in de oorzaken van het feit dat naar ons oordeel voor een aantal doelen geen uitspraak kon worden gedaan over de mate waarin ze zijn gehaald. De score in het overzicht geeft het aantal doelen aan dat niet kon worden gescoord om een van de aangegeven oorzaken.
Wij hebben de volgende normen gehanteerd:
• de indicator zegt iets over prestaties of effecten;
• de indicator is specifiek, dat wil zeggen geeft een concrete formulering wat de prestatie of het effect is;
• er is een logisch verband tussen prestaties / effecten en het doel;
• de doelrealisatie is gebaseerd op gegevens over de feitelijke realisatie.
Een doel kan meermaals zijn gescoord (bijvoorbeeld Euregio Maas-Rijn).
Totaalscores per oorzaak geven enigszins een indicatie van de mate waarin deze zich voordoen.
Overzicht 79. Oorzaken van onbekende doelrealisatie (n = 62)
Geen gegevens over feitelijke realisatie
Geen logisch verband doel-indicator
Indicator te vaag Geen indicator/geen streefwaarde
Input- in plaats van output-informatie
Flevoland – 3 – 2 3
Noord 7 – – – –
Oost 8 – – – –
Zuid – – 1 – –
Steden – – – – –
ESF-3 – – 1 2 –
FIOV – – – – 3
Equal – – – 9 –
Leader+ – 7 – – –
Euregio Maas-Rijn – 6 – – 6
EUREGIO – – – – –
Noordwest Europa – – 10 – –
TOTAAL 15 16 12 13 12
Hieronder geven we per oorzaak een toelichting met enkele voorbeelden.
Geen gegevens over feitelijke realisatie
De programma’s Oost-Nederland en Noord-Nederland hebben de evaluaties geheel gebaseerd op een prognose van de realisatie, te weten op basis van goedgekeurde projectaanvragen («gecommitteerde
projecten»). Dat wil zeggen dat de cijfers een indicatie geven van de mogelijke of verwachte realisatie – hetgeen waardevolle management-informatie kan zijn – maar niet van de feitelijke realisatie van de gestelde doelen. Dit laatste is nu juist de kernfunctie van de updates. Verder is niet zeker hoe realistisch de verwachtingen zijn. Zoals hierboven aangegeven worden in een aantal programma’s de beoogde prestaties en effecten van projecten in de projectaanvragen overschat («overcommittering»). Het is dus de vraag in hoeverre de prognoses werkelijkheid zullen worden.
Geen verband tussen doel en indicator
In Leader+ is geen relatie gelegd tussen de doelen en de indicatoren, hetgeen de evaluator ook aangeeft. De gepresenteerde scores hangen samen met niet nader toegelichte «thema’s» die niet zijn verbonden met de doelen. Uit de updates van Leader+ blijkt derhalve niet of, en zo ja in hoeverre, de doelen worden gehaald. De evaluator doet de aanbeveling
een relatie te leggen tussen de prioriteiten, maatregelen en indicatoren (Bent, 2005).
Geen logisch verband tussen doel en indicator
In een aantal programma’s is het gebrek aan een logisch verband tussen doel en indicator een belemmering om te komen tot uitspraken over doelrealisatie. Het gaat hier steeds om de vraag: zegt de score op een bepaalde indicator iets over de mate waarin het doel bereikt is? Wij hebben hier alleen «onbekend» gescoord als er geen logische relatie was;
bij twijfel is de score toch meegenomen.
De indicator «aantal instellingen/netwerken dat direct aan het project deelneemt» (Euregio Maas-Rijn) heeft geen logisch verband met de doelen «verbeteren werkomgeving» of «bevorderen nieuwe en vernieu-wende bedrijvigheid»: het feit dat veel bedrijven deelnemen zegt nog niets over (verbeteringen in) de werkomgeving of de mobiliteit. Daarnaast is het een dubbelzinnige indicator die verschillende grootheden –
bedrijven en netwerken – optelt.
De indicator «werkgelegenheid» ontbeert een logisch verband met de maatregel «versterking karakter landelijk gebied» (Flevoland). Is het
«karakter versterkt» van het landelijk gebied als de werkgelegenheid toeneemt? De doelformulering is bovendien vaag: het blijft onduidelijk in de evaluatie wat nu precies wordt beoogd met de maatregel.
Te vage indicator
Een indicator zoals «aantal voorzieningen» (Flevoland, Noord-Nederland) is niet specifiek genoeg. Deze wijst er weliswaar op dat er «iets» gereali-seerd is maar geeft geen inzicht in de aard en omvang van de prestatie.
Zo is in het programma Noord-Nederland de target van het aantal toeristische voorzieningen niet gehaald omdat in plaats van veel
«kleinere», er een minder groot aantal «grote» voorzieningen is gereali-seerd (Ecorys, 2005, p. 29). Zo lijkt het dan dat de doelstelling (versterking toeristische infrastructuur) niet is gehaald maar misschien dragen de
«grote» voorzieningen wel meer bij aan het doel dan een groter aantal kleinere. Op basis van deze indicator blijft onbekend of het doel is gehaald.
De indicator «aantal ondernemers dat financiële bijstand ontvangt» wordt in één programma (Zuid-Nederland) bij verschillende maatregelen genoemd, bijvoorbeeld bij het doel «versterking concurrentiepositie van het bedrijfsleven». De indicator zegt echter niets over de aard en omvang:
hoe groot is de bijstand per ondernemer, en waaraan wordt deze besteed?
Dit blijkt niet uit de indicatoren.
Bij één van de ESF3-doelen zijn de indicatoren het percentage projecten met als uitkomst een «bruikbare oplossing» en «de signalering van een relevant knelpunt». Dit zijn erg vage indicatoren (wanneer is iets relevant of bruikbaar). Overigens zegt een percentage alleen nog niet veel: als één project succesvol wordt uitgevoerd is de score al 100%.
Het programma Noordwest-Europa kent zeer vage doelen, zoals aange-geven in § 18.2. Zelfs met een goede indicatorenset zou het niet goed mogelijk zijn een uitspraak over de doelrealisatie te doen. Het programma kent een groot aantal – 317 – indicatoren, wat de gebruikswaarde niet ten goede komt. Deze indicatoren zijn onderverdeeld in een aantal
catego-112 De evaluatie geeft general output indi-cators, specific output indicators en results indicators. De laatste zijn voornamelijk kwali-tatief. Elders wordt echter een andere indeling gehanteerd: in § 3.2.3 van de evaluatie wordt vermeld dat het programma-complement onderscheid maakt tussen indicatoren op drie niveaus: outputs (voor operationele doelen);
results (voor specifieke doelen) en impacts
indicatoren zijn – ook volgens de evaluatie zelf – erg algemeen geformu-leerd en voor meer dan één uitleg vatbaar.
Geen indicator/geen streefwaarde
In het Equal-programma zijn geen streefwaarden gesteld.113Dit betekent dat geen uitspraak over de doelrealisatie kan worden gedaan. Ook in ESF3 zijn bij twee maatregelen (B.1 en B.2) geen streefwaarden gegeven. Verder komt het voor dat er geen indicator is benoemd (Flevoland en land). Ook komt het voor dat de streefwaarde 0 is (Flevoland en Zuid-Neder-land); die score wordt ook gehaald als het programma niet zou bestaan.114
Input- in plaats van output-informatie
Een indicator zoals «aantal projecten» (onder andere Flevoland, FIOV) geeft geen inzicht in de aard of de omvang van de prestatie en is eerder als inputinformatie te beschouwen. Een evaluator merkt weliswaar op dat
«aantal projecten» geen zinvolle prestatie-indicator is, maar betrekt deze toch in de beoordeling van de doelbereiking (Framian, 2005). In de update van het Interreg-programma Noordwest-Europa wordt bij kwalitatieve indicatoren het aantal projecten als streefwaarde gebruikt. Deze waarde zegt echter nog niets over de inhoudelijke bijdrage aan het doel.
Ook «tijdelijke werkgelegenheid» (Flevoland) is inputinformatie want het gaat om de bij het project ingezette personen. Deze tijdelijke werkgele-genheid is geen doelstelling van het project als zodanig maar een
«middel» om een doel te realiseren. De indicator zegt derhalve niets over de mate van succes van het project.
De indicator «aantal deelnemers aan projecten» (onder andere Noord-west-Europa, Euregio Maas-Rijn) kan eveneens als inputinformatie worden gezien. Deze geeft geen inzicht in de doelrealisatie. Van project-deelnemers wordt geacht dat zij bijdragen aan het leveren van de prestaties; ze zijn niet zelf de prestaties. Overigens is «deelnemers aan cursussen» (zoals bij ESF3 en Equal) wel een indicator voor de prestaties (zie § 18.3.2).
18.4 Doelrealisatie
De analyse van de MTE’s in het vorige EU-trendrapport liet zien dat in de meeste gevallen de doelrealisatie nog achterbleef. De oorzaak was de trage start van de programma’s die formeel in 2000 begonnen, maar pas in 2003–2004 «op stoom» kwamen. Zoals hierboven aangegeven is een vergelijking tussen de meting uit de MTE en de update niet goed mogelijk door verschuivingen in de streefwaarden van de programma’s. De realisatie wordt alleen afgezet tegen in de update opgenomen streef-waarden.
De doelrealisatie per programma is in overzicht 80 weergegeven. Tevens is in de kolom ernaast het aandeel doelen met een bekende realisatie weergegeven. Bij de scores is de betrouwbaarheid van de informatie niet meegenomen (zie § 18.1.4).
113 Volgens het Ministerie van SZW houdt dit verband met de innovatieve en experimentele aard van het programma.
114 Er zijn overigens situaties denkbaar waarin een nulscore wel zinnig is, met name in de preventieve sfeer. Bijvoorbeeld de indicator
«aantal nieuwe arbeidsongeschikten» met streefwaarde 0 bij de doelstelling «voorkomen instroom in arbeidsongeschiktheid». Van dergelijke situaties was in de onderzochte updates echter geen sprake.
Overzicht 80. Doelbereiking van de Nederlandse programma’s medegefinancierd uit de structuurfondsen
Programma Gemiddelde score
doelrealisatie (0–10)
% doelen waarover score is berekend
Flevoland 5 68%
Noord – 0%
Oost – 0%
Zuid 7 89%
Steden 6 100%
ESF-3 5 63%
FIOV 2 73%
Equal – 0%
Leader+ – 0%
Euregio Maas-Rijn 5 50%
EUREGIO 6 100%
Noordwest-Europa – 0%
Het overzicht laat zien dat in de meeste programma’s geen volledig dekkende uitspraak mogelijk is over de doelrealisatie van het programma omdat van een aantal doelen geen score bekend is.115
Op de peildatum van de updates (eind 2004 of medio 2005; dit wisselt per programma) waren de meeste programma’s ongeveer halverwege, met nog veel projecten die nog niet waren afgerond. De uitvoering van projecten kan nog uitlopen tot en met 2008. Een score van 5 of 6 kan dan ook als redelijk goed worden beschouwd. Positief op doelrealisatie scoren de programma’s Stedelijke Gebieden Nederland en EUREGIO. Ook het programma Zuid-Nederland scoort relatief hoog, hoewel de realisatie binnen het programma sterk wisselt per maatregel.
Het FIOV-programma scoort laag. Voor drie maatregelen binnen de prioriteit «aquacultuur» zijn volgens de update geen projecten gestart (de oorzaak wordt niet in de update vermeld). Het enige project in een andere maatregel is stilgelegd vanwege technische problemen. Van andere projecten zal eerst bij afronding informatie beschikbaar komen over de realisatie.