Nu we bijna aan het einde van de verslaglegging zijn gekomen, willen we proberen de onderzoeksuitkomsten in een wat wijder perspectief te plaatsen. We besteden aandacht aan drie kwesties.
Het belang van follow-up onderzoek
Voor het realiseren van blijvende onderwijsverbeteringen is het noodzakelijk om follow-up onderzoek te doen. Zulk onderzoek gaat verder dan aan het eind van de cursus of pilotperiode nog een keer achterom kijken. Follow-up onderzoek betekent dat betrokkenen één of meer jaren na de invoering van de innovatie teruggaan naar de oorspronkelijke doelstellingen en zich afvragen of deze nog actueel zijn en of ze zijn gerealiseerd. Dat afvragen moet meer zijn dan alleen een denkoefening die aan de overlegtafel wordt uitgevoerd. Het is nodig om ook empirische gegevens te verzamelen: wat is er in werkelijkheid veranderd?
Follow-up onderzoek is vaak bewerkelijk, zo werpt men wel tegen, en het houdt af van de primaire taken en verantwoordelijkheden van de school en van leraren die zich op het bieden van goed onderwijs concentreren. Dat follow-up onderzoek bewerkelijk is, willen we niet tegenspreken. We willen er echter bij opmerken dat een goede planning vooraf kan helpen om de vereiste inzet terug te brengen. Het is van belang om van begin af aan rekening te houden met follow-up onderzoek. Het loont bijvoorbeeld om tevoren af te spreken welke gegevens gearchiveerd moeten worden en hoe dat moet gebeuren. Dan is het een of meer jaren later eenvoudiger om de relevante gegevens te pakken te krijgen. In het geval van LGV en LGD hadden de scholen eenvoudig in hun administratie kunnen aanmerken welke leerlingen deze hulp hebben gekregen. Als vervolgens ook nog afspraken waren gemaakt over vaste evaluatiemomenten en een gemeenschappelijke administratieve procedure voor de vastlegging van toetsscores, dan wordt het veel eenvoudiger om enkele jaren later te reproduceren hoe de vernieuwing in de praktijk heeft gewerkt. In ons geval hebben wij het geluk gehad dat we intern begeleiders troffen die al jaren op hun scholen werkzaam zijn en die veel kennis in hun hoofd hebben. Wisselt zo’n functionaris van school, dan verdwijnt ongemerkt veel nuttige kennis van de school.
Dat follow-up onderzoek bijzaak is, zoals de tweede tegenwerping luidt, willen we bestrijden. De Inspectie van het Onderwijs onderscheidt in het toetsingskader voor het basisonderwijs drie hoofddomeinen. Naast aandacht voor leerresultaten en onderwijsprocessen vormt de kwaliteitszorg op een school het derde domein. Kwaliteitszorg betekent dat een school, en voor individuele leraren geldt hetzelfde, de eigen werkwijze en de resultaten daarvan kritisch moet onderzoeken.
31 Eenvoudig gezegd, aandacht voor kwaliteit moet! In dat licht vervult follow-up onderzoek een noodzakelijke functie.
De twee belangrijkste oogmerken van LGV en LGD
De twee projecten hebben een dubbele doelstelling: zwakke lezers leeshulp bieden en een schoolbrede verbetering bewerkstelligen van het leesonderwijs. Op de bij het follow-up onderzoek betrokken scholen is de eerste doelstelling beter uit de verf gekomen dan de tweede. Verspreid over vier schooljaren hebben 24 zwakke lezers leeshulp gekregen. Zonder de projecten hadden deze leerlingen die leeshulp zeer waarschijnlijk niet gekregen. Ze zouden zich hebben moeten ‘behelpen’ met de leeshulp van hun groepsleerkracht. Door de leeshulp te verplaatsen naar een één-op-één situatie buiten de klas hebben de leerlingen zorg-op-maat kunnen krijgen, een type zorg die groepsleraren veelal alleen bij uitzondering kunnen bieden. Over de effectiviteit van de leeshulp vallen twee opmerkingen te maken. De eerste is dat alle 24 leerlingen een toenemende leesvaardigheid laten zien, niet alleen op het gebied van technisch lezen, maar ook op het gebied van begrijpend lezen. Voor de leerlingen uit de eerste twee lichtingen kunnen we zelfs vaststellen dat ze AVI-9 hebben bereikt of althans dat AVI-9 binnen bereik ligt. De tweede opmerking is dat hiermee nog niet is aangetoond dat de geboden leeshulp effectiever is dan wanneer géén leeshulp geboden zou zijn. Om zo’n conclusie te trekken – en dat zou een heel belangrijke conclusie zijn – is een controlegroep nodig van vergelijkbare leerlingen die de LGV/LGD-leeshulp niet krijgen. Zo’n vergelijkingsgroep is niet voorhanden.
Wat betreft het tweede oogmerk, de schoolbrede verbetering van het leesonderwijs, staan we nagenoeg met lege handen. De beide scholen hebben weliswaar een taalbeleidsplan ontwikkeld, maar die zijn niet geëvalueerd. Noodgedwongen hebben we ons daarom beperkt tot een analyse van de vorderingengegevens voor begrijpend lezen op schoolniveau. De lezer moet hierbij bedenken dat de stap van een taalbeleidsplan naar betere leerresultaten een reuzenstap is. Er zijn veel tussenliggende factoren die bepalen of een vastgelegde intentie tot uitvoering wordt gebracht. Wisselingen in het team, tussenliggend kwaliteitsonderzoek van de Inspectie, wijzigingen in het beleid van de landelijke overheid of van het eigen bestuur kunnen roet in het eten gooien. Idealiter omvat de evaluatie of follow-up van een systeemdoel zoals een taalbeleidsplan daarom ook een analyse van de context. Die analyse van de context helpt vervolgens ook om te verklaren waarom er wel of geen doorwerking is naar verbeterde leerresultaten.
In dit geval hebben we geen doorwerking kunnen vaststellen. Afgaande op de resultaten op de Eindtoets Basisonderwijs van het Cito, onderdeel Begrijpend Lezen, valt er tussen 2005 en 2009 géén positieve trend te zien. Op beide scholen laten de schoolgemiddelden een variatie zien die niet onaanzienlijk is. De uitersten, het verschil tussen het slechtste en het beste jaar, verschillen meer dan 20 percentielpunten van elkaar. Nadere informatie van Cito leert dat de gekozen schoolgemiddelden, de IC-percentielen, een forse standaardfout vertonen. Ze zijn daarom misschien niet de meest voor de hand liggende indicatoren voor de kwaliteit van het leesonderwijs op een
32 school. Overigens wijzen we erop dat ook de Inspectie van het Onderwijs zich van deze indicator pleegt te bedienen.
We hanteerden nog een tweede indicator voor de doorwerking naar verbeterde leerresultaten, namelijk de schoolgemiddelden op toetsen voor begrijpend lezen die onderdeel zijn van het Cito-leerlingvolgsysteem. In dit geval hebben we de schoolgemiddelden per jaargroep in de analyse betrokken (jaargroep 5 tot en met 8). Maar ook volgens deze indicator is er op beide scholen géén sprake van een positieve trend. In tegenstelling tot de eerste indicator zijn de verschillen per afnamejaar evenwel veel beperkter. Een verklaring hiervoor is moeilijk te geven.
De zekerheid die Cito-toetsen bieden
Onder het vorige kopje besteedden we aandacht aan een tweetal type toetsen van het Cito, de Eindtoets Basisonderwijs (EB) en de toetsen uit het leerlingvolgsysteem (lvs). De EB is alleen bedoeld voor groep 8 en bestaat elk jaar uit nieuwe opgaven, de lvs-toetsen Begrijpend Lezen bestrijken alle leerjaren vanaf groep 3 en kennen een vaste samenstelling. Een ander verschil is dat de afname van de EB veel strenger geprotocolleerd is dan de afname van de lvs-toetsen. De protocollering heeft onder andere betrekking op de afnameduur, het moment van de afname en de aanwijzing van de leerlingen die de toets moeten maken. Ondanks deze verschillen zouden beide type toetsen – grosso modo – tot dezelfde conclusies moeten leiden. Een school die op het ene type toetsen hoog scoort, zou dat ook op het andere type toetsen moeten doen.
We hebben evenwel geconstateerd dat dit niet het geval is. We vragen aandacht voor drie verschillen. Het eerste verschil kwam hiervoor al ter sprake: de variatie van afnamejaar tot afnamejaar is op de EB-toetsen groter dan op de lvs-toetsen. Het tweede verschil komt naar voren als we ons beperken tot de resultaten van alleen groep 8, zowel gemeten met de EB als met de lvs-toets Begrijpend Lezen. In dit geval maken we een vergelijking waarbij per afnamejaar steeds dezelfde leerlingen betrokken zijn. Uit de vergelijking blijkt – en dat geldt voor beide scholen – dat er van enige samenhang geen sprake is. Een voorbeeld: op school A laat groep 8 op de lvs-toets Begrijpend Lezen tussen 2005 en 2009 een gestaag stijgende trend zien (van 49 naar 57), maar volgens de EB Begrijpend Lezen is van een stijgende trend geen sprake. Een derde opmerkelijk verschijnsel – ook weer op beide scholen van toepassing – is dat de lvs-toetsen laten zien dat de scores in de jaargroepen 5 en 6 beter zijn dan het landelijke gemiddelde, maar in de groepen 7 en 8 juist slechter. Het lijkt alsof er op beide scholen vanaf groep 7 een vertraging optreedt. Nu is niet uit te sluiten dat zulks daadwerkelijk het geval is, al roept dat dan de vraag op hoe dat komt. Maar ook is mogelijk dat de normeringssteekproeven die het Cito voor de lvs-toetsen heeft gebruikt, een ongelijke representativiteit hebben. Die mogelijkheid valt op voorhand niet uit te sluiten. Want hoe is te verklaren dat groep 8 van school B in 2009 op de EB-Begrijpend Lezen boven het landelijke gemiddelde scoort, maar op de lvs-toets Begrijpend Lezen een achterstand van een heel leerjaar laat zien?
Algemeen wordt veel waarde gehecht aan de scores die leerlingen en scholen realiseren op toetsen van het Cito. Scholen gebruiken de toetsen om hun onderwijs mee
33 te evalueren. En de Inspectie kent aan Cito-scores een bijzonder groot gewicht toe. Wie zich evenwel wat dieper in de beschikbare cijfers stort, stuit op onbegrijpelijkheden of zelfs tegenstrijdigheden. In het kader van dit onderzoek konden wij daaraan geen verdere aandacht besteden. Maar het is ons duidelijk geworden dat de relatie tussen schoolkwaliteit en Cito-scores niet zo eenduidig is als wel wordt gedacht. Er is voldoende aanleiding om uitkomsten van Cito-toetsen aan een kritische beschouwing te onderwerpen. Het minste dat zou dienen te gebeuren is dat men rekening houdt met de onbetrouwbaarheid van groeps- en schoolgemiddelden door het schatten van de standaardfout. Daarmee kan bepaald worden of een verschil tussen twee gemiddelden op toeval kan berusten, dan wel voldoende groot is om tot een meer inhoudelijke interpretatie over te gaan.
34
BIJLAGE
School A: Checklist leesbegeleiding volgens Lezen Gaat Voor
Programma-element Realisatie in 2008-2009
a. Selectie van lln die leesbegeleiding krijgen: alle leerlingen die eind groep 3 landelijk gezien tot de zwakste 10 procent horen (als volgt
geoperationaliseerd: DMT kaart 2 op D/E niveau of AVI-2 nog niet op instructieniveau)
+ In sept. 2008 begonnen met 4 lln. (geselecteerd uit twee klassen met samen ca 50 lln); 1 is uitgestroomd wegens succes (heeft avi-4 beheersing gehaald; nu nog 3 in begeleiding
b. Leesbegeleiding wordt 1-op-1 aangeboden +
c. Vier maal per week een sessie van 30 minuten +
d. Elke sessie:
1. 15 min. tekst lezen op instructieniveau volgens whp-methodiek
2. 10 min. oefenen met een woordtrainprogramma of met structuurrijtjes
3. 5 min. oefenen met grafeemkaartjes volgens afgesproken protocol (werken op tijd, diverse spelvormen, waaronder auditieve synthese van mkm-woordjes)
Drie maal ja; het
flitsprogramma is tijdelijk niet beschikbaar; daarom nu oefenen met structuurrijtjes, bijvoorbeeld uit de map Leesbegeleiding van Luc Koning
e. 30 Uur training in totaal (15 weken) + Gestart in sept. 2008;
inmiddels hebben de lln. al bijna 60 uur leesbegeleiding gekregen (15 weken voor en 15 weken na de kerst)
f. Doorgeleiding lln. met een onvoldoende resultaat (voldoende is: minimaal 100 procent leerrendement en AVI-2 beheersing) naar Lezen gaat door
+ Bij één ll. is de voortgang erg traag; inmiddels is dyslexie vastgesteld
g. Lln met onvoldoende resultaat (zie onder f) worden opgenomen in de leerlingenzorg, besproken met de sbd en met ouders ivm met mogelijkheden voor verdere hulp
35
Pro memorie (geen elementen die expliciet bij LGV horen, maar die desalniettemin relevant zijn)
h. Is er een logboek van de geboden hulp? Nee
i. Hoe en hoe vaak worden vorderingen bijgehouden?
Regulier 2 x per jaar; tussendoor naar behoefte j. Hoe is de afstemming met lezen in de klas (hoe
ziet daar het leesonderwijs aan de betrokken leerlingen eruit)?
Geen begeleiding voor technisch lezen in de klas; wel zelfstandig lezen elke middag (‘baklezen’) en methode voor begrijpend lezen
(‘Tekstverwerken’) k. Is er een handelingsplan voor lezen voor de
betrokken lln?
Ja l. Is er een bijzondere rol voor ouders weggelegd
(bijv. thuis oefenen)?
Ouders hebben uitleg gekregen in september; gevraagd is om thuis elke dag ook even te oefenen; dat doen ze daadwerkelijk m. Hoe wordt de inzet van de betrokken lln op peil
gehouden (bijv. via prijzen, belonen, anderszins)?
De onderwijsassistent heeft hiervoor een eigen oplossing gevonden (‘het rebusverhaal') + wil zeggen: element wordt gerealiseerd