• No results found

Deel II Testen en evalueren van het prototype van de scoringsrubriek

9 Algemene conclusies en discussie

9.4 Additionele inzichten

9.4.1 Transfer van informatievaardigheden

Zoals bij de bespreking van de verschillende onderzoeksbenaderingen in hoofdstuk 2 al werd opgemerkt, speelt het idee van ‘transfer’ binnen de constructivistische onderwijsopvattingen een

belangrijke rol. Volgens Kirschner en Van Merriënboer is juist het gebruik van zogenaamde ‘hele taken’, zoals ook in het onderhavige onderzoek naar het beoordelen van informatievaardigheden is bepleit, bevorderlijk voor het vermogen om de betreffende vaardigheden ook in andere situaties toe te passen (Kirschner & Van Merriënboer, 2013, pp. 7-8).

In het focusgroepsgesprek (hoofdstuk 7) gaven de deeltijd studenten idm aan dat ze de scoringsrubriek niet alleen hadden gebruikt in het blok Digital Library maar dat ze de principes ervan ook toepasten in onderwijsblokken die ze daarna nog volgden en in situaties op hun reguliere werk. In die andere contexten was het gebruik ervan wel meer impliciet. Ze gaven aan dat ze het gebruik van de scoringsrubriek hadden geabstraheerd van de context waarin ze ermee hadden leren werken en de inhoud vervolgens hadden toegepast in vergelijkbare omgevingen. Voor het onderzoek naar het beoordelen en bevorderen van informatievaardigheden is dit een belangrijke conclusie omdat de bevordering van zelfgestuurd en onafhankelijk leren juist een van de argumenten is om in het hoger onderwijs aandacht aan informatievaardigheden te besteden (Bruce, 2004).

Hoe die transfer dan plaatsvindt is in dit onderzoek buiten beschouwing gebleven. Onderzoek van Walraven, Brand-Gruwel en Boshuizen (2008) geeft aan dat een van de theorieën aangaande de transfer van vaardigheden betrekking heeft op de opbouw van metacognitieve kennis zoals die ook wordt uitgedrukt in het Persoonlijk Kennissysteem dat in hoofdstuk 2 werd besproken. In hun onderzoek dat werd uitgevoerd onder scholieren uit de derde klas van het voortgezet onderwijs werd de opbouw van metacognitieve kennis bij een van de groepen gestimuleerd door het invullen van zogenaamde ‘proceswerkbladen’. Daarin staan de leerlingen expliciet stil bij de stappen die ze doorlopen tijdens het uitvoeren van een taak. In dat zelfde onderzoek geven leerlingen echter ook aan dat ze het invullen van zo’n proceswerkblad niet altijd plezierig vinden.

De andere transfertheorie die Walraven et al. behandelen wordt door hen ‘kennisnetwerk theorie’ genoemd. Die gaat er vanuit dat transfer van een vaardigheid wordt gestimuleerd als leerlingen of studenten de onderliggende concepten van zo’n vaardigheid goed kennen. Het lijkt zo te zijn dat de opmerkingen van de idm-studenten over de transfer van informatievaardigheden het best past in die kennisnetwerk theorie: doordat de scoringsrubriek hen expliciet heeft geconfronteerd met de operationalisering van begrippen als ‘betrouwbare informatiebronnen’ en ‘goede onder- zoeksvragen’ en de manier waarop die met elkaar samenhangen, waren zij in staat om die kennis ook in een andere context toe te passen. In hun geval was in ieder geval ook van belang dat zij in hun werksituatie gelegenheid hadden om het geleerde toe te passen. Onderzoek van Testers, Gegenfurtner en Brand-Gruwel (2015) toont aan dat die gelegenheid een belangrijke factor is om studenten überhaupt tot transfer te motiveren.

9.4.2 Afstemming van de scoringsrubriek op specifieke disciplines

Een van de argumenten aan het einde van hoofdstuk 3 om te besluiten tot het ontwikkelen van een scoringsrubriek voor informatievaardigheden, was dat er nog geen voorbeeld bekend was van zo’n scoringsrubriek die meer generiek toepasbaar was. Uit de onderzochte literatuur waren al wel voorbeelden van vergelijkbare scoringsrubrieken bekend (Knight, 2006; Oakleaf, 2009) maar deze waren allebei op maat gemaakt en bedoeld om te worden toegepast op een specifieke opdracht of

9

in een specifieke cursus. Het streven in dít onderzoek om een meer generiek toepasbaar beoorde-

lingsinstrument te ontwikkelen, zou de volgende voordelen opleveren:

• opleidingen of instituten die nog moeten beginnen met het ontwikkelen van onderwijs in informatievaardigheden kunnen zo’n instrument - na eventuele kleine aanpassingen - snel en gemakkelijk implementeren

• over de resultaten van beoordelingen kan worden gecommuniceerd met collega’ s van ande- re cursussen / instituten en

• de gevonden gegevens kunnen tussen opleidingen onderling worden uitgewisseld en verge- leken (benchmarking).

Gedurende het onderzoek is een aantal malen naar voren gekomen dat toepassing van de scorings- rubriek in verschillende vakken en onderwijssituaties echter niet altijd vanzelfsprekend is. Tijdens de interviews met de vakdocenten van De Haagse Hogeschool (hoofdstuk 8) bleek dat geen van de vijf respondenten de scoringsrubriek gebruikte zoals zij in dit onderzoek gepresenteerd is. De meesten gebruikten onderdelen van het prototype uit hoofdstuk 4 voor uitbreiding of verfijning van een eigen, bestaand beoordelingsmodel. Dat betekent uiteraard niet dat de scoringsrubriek niet bruikbaar is geweest voor hen. Het gebruik ervan week wel af van het gebruik dat de ontwikke- laar ervan voor ogen stond. Uit het empirisch onderzoek naar het gebruik van de scoringsrubriek bij de Nederlandse Defensie Academie maar ook uit het onderzoek bij de opleiding Mediastudies van de UvA, blijkt dat daar ook nog wel een kanttekening bij kan worden geplaatst. Daar kwam naar voren dat overeenstemming over de beslissing voldoende-onvoldoende in sommige geval- len problematisch was als alleen aan de hand van één afzonderlijk criterium werd beoordeeld. Gebruik van de complete scoringsrubriek leverde wel een betrouwbaar en consistent beeld op. De verklaring die daarvoor werd gegeven was dat mogelijke beoordelingsfouten op afzonderlijke criteria minder zwaar doorwegen indien alle zeven criteria gezamenlijk worden gebruikt. Daaruit kan worden geconcludeerd dat er risico’s kleven aan de praktijk om afzonderlijke criteria over te nemen in bestaande beoordelingsinstrumenten indien ze niet kunnen worden gecompenseerd met verwante andere criteria. Dit is feitelijk de reden dat men een construct in het algemeen wil meten met verschillende items; toevallige fouten spelen dan minder een rol en de betrouwbaarheid van de beoordelingen neemt toe.

Aanpassing van de scoringsrubriek kan echter niet alleen plaatsvinden door het laten vervallen van een of meer beoordelingscriteria, ook kunnen meer generieke beschrijvingen specifieker worden gemaakt voor toepassing in het betreffende vakgebied. Tijdens het onderzoek naar het gebruik van de scoringsrubriek bij de faculteit Psychologie en Onderwijswetenschappen van de Open Universiteit kwam naar voren dat de scoringsrubriek voor een beoordelaar moeilijk te hanteren is als deze onbekend is met het vakgebied. In de literatuur gaan dan ook regelmatig stemmen op om het onderwijs in informatievaardigheden stevig in te bedden in de verschillende disciplines (Dirkx et al., 2013; Pinto & Sales, 2015, p. 205). Ook uit onderwijspsychologisch onderzoek is bekend dat de manier waarop mensen informatie verwerken (in de scoringsrubriek criterium nummer 5) per vakgebied verschilt. Zo toont Wineburg (1991) aan dat het oplossen van informatieproblemen in de historische wetenschappen of het geschiedenisonderwijs principieel verschilt van het oplossen van bijvoorbeeld wiskundeproblemen of problemen op het gebied van fysica. Daaruit kan wor-

den geconcludeerd dat de scoringsrubriek voor informatievaardigheden kan worden toegepast op verschillende vakgebieden maar dat de exacte hantering ervan vaak nog wel afstemming vergt op die specifieke discipline. In het onderzoek bij de opleiding Mediastudies van de UvA is dat uit- gangspunt onder andere aanleiding geweest om de beoordelingen vooraf te laten gaan door twee trainingssessies van ieder ongeveer een halve dag.

De conclusie dient dan ook te luiden dat de scoringsrubriek kan worden toegepast in verschillende contexten maar dat de meer algemene omschrijvingen vaak nog gefinetuned dienen te worden voor gebruik binnen het eigen vakgebied. Dat sluit ook aan bij de opmerking in hoofdstuk 6.7 dat de verwerving van generieke vaardigheden het best plaatsvindt binnen de context van een specifiek beroep of vakgebied. Zoals al bleek bij de bespreking van de manier waarop de scoringsrubriek door vakdocenten gebruikt wordt op De Haagse Hogeschool kan deze dan toch een functie hebben als basis en uitgangspunt voor de formulering van een eigen beoordelingsmodel. Dat geldt bovendien voor het ‘concept’ waar de scoringsrubriek voor informatievaardigheden op is gebaseerd, de beschrijvingen op twee niveaus en vervolgens de vertaalslag naar een score op de Likertschaal. De versie van de scoringsrubriek die beschikbaar is op de HBO Kennisbank is dan ook gepubliceerd onder de Creative Commons licentie ‘Naamsvermelding – Niet Commercieel – Gelijk Delen’ waarmee impliciet wordt aangegeven dat ze voorafgaande aan het hergebruik mag worden bewerkt. Het literatuuronderzoek dat is verricht voor hoofdstuk 7 en 8 suggereert zelfs dat aanpassing van een scoringsrubriek in samenspraak met de studenten zelf de meeste positieve effecten zal hebben op het leerproces van studenten (Andrade, Du & Wang, 2008, p. 4; Reddy & Andrade, 2010, p. 445). De voordelen van een generiek beoordelingsmodel dreigen dan wel verloren te gaan.

9.4.3 Gebruik van de scoringsrubriek voor onderwijsontwikkeling

Het onderzoek heeft zich voornamelijk beperkt tot de ontwikkeling, test en evaluatie van een

beoordelingsinstrument voor informatievaardigheden. Zoals beschreven in hoofdstuk 8 kan de

scoringsrubriek ook fungeren als een startpunt voor het ontwerp en herontwerp van trainings- of instructieprogramma’s op het gebied van informatie- en onderzoeksvaardigheden, het formu- leren van geschikte studieopdrachten of de integratie van informatievaardigheden in curricula. De beschikbaarheid van de scoringsrubriek alleen is echter niet voldoende om goed onderwijs in informatievaardigheden tot stand te brengen. Dat was ook een boodschap van de deeltijdstudenten tijdens het focusgroepsgesprek dat is beschreven in hoofdstuk 7: als beoordelings- en feedbackin- strument is de scoringsrubriek zeker zinvol, als informatiebron veel minder. Daarvoor geeft de scoringsrubriek te weinig antwoord op de vraag hoe je het oplossen van informatieproblemen wel zou kunnen aanpakken.

Als opleidingen aan de hand van de scoringsrubriek wijzigingen aanbrengen in hun curriculum of onderwijsprogramma, dan moeten zij dus nog altijd nadenken over de vraag hoe het onderwijs met betrekking tot die nieuwe onderwerpen wordt ingericht. Zoals al eerder aangegeven in hoofdstuk 1 dienen leeruitkomsten, te gebruiken leeractiviteiten en toetsvormen immers nauwkeurig op elkaar afgestemd te worden, het idee van “constructive alignment” (Biggs, 2003). Het onderzoek dat is uitgevoerd beperkt zich tot een keuze voor inbedding van de beoordeling van informatievaardig-

9

heden in de beoordeling van (bestaande) studieopdrachten. Het gaat niet in op de vraag welke

onderwerpen dan onderwezen zouden moeten worden en ook niet op de vraag hoe die dan aan de orde gesteld moeten worden. In het Nederlandse taalgebied bestaan inmiddels overigens ver- schillende onderwijsmethodes die voor het onderwijs in informatievaardigheden kunnen worden gebruikt en die goed aansluiten bij de scoringsrubriek (Van Veen & Westerkamp, 2010; Brand- Gruwel & Wopereis, 2014). In de tweede editie van het boek van Van Veen en Westerkamp is de tekst van het prototype zelfs letterlijk opgenomen (pp. 216-222).

Een van de conclusies van het onderzoek was dan ook dat de ontwikkelde scoringsrubriek niet alleen een antwoord is op de onderzoeksvraag (“Wat is een betrouwbaar, valide en praktisch bruik- baar instrument dat generiek toepasbaar is voor het beoordelen én het bevorderen van de infor- matievaardigheden van individuele studenten in het hoger onderwijs?”) maar dat ze ook hulp kan bieden bij het ontwerpen van onderwijs en het formuleren van geschikte opdrachten.