Op 10 januari 2020 verzorgde ik de slotlezing van de Panama-conferentie. In deze serie lees je het verhaal dat ik daar heb verteld terug.

Novemberavond

Ik wil je meenemen naar een koude november avond. Zo’n 9 jaar geleden zit een moeder, net als elke avond, op de rand van haar dochter’s bed. Samen kletsen ze nog wat na over de dag en lezen ze samen een boekje. Deze avond vertelt het meisje over school. Ze zit net in groep 3, dus er is een hoop te vertellen.

Foto door Clint McKoy op Unsplash

Het meisje mag in de klas bij de juf zitten. Het lezen gaat nog niet zo vlot. Samen met andere sterretjes wordt ze daarom extra geholpen door de juf. Bij elke oefening, of dit nu voor taal of rekenen is, doet de juf het eerst even voor en vertelt ze daarna wat de kinderen moeten invullen. Zo krijgen deze sterretjes op basis van de methodetoets precies die aandacht die ze in de ogen van hun juf verdienen.

Data als basis

Het is een mooi voorbeeld van hoe je op basis van data je aanpak meteen kunt aanpassen op wat nodig is. Een van de zegeningen van deze tijd. De cijfers liegen immers nooit. Ze zijn accuraat en vooral ook objectief. Vrij van emotie of voor-veronderstellingen. De meerwaarde van nu: data is in ruime mate voor handen en met alle beschikbare software hebben we ook nog de mogelijkheid om de data gebruiksvriendelijk te ontsluiten.

De belofte van al die ontwikkelingen op dit gebied zijn geweldig. Het biedt ons:

1. Een wapen tegen vooroordelen.
   Je wordt bijvoorbeeld niet meer zomaar beoordeeld op je sociale achtergrond, het opleidingsniveau van je ouders of het gedrag van je broer of zus voor jou. Alleen jouw eigen prestaties tellen mee.
2. Efficiëntie en service.
   Denk aan Spötify die je in aanraking brengt met nieuwe muziek die je waarschijnlijk mooi zult vinden. Of aan dashboards waarmee je eenvoudig op allerlei gewenste manieren naar toetsresultaten kunt kijken.
3. De poort tot allerlei verborgen inzichten.
   De complexe patronen die we nu eindelijk kunnen ontdekken. Zoals het verband tussen leefstijl en ziekte. Of een onderbouwing van wat de beste aanpak is in complexe processen zoals het bedrijfsleven maar ook het onderwijs.

Zo was waarschijnlijk ook de gedachte achter een ambitieus project van Amazon. Het bedrijf dat groot is geworden door slim gebruik van data en algoritmes, groeide snel. Logisch dat in diezelfde techniek de oplossing werd gezocht voor het probleem dat die de groei met zich meebracht: hoe neem je zo efficiënt mogelijk de béste mensen aan. Er is immers niets zo kostbaar als de verkeerde mensen aannemen. Voor beide partijen. Er valt enorme winst te behalen in het verkorten van de tijdrovende klus alle CV’s door te nemen en om zonder menselijke vooroordelen van recruiters aan echt diverse teams te kunnen bouwen. De objectiviteit en de efficiëntie van AI werden hier als de heilige graal gezien.

Foto door Franki Chamaki op Unsplash

Objectief?

En gaat dat dan áltijd goed?
Kun je altijd vertrouwen op de objectiviteit van de algoritmes?

Bij dit project van Amazon ging het in ieder geval goed mis. Het project werd stilgezet toen men ontdekte dat het algoritme een hekel bleek te hebben aan vrouwen. De algoritmes waren in dit geval gevoed met de CV’s die Amazon in de tien jaren daarvoor had ontvangen. Data waarin mannen de overgrote meerderheid vormden. En zoals men dat in de AI vaak zegt: crap in = crap out.

En ook bij het meisje in de intro ging het mis. Ze vertelde namelijk niet zomaar over school. Er zat haar iets groots dwars: “Let zwarte piet de hele dag op mij?”. Een wat wonderlijke vraag. Maar dit meisje, scherp van geest en met een sterke behoefte aan autonomie, kreeg het Spaans benauwd van het idee dat er ook na school elke minuut op haar werd gelet. Ze voelde zich geen moment meer privé. Zelfs niet in haar hoofd. Hoe goed ook bedoeld, dat ze in de klas niet meer zelf mocht nadenken, maakte haar intens verdrietig. En eerlijk is eerlijk; het is natuurlijk ook een wat vreemde generalisatie om te denken dat langzamer leren lezen betekent dat iemand je alles moet voorkauwen. En nog wat algemener, dat je op basis van het resultaat van een toets alleen conclusies trekt over de talenten van een specifiek kind, terwijl de toets het resultaat meet van de context van het onderwijsproces en de interacties daarin.

En zo zijn er vele voorbeelden op allerlei terreinen van ons leven. Dieselgate waar de testresultaten zo belangrijk werden dat ze engineering richting een gunstige test in de hand werkten. De toegang tot onze informatie die mede bepaald wordt door ons online gedrag en waardoor filter bubbles ontstaan. De geneesmiddelen industrie die een deel van het gedane onderzoek publiceerde en daarmee tornt aan de basis van goed functionerende wetenschap, waar ook kennis over wat niet werkt onontbeerlijk is. En de politiek waar fake nieuws en statistieken worden gebruikt om meningen als feiten op te poetsen.

. . . . . to be continued . . . . .

Op 10 januari gaf ik een lezing op de Panama conferentie onder de titel: De cijfers liegen niet!
De inhoud van deze lezing is verwerkt in een serie blogposts, waarvan dit de tweede is.

Meer lezen?

Deel 1: Objectief
Deel 2: Blind vertrouwen
Deel 3: Beeld van wiskunde
Deel 4: Rekenen en wiskunde
Deel 5: Doelen voor onderwijs