• Uitleg
• |
• Artificial intelligence
• |
• po
• vo
• mbo

Ethische dilemma’s en de inzet van AI in het onderwijs

Het gebruik van AI in het onderwijs kan heel nuttig zijn. Zo kan het leraren ondersteuning bieden bij het creëren van lesmaterialen, voor leerlingen als tutor dienen als een echte docent niet beschikbaar is en assisteren bij het monitoren van leerresultaten en de voortgang van leerlingen. Maar de keuzes die zijn gemaakt bij het ontwerpen van de technologie achter een AI-tool kunnen op gespannen voet staan met wat we in het onderwijs belangrijk vinden. Hoe ga je daarmee om?

Door Michel Cents

Bijgewerkt op 25 september 2025

10 minuten lezen

AI is niet neutraal

Technologie is niet neutraal. Het ontwerp van een technologische tool of applicatie weerspiegelt de waarden en overtuigingen van de maker. Het kan zijn dat die waarden en overtuigingen niet stroken met de waarden van het onderwijs. Ook AI is geen neutrale techniek. Onder andere omdat de antwoorden die bijvoorbeeld een AI-chatbot geeft gekleurd zijn door de manier waarop de bots getraind en geprogrammeerd zijn. Het is belangrijk om daar rekening mee te houden bij het gebruik van AI. En na te denken over wat AI betekent voor het onderwijs.

Waarden en dilemma’s

We leggen hier aan de hand van 5 belangrijke onderwijswaarden uit hoe ontwerpkeuzes in AI-tools kunnen botsen met onderwijswaarden. We beschrijven een aantal schoolsituaties, het dilemma dat daaruit kan volgen en doen een aanbeveling over hoe je hier het beste mee om kunt gaan.

1. Autonomie

Autonomie draait om het zelf kunnen maken van keuzes en het kunnen leiden van een eigen leven zonder dat anderen daar (te veel) invloed op hebben.

Voorbeeld

Een leerling vraagt aan ChatGPT of een andere AI-chatbot: “Ik wil mijn profielwerkstuk misschien doen over klimaatactivisme of over duurzame energieoplossingen. Wat kan ik beter kiezen?” Na een kort gesprek komt de chatbot met een aanbeveling: “Klimaatactivisme’ is een complex en politiek gevoelig onderwerp. Je kunt beter voor ‘duurzame energieoplossingen’ kiezen. Dat levert vaak betere cijfers op en is makkelijker te onderbouwen.”

Uitleg

In eerste instantie lijkt ChatGPT een goede suggestie te geven. De leerling wil immers een goed cijfer! Maar wat de leerling misschien niet weet, is dat het model de leerling geen neutraal advies geeft, maar een bepaalde richting opstuurt. Dit gebeurt via technieken zoals fine-tuning, filtering en systeemprompts, die gebaseerd kunnen zijn op specifieke politieke en economische voorkeuren. Zo mogen Amerikaanse AI-modellen als het aan Trump ligt geen ‘woke AI’ bevatten en geven deze modellen vooral wenselijke antwoorden om productafhankelijkheid te creëren. Dit wordt in het Engels sycophancy genoemd.

Spanning

Antwoordt de leerling vervolgens met ‘dankjewel! op de suggesties van de chatbot? Dan wordt bevestigd dat de sturing werkt. Dat is voor de ontwikkelaars van de chatbot handig om het model te verbeteren en de sturing nog preciezer en effectiever te maken. Maar er staat tegenover dat het de toekomst van een leerling kan vormen, zonder dat de leerling zich hier bewust van is of hier toestemming voor gegeven heeft.

Aanbeveling

Leerlingen kunnen zich alleen weren tegen deze sturing als ze zich er bewust van zijn. Zorg daarom dat leerlingen digitaal geletterd raken, met extra aandacht voor het kritisch perspectief. Met name kerndoel 23c (vo) uit de kerndoelen digitale geletterheid van het SLO vraagt daar aandacht voor: ‘De leerling analyseert hoe digitale technologie, digitale media en de samenleving elkaar wederzijds beïnvloeden’.

2. Privacy

De term privacy beschrijft de ruimte waarin je kunt leven en handelen, zonder dat je bekeken, gevolgd of beïnvloed wordt. Dit wordt ook wel ‘bescherming van de persoonlijke levenssfeer’ genoemd. Privacy is een grondrecht en een mensenrecht.

Voorbeeld

In het Amerikaanse leerplatform ‘Khanmigo’ kan de docent de activiteiten van leerlingen volgen. Zo kan een leraar precies zien welke leerling wat heeft gedaan bij een onderdeel als ‘Het begrijpen van zuren en basen’. Dat geeft niet alleen inzicht in hoe een leerling mogelijk geredeneerd heeft bij een antwoord op een toets, maar ook in welke leerlingen meer persoonlijke begeleiding nodig hebben. Maar wat doet het met een leerling als je weet dat alles wat je doet gevolgd wordt? Niet alleen of en hoe lang je pauzeert en welke fouten je maakt, maar welke inhoud je frustreert en hoe je emotioneel reageert. Zeker als het platform de toon van een reactie baseert op jouw emoties: “Je lijkt ongeïnteresseerd in dit onderdeel. Zal ik het op een andere manier uitleggen?”.

Uitleg

Een AI-systeem dat het leerproces van een leerling door een voorgeprogrammeerde lens volgt, stuurt een leerling enkel in de richting van het gedrag dat het systeem goedkeurt. Het systeem bepaalt in dat geval wat goed leren is en onderdrukt de onvoorspelbaarheid, onzekerheid en de creatieve worsteling, die juist bij diepgaand leren horen.

Spanning

Constante feedback en tracking doen iets met de motivatie, nieuwsgierigheid en de bereidheid van een leerling om risico’s te nemen. Er zijn aanwijzingen dat het continue monitoren van leerlingen verandert hoe leerlingen handelen, zelfs als er geen leraar aanwezig is. Zo zouden ze zichzelf reguleren om te voorkomen dat ze als traag, afgeleid, of dromerig worden gezien. De vrijheid om te falen – een van de belangrijkste onderdelen van het leren – kan hiermee worden ondermijnd.

Aanbeveling

• Zet kinderrechten centraal in de digitale leeromgeving.
• Zorg voor voldoende vrije ruimte om te leren, spelen, oefenen en uit te proberen zonder digitaal gemonitord of gevolgd te worden.
• Betrek leerlingen bij de keuze voor online leermiddelen. Ga in gesprek over hoe zij prettig en zinvol leren. Je kunt daarbij het Ethiekkompas gebruiken.

3. Gelijke kansen

Elke leerling verdient gelijke kansen in het leven. Alleen kan niet elke ouder hun kind op dezelfde manier helpen of ondersteunen. Daarom heeft ook het onderwijs een rol bij het vergroten van kansengelijkheid.

Voorbeeld

Een leraar gebruikt een slimme nakijkoptie als ‘Gradescope’ om de handgeschreven toetsen van geschiedenis snel na te kijken. De leraar scant het stapeltje toetsen met de laserprinter op school en uploadt de bestanden en het correctiemodel in het systeem. Het systeem herkent de antwoorden, sorteert de scores en geeft direct een eerste beoordeling. Het scheelt de docent úren werk! Maar bij nader inzien merkt de leraar op dat leerlingen met nettere formuleringen en signaalwoorden als ‘daarnaast’ steevast meer punten krijgen. Ook als hun antwoorden inhoudelijk hetzelfde zijn.

Uitleg

De manier waarop AI iets meet of beoordeelt kan systematisch scheef zijn door de manier waarop een model is getraind en de informatie waar het mee is gevoed. Het gevolg is dat de AI niet meet wat je eigenlijk wilt meten – de inhoud van een antwoord – maar wordt beïnvloed door irrelevante factoren, zoals de lengte van zinnen, spellingsfouten of cultuurgebonden woordgebruik dat inhoudelijk hetzelfde betekent. Dit kan leiden tot oneerlijke of foutieve beoordelingen.

Spanning

Enerzijds krijgen leerlingen met dezelfde inhoudelijke kennis, maar minder taalvaardigheid – door bijvoorbeel dyslexie of NT2 – mogelijk minder punten en daarmee slechtere cijfers en minder kansen. Anderzijds bevestigt het systeem dat goede antwoorden altijd op een bepaalde manier geformuleerd moeten worden, waardoor de antwoorden van leerlingen met andere taalregisters lager gewaardeerd zullen worden. Hoe meer leraren zo’n model gebruiken, hoe meer leerlingen zich kunnen aanpassen aan datgene wat het model beloont, zoals méér signaalwoorden. Zo kan taal een drempel worden in plaats van een hulpmiddel om te leren. Iets wat efficiënt en objectief lijkt, versterkt juist de sociale en structurele vooroordelen.

Aanbeveling

• Met bepaalde instellingen – zoals een goede systeemprompt – zou je het model kunnen instrueren meer op de inhoud te letten en minder op de schrijfstijl. Maar je zou ook kunnen zeggen dat je hiermee de (structurele) ongelijkheid áchteraf probeert te repareren. Kies daarom voor applicaties en tools die specifiek zijn ontworpen voor het onderwijs en waarbij diversiteit is meegenomen in het ontwerp.
• Meer weten over nakijkondersteuning door AI? Lees meer over het project ‘Open vragen nakijken met hulp van AI’ van Citolab.

4. Betekenisvol contact

Bij een goed contact tussen leerling en leraar zijn leerprestaties hoger en kunnen leerlingen zich beter ontwikkelen.

Voorbeeld

Om de leesvaardigheid van leerlingen te ontwikkelen, gebruikt een docent de ‘Microsoft Leescoach’. Op basis van een leuk karakter, een setting en het leesniveau wordt een verhaaltje gegenereerd, zodat leerlingen kunnen oefenen met inhoud die aansluit bij hun interesses. Al snel zitten zelfs de meeste onwillige leerlingen met hun ogen aan het scherm geplakt, waarbij het systeem de leerlingen moeiteloos doorstuurt naar een hoger niveau. In eerste instantie ervaart de docent een zekere mate van rust. Eindelijk wordt de aandacht van leerlingen vastgehouden. De leraar besluit daarom om helemaal niet meer klassikaal met elkaar te lezen.

Uitleg

Applicaties zoals de leescoach leggen de focus op specifieke, meetbare onderdelen van (technisch) lezen, zoals vlotheid en accuraatheid. Maar alles wat niet meetbaar is – verbeelding over het scenario, het invoelen van wat de personages meemaken, de moed om hardop voor de klas te lezen of twijfelen of het verhaal wel klopt kan dan uit beeld verdwijnen.

Spanning

Hoewel AI (goed) op niveau kan differentiëren, is de vraag wat er dan nog voor de leraar overblijft. Toezicht houden, het systeem volgen en de output controleren? Maar wanneer vraag je dan wat een leerling van een verhaal vindt of erbij voelt? Met het automatiseren van leesbegeleiding loop je de kans belangrijke momenten om betekenisvol contact aan te gaan te missen.

Aanbeveling

• Wat betekent goed onderwijs als AI een rol begint te spelen in de klas? Wellicht wil je als school graag het technisch leesniveau van een leerling meten, maar is de structurele inzet van een leescoach daar de oplossing voor? Een logische vervolgvraag is dan ook wat onderwijs eigenlijk ‘goed’ maakt? Volgens de visie van Gert Biesta op AI en opgroeien moeten we blijven nadenken hoe we leerlingen in de vorming kunnen aanmoedigen tot volwassenheid. Als AI die vorming (deels) overneemt, op basis van data, logica en optimalisatie, verliezen we grip op dat proces.
• Wil jij weten wat de impact van onder andere AI is op de pedagogiek van jouw onderwijs? Neem dan contact met ons op voor het Pedagogische Impact assessement Onderwijstechnologie (PIO).

5. Soevereiniteit

Soevereiniteit gaat over de vrijheid om zelfstandig te beslissen. Zonder dat anderen daar invloed op hebben.

Voorbeeld

Een school kiest ervoor om vol in te zetten op de onderwijsproducten van een Amerikaans AI-bedrijf. De toepassing van AI maakt het niet alleen mogelijk om makkelijker gepersonaliseerd leren toe te passen, het neemt ook leraren werk uit handen doordat het studiemateriaal kan genereren. Totdat een groot deel van het bedrijf in handen komt van een organisatie wiens kernwaarden ver af staan van die van de school en blijkt dat het gebruik van AI bij schrijven kan leiden tot zorgelijke ontwikkelingen op het gebied van hersenactiviteit of cognitieve prestaties. Hoe komt de school dan los van een bedrijf waar het op verschillende manieren van afhankelijk geworden is?

Uitleg

AI-bedrijven – zoals OpenAI – zijn tot op heden niet winstgevend. Toch hebben zij investeringen nodig om hun producten te kunnen doorontwikkelen. Dus is het belangrijk bepaalde klantengroepen aan zich te kunnen binden met grootse beloftes. Daarom wordt onder andere in onderwijs fors geïnvesteerd. Dat is commercieel gezien niet zo gek gezien het feit dat leerlingen en studenten (of ‘lerenden’) inmiddels de grootste gebruikersgroep vormen. Zo proberen ze scholen op agressieve wijze te beïnvloeden over hoe het onderwijs en de rol van een leraar er in de toekomst uit zou moeten zien.

Spanning

Onder het motto ‘move fast and break things’ proberen bedrijven als OpenAI zich zo snel mogelijk op de markt te bewegen. Maar hiermee brengen ze ook producten uit die niet goed werken of niet goed in de (Nederlandse) onderwijspraktijk getest zijn. Scholen kunnen hierdoor te maken krijgen met een permanente testomgeving met technologie die vaker tegenwerkt dan ondersteunt. Bovendien kunnen bedrijven zelf soms net zo hard weer verdwijnen als ze zijn ontstaan of in handen komen van dubieuze eigenaren.

Aanbeveling

• Maak gebruik van de kennis die wordt gedeeld door Public Spaces over tools en software die zijn gebaseerd op publieke waarden.
• Verdiep je in of neem deel aan een project van het Nationaal Onderwijslab AI (NOLAI). NOLAI ontwikkelt en onderzoekt verantwoorde educatieve AI.

Onderdeel van de ‘Handreiking AI voor scholen’

Deze online handreiking helpt scholen om bewuste en verantwoorde keuzes te maken over het gebruik van artificial intelligence. Je vindt er verschillende artikelen met tips en verdiepende informatie over AI.

Ga naar startpagina 'Handreiking AI voor scholen'