Vertrouwen en de digitale wereld

In het onderwijs hebben we te maken met een kwetsbare doelgroep – kinderen – en met keuzes en adviezen die van invloed zijn op die kwetsbare doelgroep. Juist in het onderwijs is vertrouwen daarom een belangrijk begrip. In dit artikel beschrijven we hoe technologie vertrouwen kan vergroten, maar ook hoe het vertrouwen soms in de weg kan zitten. 

Basiselementen van vertrouwen

Vertrouwen is een ongrijpbaar concept. Er zijn verschillende definities van in omloop, maar wij gebruiken hier die van Rachel Botsman. Zij is onderzoeker en expert op het gebied van vertrouwen aan de universiteit van Oxford. Volgens Botsman bestaat vertrouwen uit twee basiselementen: betrouwbaarheid en intentie. 

Betrouwbaarheid

De betrouwbaarheid van mensen schatten we meestal in door elkaar diep in de ogen te kijken. Nog beter is het als we tijd hebben om elkaar beter te leren kennen. Kan dat niet? Dan gebruiken we aanbevelingen, referenties of kwalificaties. Ook als het gaat om technologie. Bij websites en diensten als Uber en Tripadvisor gaan we af op de reviews van anderen. Willen we de achterliggende technologie zelf beoordelen? Dan beoordelen we de mensen die de technologie hebben ontwikkeld. En in het geval van software, kunnen we die in de meeste gevallen testen en valideren: komt er in vergelijkbare situaties de juiste uitkomst uit de analyse, is de dataset wel van goede kwaliteit? Ook complexe algoritmes proberen we steeds beter te testen en valideren.

Intentie

Bij de intentie wordt het nog ingewikkelder: bij mensen is dit al best moeilijk te peilen, zeker als we elkaar niet in levende lijve zien. Bij technologie is dit helemaal lastig. Het gaat over vragen als: met welke intentie is deze technologie gemaakt? En is dat ook daadwerkelijk de intentie waarmee de technologie wordt gebruikt? Soms zijn er onvoorziene effecten die niet stroken met de oorspronkelijke intentie. Zo geven sociale media doorgaans een voorkeur aan berichten waar vaak op gereageerd is. De oorspronkelijke intentie was de meest interessante berichten meer aandacht te geven. Daarbij werd ervan uitgegaan dat berichten met veel reacties – en dus interactie – ook door de meeste mensen interessant gevonden worden. Het onbedoelde gevolg is dat veel negatieve berichten met ellenlange ruzies in de comments bovenaan de feed verschijnen. Iets dat niet strookt met de intentie om mensen op een positieve manier met elkaar in contact te brengen.

Vergroten van vertrouwen met wetten en kaders

Het spannende aan vertrouwen is dat het altijd gepaard gaat met een bepaalde mate van onzekerheid. Intenties zijn altijd verborgen – ook tussen mensen – en betrouwbaarheid is pas achteraf met zekerheid vast te stellen. Terwijl mensen wél behoefte hebben aan zekerheid. Als tegenreactie op de negatieve effecten van bijvoorbeeld bevooroordeelde algoritmen of slecht ontworpen modellen is er steeds meer aandacht voor instrumenten om het vertrouwen in technologie te herstellen. Zo is bijvoorbeeld in de wet vastgelegd dat computers en algoritmen nooit zonder menselijk toezicht beslissingen mogen nemen die grote impact hebben op iemands leven. 

Naast het vergroten van vertrouwen door middel van wet- en regelgeving vindt er ook steeds vaker discussie plaats over wat we moreel en maatschappelijk aanvaardbaar vinden. En hoe waarden mee kunnen wegen in de besluitvorming over het wel, niet of voorwaardelijk inzetten van technologie voor bepaalde processen.

Vergroten van vertrouwen met technologie

Technologie kan ons op verschillende manieren helpen om vertrouwen te creëren of te vergroten. Dat gebeurt meestal door het vergroten van de betrouwbaarheid. Het is immers heel moeilijk om intenties goed te doorgronden.

Privacy- en securitymaatregelen

Data wordt steeds beter beveiligd tegen misbruik. Bijvoorbeeld door anonimisering waarmee gegevens worden losgekoppeld van een persoon. Zo kan leerlingdata in adaptief leermateriaal anoniem beschikbaar worden gemaakt zodat algoritmes nog beter getraind kunnen worden. Een ander voorbeeld is geavanceerde encryptie om belangrijke schoolgegevens te beveiligen tegen diefstal of manipulatie. Er wordt zelfs al aan quantumproof-encryptie gewerkt omdat men verwacht dat met de komst van quantum computers veel van de huidige beveiliging en encryptie niet meer voldoet. 

Privacy by design 

Volgens privacywetgeving in Europa is het verplicht om producten en diensten als software zo te ontwerpen dat ze persoonsgegevens standaard goed beschermen. Dit heet privacy by design. Dit gebeurt bijvoorbeeld door goed na te denken over welke verschillende rollen en autorisaties in een systeem nodig zijn. Of hoe we gegevens die niet meer nodig zijn, kunnen verwijderen. En door na te denken over hoe we veilig toegang kunnen geven tot systemen, bijvoorbeeld met gebruik van tweestapsverificatie. 

Decentralisatie

Het idee dat één organisatie of bedrijf veel informatie over ons in handen heeft, wekt niet altijd vertrouwen. Denk aan bedrijven als Facebook, Google of AirBnB, die zeer gedetailleerde profielen over de gebruikers van hun producten opbouwen en op basis van die gegevens bepalen welke informatie een gebruiker te zien krijgt. Informatie lijkt daardoor soms betrouwbaar, maar is dat wel zo als één partij alle touwtjes in handen heeft? 

Een manier om dit tegen te gaan is decentralisatie. Gebruikers zijn zelf eigenaar van hun gegevens en delen die wanneer zij daar zelf toestemming voor geven met een dienst. De dienst slaat die gegevens niet zelf op. Het daadwerkelijk ontwikkelen van een decentraal web is alleen niet eenvoudig. Er komen verschillende technologieën bij kijken die nog niet volledig doorontwikkeld zijn. Denk aan blockchain, privacybeschermende protocollen en een gedecentraliseerde infrastructuur. En dan nog is het de vraag of we helemaal zonder een centrale autoriteit kunnen of willen.

Online reviews 

Online reviews zijn de digitale variant van mond-tot-mond reclame. Op die manier doen we in de digitale wereld vol vertrouwen zaken met mensen die we niet kennen. Heeft de Uber-chauffeur 5 sterren? Dan heeft hij die gekregen door beoordelingen van echte klanten. Dat schept vertrouwen en maakt dat mensen bereid zijn om informatie te verstrekken en diensten af te nemen. Tegelijkertijd is er ook steeds meer kritiek op de betrouwbaarheid van dit soort reviews. Bijvoorbeeld omdat er nepreviews worden ‘gekocht’ om een hogere ranking te krijgen. Er zijn zelfs voorbeelden waarin mensen met kwade intenties de reviews gebruiken voor eigen gewin. Zo maakten mensen misbruik van een geld-terug-garantie bij een taxiplatform door valse meldingen te maken van dronken bestuurders, met als gevolg dat chauffeurs onterecht verbannen werden van het platform. 

Algoritmen 

Ook algoritmen worden steeds vaker ingezet om bijvoorbeeld nepnieuws of deepfakes te detecteren. Denk aan algoritmen die feiten in een politiek debat op echtheid checken. Of algoritmes die kunnen herkennen of een video of foto echt of nep is. Dat is handig en soms ook van levensbelang. Bijvoorbeeld in de situatie waarin men een zelfrijdende auto sneller liet rijden door een sticker op een verkeersbord te plakken: het kleine extra stripje dat het midden van de 3 verlengt, is voor mensen nauwelijks zichtbaar, maar de camera op de auto ziet 85 in plaats van 35. 

Volwassenheid van de trend

De trend ‘vertrouwen en de digitale wereld’ is in te delen op de tijdlijn van de Hype Cycle. Daarmee geven we de volwassenheid aan van een bepaalde technologische trend. Nog niet zo lang geleden was er het rotsvaste vertrouwen dat overal een digitale oplossing voor zou komen. There’s an app for that. Inmiddels ervaren we ook nadelen van digitalisering en vragen we ons steeds vaker hardop af of we alles zonder meer met digitale techniek willen oplossen. In de fases van de Hype Cycle is het onderwerp ‘vertrouwen’ dan ook aan het afdalen naar het dal van teleurstelling, ofwel de trough of disillusionment. In deze fase leren we hoe we vertrouwen en de digitale wereld een goede plek kunnen geven in het onderwijs. Daar zijn nog wel wat hobbels te verwachten. 

Belang voor het onderwijs

Vertrouwen als concept in het onderwijs is niet iets dat we morgen even gaan invoeren, maar het is vooral iets om goed met elkaar over na te denken. Zowel in de klas, als binnen scholen en onderwijsteams. 

Denk aan vertrouwen in technologie als onderdeel van digitale vaardigheden en mediawijsheid. Hoe vertrouwen leerlingen bijvoorbeeld wat ze zien en horen, terwijl ze weten dat deep fakes bestaan waarmee ontzettend veel dingen die nooit gebeurd zijn, echt kunnen lijken en aanvoelen?

Of de mate waarin leraren en andere onderwijsprofessionals vertrouwen hebben in de techniek die hun werk ondersteunt of mogelijk zelfs overneemt. Wordt technologie zomaar omarmd of is er weerstand? Waar ligt dat aan? Wat vinden we een wenselijk niveau van vertrouwen? En wanneer is het juist beter kritisch te zijn? Zo kunnen we er bijvoorbeeld niet altijd op vertrouwen dat een app of andere technologische toepassing op een goede manier met persoonsgegevens omgaat.

Daarnaast moet op school- en sectorniveau de discussie plaatsvinden over wat aanvaardbaar gebruik van technologie is. In de wet is vastgelegd welke beslissingen een algoritme wel en niet mag nemen. Maar dat is niet genoeg, scholen moeten ook hun eigen overweging maken: wanneer is het gerechtvaardigd is om een beslissing aan de technologie over te laten en wanneer niet. Scheelt het leraren vooral tijd en werkdruk als ze zelf geen beoordeling hoeven geven en accepteren we daarom dat een algoritme dat overneemt? Of vinden we de menselijke beoordeling zo belangrijk dat we aanvaarden dat het meer tijd en werk kost?

Aandachtspunten 

Naarmate technologie zich verder ontwikkelt, ontstaan telkens nieuwe uitdagingen op het gebied van vertrouwen. Nieuwe technologieën brengen ons nieuwe kansen, maar hebben meestal ook een keerzijde. Hier lichten we de belangrijkste aandachtspunten op het gebied van vertrouwen toe: 

Toename van dataverzameling 

Overheden verzamelen steeds meer data over inwoners in de openbare ruimte en bedrijven over medewerkers in kantoorpanden, fabrieken en magazijnen. Vaak met goede intenties. Bijvoorbeeld om een soepele gebruikerservaring te leveren of het welzijn van mensen te vergroten. Denk aan een gemeente die de luchtkwaliteit in de stad meet en optimaliseert door verkeersstromen te sturen. Maar ook aan scholen die via bluetooth-apparaten en apps op smartphones registeren waar hun leerlingen op welk moment zijn, zodat de aanwezigheidsregistratie soepeler verloopt. Op welke schaal dataverzameling plaatsvindt en wat er met die data gebeurt, is vaak alleen vrij ondoorzichtig.

Steeds intiemere data

Door technologische ontwikkeling wordt het verzamelen van data bovendien steeds gemakkelijker. Doordat sensoren steeds beter worden weggewerkt, gebeurt het zonder dat wij het weten. De verzamelde data is ook nog eens steeds intiemer van aard. Met beveiligingscamera’s worden gezichten herkend en in sommige gevallen wordt geëxperimenteerd met emotieherkenning. In China worden zelfs hersengolven gemeten om te controleren hoe gefocust leerlingen zijn. Maar ook in Nederland wordt nagedacht over het inzetten van smartwatches om hartslag- en bloeddrukgegevens van leerlingen te gebruiken om escalaties in de klas te voorkomen. 

Ethische afwegingen

Het blijft belangrijk om een afweging te maken tussen gebruiksgemak en privacy: bij het gebruik van programma’s of apparaten komt veel data ter beschikking en dat vergroot vaak het gebruiksgemak, maar soms geven we daarmee ook een deel van onze privacy op. Daarom moeten we nu nadenken over data: hoe wordt het verzameld, wie is de eigenaar, wat gebeurt ermee, waar liggen de grenzen en welke andere ethische vraagstukken zijn daarbij belangrijk? Op die manier voorkomen we situaties waar we achteraf niet mee kunnen leven en waardoor we het vertrouwen in een bepaalde technologie helemaal verliezen.

Toenemend belang van kritisch denken

Het verspreiden van propaganda en desinformatie is niet nieuw. Denk aan situaties in WOII en de Koude Oorlog waarin partijen er veel aan deden om troepen voor zich te winnen en verkeerde informatie over de tegenstander te verspreiden. In het digitale tijdperk wordt technologie gebruikt om valse informatie te verspreiden. Bijvoorbeeld om verdeeldheid te zaaien en om journalistiek of wetenschap een slechte naam te bezorgen. Nepnieuws verspreiden via viral socialemedia-campagnes is vrij gemakkelijk geworden. Hoe bepalen we of een afzender te vertrouwen is? Initiatieven van onderzoeksjournalisten zoals Bellingcat helpen hierbij. Kritisch denken is niet voor niets een belangrijk onderdeel van 21ste eeuwse vaardigheden en wordt hiermee misschien wel steeds belangrijker.

Inzichtelijk maken van beslissingen van algoritmen

Mensen die interactie hebben met computers, systemen, software en algoritmen weten niet altijd hoe een bepaalde beslissing of conclusie tot stand is gekomen. Uitlegbaarheid van algoritmen is daarom een steeds groter aandachtspunt en een manier om het vertrouwen in toepassingen die gebruikmaken van artificial intelligence te vergroten. Als we kunnen begrijpen hoe een systeem tot een besluit komt, kunnen we beter beoordelen of een juist besluit is genomen. Dat is alleen niet altijd even eenvoudig: hoe complexer het algoritme, hoe moeilijker het is om het uitlegbaar te maken.

Vertrouwen op eigen zintuigen

De virtuele wereld wordt steeds realistischer. Het is daarom steeds moeilijker om te vertrouwen op onze eigen zintuigen. Een goed gemaakte deepfake-video is moeilijk te onderscheiden van echt, zelfs voor computers. En virtual reality is compleet gebaseerd op het principe dat iemand een andere realiteit ervaart. De zintuigen worden voor de gek gehouden. Maar als technologie in staat is om ons levensechte ervaringen te geven die niet in een fysieke realiteit hebben plaatsgevonden, ligt beïnvloeding en zelfs manipulatie op de loer. Want als onechte dingen echt lijken, hoe weten we dan nog wat echt is? Daarom wordt bij dit soort virtuele content vertrouwen steeds belangrijker. Zowel vertrouwen in de makers als vertrouwen tussen gebruikers die met elkaar de virtuele wereld betreden. Meer over virtual reality en de gevolgen leest u in het rapport Verantwoord Virtueel van het Rathenau Instituut.