SIVON introduceert toetsingskader AI

Artificiële intelligentie (AI) biedt grote kansen in het onderwijs. Tegelijk zijn er risico’s voor privacy, gelijke kansen en onderwijskwaliteit. Wat mag wel? Wat moet je regelen? En hoe houd je grip op risico’s? Het Toetsingskader AI, ontwikkeld door SIVON in samenwerking met Kennisnet, helpt daarbij.

Leveranciers

Het toetsingskader richt zich in eerste plaats op leveranciers. Zij kunnen hiermee, op basis van de AI-Verordening, nagaan of hun ICT-systeem met AI onder de nieuwe regels valt, welke risico’s dat meebrengt en welke maatregelen nodig zijn om aan de wettelijke eisen te voldoen en risico’s voor leerlingen en medewerkers te beperken.

Scholen

Voor scholen is het met name interessant om zich bewust te zijn van de hoog-risico-toepassingen, omdat je dan als school extra maatregelen moet nemen. In het toetsingskader wordt uitgelegd wanneer een systeem hieronder valt (wat is precies de definitie van een AI-systeem volgens de verordening), welke mogelijke uitzonderingen er zijn en welke maatregelen de leverancier en het schoolbestuur moeten nemen als ze gebruik maken van een hoog-risico-toepassing.

Let op: Wordt er op jouw school AI-tools of generatieve AI door docenten aangepast voor onderwijstoepassingen dan wordt jouw school gezien als aanbieder van een AI-systeem. Dit betekent dat de school dan de ook de stappen van de leverancier moet doorlopen.