AI in het onderwijs

Adaptief Leren en Personalisatie

AI-gedreven adaptieve leersystemen hebben de mogelijkheid om zich aan te passen aan de individuele behoeften en leerstijlen van studenten. Deze systemen analyseren continu het gedrag en de prestaties van studenten, waardoor ze op maat gemaakte leermaterialen kunnen aanbieden. Hoewel dit de educatieve ervaring kan verrijken, ontstaan er privacy knelpunten doordat persoonlijke gegevens van studenten worden verzameld en geanalyseerd. Als zo’n adaptief leersysteem verkeerd is ontworpen of onjuist wordt gebruikt, zou een leerling ten onrechte leerstof aangeboden kunnen krijgen op een niveau dat niet passend is.

Het is dan ook denkbaar dat het gebruik hiervan (privacy) risico’s met zich mee kan brengen, zeker wanneer er verder geen menselijke controle zou plaatsvinden. In de huidige tekst van de Europese AI-verordening worden enkele AI-systemen in het onderwijs als hoog risico-systemen aangemerkt. Het gaat dan onder andere over AI-systemen voor het toelaten en beoordelen van leerlingen en studenten, maar ook adaptieve leermiddelen en fraudedetectiesystemen zouden hieronder kunnen vallen.[1] AI-systemen met een hoog risico dienen te voldoen aan strenge eisen conform de AI-verordening.

Data verzameling en Profilering

Eén van de privacy uitdagingen is de omvang en aard van de gegevens die worden verzameld. AI-systemen verzamelen vaak niet alleen academische prestatiegegevens, maar ook gedragsgegevens, socio-economische informatie en andere persoonlijke details. Dit kan leiden tot uitgebreide en mogelijk onjuiste profielen van individuele studenten, wat risico’s met zich meebrengt met betrekking tot de bescherming van deze gevoelige informatie, zoals discriminatie, oneerlijke behandeling of onjuiste aannames en beslissingen. Ook kunnen gebruikers op basis van hun dataprofiel in een bepaalde richting worden gedreven, anders dan hun eigen voorkeur. Dit heeft effect op iemands vrije persoonlijke ontwikkeling.

Transparantie

Een andere zorg is de mate van toestemming en bewustzijn die studenten en hun ouders hebben over het gebruik van hun gegevens in AI-systemen. Een goede informatievoorziening, waarbij betrokkenen volledig op de hoogte zijn van welke gegevens worden verzameld en hoe deze worden gebruikt, is van essentieel belang. De AI deskundigengroep, opgericht door de Europese Commissie, heeft ethische richtsnoeren opgesteld waarin onder andere invulling is gegeven aan transparantie. Dit is gedaan aan de hand van de volgende drie kernwaarden: traceerbaarheid, verklaarbaarheid en communicatie. Onderwijsinstellingen en of andere aanbieders van AI-systemen binnen het onderwijs dienen dan ook te investeren in het transparant informeren van betrokkenen. In het bijzonder omdat transparantie over de algoritmen en besluitvormingsprocessen van AI-systemen ook cruciaal is voor de betrouwbaarheid ervan.

Bias

AI-algoritmen kunnen onbedoeld vooroordelen en discriminatie introduceren als ze zijn getraind op datasets die inherente bias bevatten. In een artikel van Kennisnet vertelt Eric Postma, “Het is een feit dat AI discrimineert en niet genderneutraal reageert, omdat het een weerspiegeling is van onze maatschappij”. Ieder mens heeft een bias, waardoor dit onbedoeld in het AI-algoritme is verwerkt. In het onderwijs kunnen deze vooroordelen resulteren in ongelijke kansen en behandeling van studenten. Het is van belang om bewust te zijn van deze risico’s en mechanismen in te bouwen om discriminatie tegen te gaan.

Gebruik

Privacy in het onderwijs is voor Privacy First de komende jaren een belangrijk aandachtsgebied. Om dit te kunnen waarborgen, is het essentieel om richtlijnen te ontwikkelen voor het gebruik van AI in het onderwijs. Het is van groot belang om een evenwicht te vinden tussen innovatie en de bescherming van privacy. Een gezamenlijke inspanning van onderwijsinstellingen, beleidsmakers, belangenbehartigers en technologische ontwikkelaars is nodig om verantwoord gebruik van AI in het onderwijs te waarborgen.

[1] Kennisnet, De AI Act: wat kunnen scholen verwachten van deze nieuwe wet? (29 juni 2023) en overweging 35 in de AI-verordening.