GradeLens-team
Geautomatiseerd nakijken valt recht in AVG-gebied, omdat een cijfer een besluit is dat een leerling raakt en leerlingantwoorden persoonsgegevens zijn. Twee onderdelen van de wet zijn in de praktijk het belangrijkst: Artikel 22, over geautomatiseerde besluitvorming, en de algemene beginselen van dataminimalisatie en doelbinding.
Artikel 22 geeft mensen het recht om niet onderworpen te worden aan een besluit dat uitsluitend op geautomatiseerde verwerking is gebaseerd, wanneer dat besluit hen aanmerkelijk raakt — een eindcijfer voor een toets valt daar duidelijk onder. De praktische eis is betekenisvolle menselijke betrokkenheid: geen afvinkstempel, maar een echte beoordeling met de mogelijkheid om de uitkomst aan te passen. Daarom staat elke suggestie van GradeLens in een controlerij en is geen cijfer definitief voordat een docent akkoord geeft.
Dataminimalisatie en doelbinding bepalen wat er met leerlingenwerk gebeurt na het nakijken. GradeLens slaat toetsen en antwoorden uitsluitend op servers binnen de EU op, en gebruikt leerlinggegevens niet om modellen te trainen tenzij een docent daar expliciet voor kiest — en zelfs dan worden alleen de eigen transcriptiecorrecties van die docent bewaard, nooit namen of antwoorden van leerlingen.
Voor een school of toetscommissie die een tool zoals deze beoordeelt, zijn de vragen die ertoe doen concreet: waar staan de gegevens gehost, is er een menselijke controlestap voordat een cijfer definitief is, wat gebeurt er met de gegevens als training wordt aangezet, en kunnen de gegevens van een leerling op verzoek worden verwijderd. De verwerkersovereenkomst en het beveiligingsoverzicht van GradeLens beantwoorden elk van deze vragen rechtstreeks — de moeite waard om naast dit artikel te lezen, niet in plaats ervan.