Onlangs is de AI Act in Nederland in werking getreden. Deze Europese verordening omvat de eerste uitgebreide wetgeving die specifiek is gericht op artificiële intelligentie. De verordening heeft tot doel om enerzijds te zorgen voor veilige en betrouwbare AI-systemen en anderzijds fundamentele rechten te beschermen. Boels Zanders is bekend met de gevolgen van de verordening voor het MKB en het onderwijs.
‘Het is belangrijk om grip te houden op wat studenten, stagiaires en medewerkers met AI mogen doen’
AI blijft
Artificiële intelligentie speelt inmiddels een niet meer weg te denken rol in ons dagelijkse leven. Soms is dat zichtbaar, soms zijn we ons er niet van bewust. De ontwikkelingen gaan razendsnel. “AI wordt grootschalig omarmd door organisaties vanwege de voordelen die het biedt. In de praktijk is het gebruik van AI echter niet zonder risico’s.” Aan het woord zijn Sharinne Ibrahim en Caspar Bottemanne, werkzaam bij Boels Zanders. Beiden zijn advocaat en beiden maken ze onder meer deel uit van het gespecialiseerde sectorteam Onderwijs.
‘Kennis omtrent AI is noodzakelijk om verantwoord met AI te kunnen omgaan’
EU verordening
Sharinne: “De wet- en regel-geving rondom AI ontwikkelt zich eveneens in hoog tempo. De AI Act is gefaseerd in werking getreden vanaf 2025 met de verwachting van een volledige werking in 2026. De verordening bevat regelgeving omtrent het gebruik van AI en deelt AI-systemen in op basis van impact en risico. Deze regels gelden direct. Hoe groter het risico om schade te veroorzaken aan burgers of de samenleving in het algemeen, hoe strenger de regels. Bij onaanvaardbare risico’s geldt zelfs een algeheel verbod op het gebruik van AI-systemen. De rechtstreekse werking van de AI Act in Nederland brengt met zich mee dat onder andere het MKB en onderwijsinstellingen maatregelen zullen moeten treffen. Organisaties krijgen de tijd om zich voor te bereiden, specifiek beleid te ontwikkelen en instructies voor medewerkers uit te werken.”
‘Verantwoordelijk omgaan met AI dient binnen de organisatie gegarandeerd te zijn’
Caspar: “Ook het onderwijs kan niet meer om AI heen. Op dit moment is er een grote focus op het voorkomen van fraude met AI. Berucht en bekend is het vermoeden dat leerlingen en studenten op grote schaal teksten, zoals essays, laten schrijven door AI. Er bestaat zelfs het vermoeden dat studenten certificaten voor praktijkervaringen hebben laten schrijven door AI op basis waarvan kennis en kunde wordt verondersteld die de studenten niet hebben. Persoonlijk zie ik het gebruik van AI-systemen echter als kans voor het onderwijs, mits de onderwijsinstellingen zich in AI verdiepen en een helder beleid voeren. Voor toekomstige generaties wordt het gebruik van AI steeds normaler. AI is voor hen een bibliotheek, copywriter, sparring partner en opmaakexpert inéén. Uiteindelijk wordt AI voor scholieren en studenten een onderdeel van schoolcurricula.”
Ai-geletterdheid
Organisaties hebben binnen de gegeven kaders van de AI Act een bepaalde vrijheid in hoe ze deze willen toepassen. Sharinne: “Onderdeel van de AI Act is de AI-geletterdheid. De AI-verordening verplicht hiermee gebruiksverantwoordelijken van AI-systemen tot het bevorderen van AI kennis van de gebruikers.” De AI-geletterdheid focust zich op de bewustwording ten aanzien van het gebruik van AI en de gevolgen van de inzet en de output daarvan. “We raden organisaties aan om transparant te zijn aan de voorkant. Voor alle medewerkers moet in één oogopslag duidelijk zijn wat wel en niet mag ten aanzien van AI gebruik. Kennis omtrent AI is noodzakelijk om verantwoord met AI te kunnen omgaan.” Caspar vult aan: “Iedereen die AI gebruikt moet AI eerst begrijpen. Dan pas kan je beslissen welke toepassingen en uitkomsten van AI bruikbaar zijn en welke niet.”
Sharinne: “Elke AI verantwoordelijke moet voldoen aan AI-geletterdheid. Organisaties hebben heldere gebruiksinstructies nodig voor bepaalde AI tooling. Verantwoordelijk omgaan met AI dient dus binnen de organisatie gegarandeerd te zijn. Dit geldt ook voor het onderwijs, het bedrijfsleven en stagebedrijven. In het geval van stages is hier een rol weggelegd voor zowel het stagebedrijf als de onderwijsinstelling. Het is belangrijk om grip te houden op wat studenten, stagiaires en medewerkers met AI mogen doen. Duidelijk beleid is daarbij essentieel, ook vanuit het oogpunt van Privacy en Intellectueel Eigendom.”
Caspar: “In het onderwijs wordt AI steeds belangrijker. Onderwijsinstellingen gebruiken bijvoorbeeld zelf digitale proctoring en plagiaatscanners. Studenten
gebruiken AI tools als ondersteuning bij bronnen-onderzoek en het (her)schrijven van teksten.”
Onderwijsinstellingen zijn volgens Caspar nog zoekende.
Aan studenten wordt steeds vaker om verantwoording gevraagd omtrent AI gebruik. Caspar vervolgt: “Er kan sprake zijn van fraudegevoeligheid of juist van effectief opleiden door middel van AI gebruik. Dit levert een spanningsveld op dat aandacht behoeft. De onderwijsinstelling moet nadenken over wat verwacht wordt van studenten. Voorkomen is beter dan genezen. Als een onderwijs- of stageinstelling pas aan het einde van de opleiding of stage tot de conclusie komt dat de leerling niet kan wat wordt verwacht, dan begint een lastig proces. Iemand laten herkansen of weigeren een diploma af te geven zijn ingrijpende beslissingen. Concrete besluiten over de inzet van AI of sanctionering daarvan moeten dus waterdicht zijn. Ook de samenleving zal vragen om verantwoordelijkheid en verantwoording: Onderwijs-instelling, kunnen wij vertrouwen op de kennis en vaardigheden van de professionals die jullie afleveren?”
‘AI moet op de bestuurlijke agenda’
Visie op AI noodzakelijk
“Een duidelijke visie op het inzetten van AI is noodzakelijk”, aldus Sharinne. “Als het beleid omtrent AI niet op orde is, kunnen privacywetgeving en intellectuele eigendomsrechten vanuit de organisatie ook niet geborgd worden. AI moet daarom op de bestuurlijke agenda. Dit wordt een continue proces, net zoals dat bij de AVG wetgeving het geval was. Denk met elkaar na over de rol die AI speelt binnen de organisatie. Overleg samen over hoe risico’s vermeden en de medewerkers en stagiaires beschermd kunnen worden. AI geletterdheid moet structureel geïntegreerd worden en de kaders moeten duidelijk zijn, zodat iedereen leert navigeren in een AI gedreven samenleving. Ons advies is dan ook: start zo vroeg mogelijk met het inpassen van AI wetgeving.”
Tekst: Ellen Kupers • Fotografie: Irene van wel en Rebecca Fertinel
