RAISE – raamwerk voor risicobeoordeling van AI
AI-toepassingen bieden kansen voor het onderwijs, maar kunnen ook risico’s hebben voor studenten, medewerkers en de organisatie. RAISE helpt mbo-, hbo- en wo-instellingen om die risico’s in kaart te brengen en passende maatregelen te nemen. Het raamwerk combineert de verplichtingen uit de Europese AI-verordening met een bredere beoordeling van verantwoord AI-gebruik.
Wat?
RAISE is een stappenplan voor de beoordeling van AI-systemen en impactvolle algoritmes.
Voor wie?
RAISE is ontwikkeld voor mbo-, hbo- en wo-instellingen die AI-systemen of impactvolle algoritmes aanschaffen, ontwikkelen of gebruiken.
Samenvatting
RAISE is een stappenplan voor de beoordeling van AI-systemen en impactvolle algoritmes. Het bestaat uit vijf stappen:
- Signaleren
- Identificeren
- Classificeren
- Aanvullende risicobeoordeling
- Beheersen en opvolgen
De eerste drie stappen helpen bepalen met wat voor toepassing de instelling te maken heeft, welk risiconiveau daarbij hoort en welke wettelijke verplichtingen gelden. In de laatste twee stappen beoordeelt de instelling aanvullende risico’s en bepaalt zij hoe deze worden beheerst en opgevolgd. RAISE biedt hiervoor een vaste basis, maar is niet uitputtend. Waar mogelijk staat er per losse stap een verwijzing naar andere ondersteunende tools. Instellingen kunnen de beoordeling uitbreiden met vragen die passen bij hun eigen context, beleid en waarden. Ze kunnen aanvullende ethische vragen meenemen over autonomie, kansengelijkheid, menselijkheid, rechtvaardigheid en transparantie. Bij iedere stap staat waarom deze nodig is, wie betrokken moet worden, hoe je de stap uitvoert en wat het resultaat is. De stappen kunnen ook los van elkaar worden uitgevoerd.
RAISE helpt onderwijsinstellingen bij:
- vaststellen of een toepassing onder de Europese AI-verordening valt;
- het risiconiveau, hun rol en de bijbehorende verplichtingen bepalen;
- aanvullende risico’s beoordelen;
- de beoordeling uitbreiden met eigen vragen, onder meer over publieke waarden;
- passende beheersmaatregelen en vervolgacties vastleggen.
Het resultaat is een onderbouwde en navolgbare risicoafweging. RAISE sluit waar mogelijk aan op bestaande processen rond bijvoorbeeld inkoop, privacy, informatiebeveiliging en risicomanagement.
Voor wie is RAISE?
RAISE is ontwikkeld voor mbo-, hbo- en wo-instellingen die AI-systemen of impactvolle algoritmes aanschaffen, ontwikkelen of gebruiken. Denk aan rollen als:
- de proceseigenaar en medewerkers die de toepassing gebruiken;
- privacy-, security- en complianceprofessionals;
- juristen, inkopers, architecten en risicomanagers;
- AI-coördinatoren;
- vertegenwoordigers van betrokken studenten en medewerkers.
De gebruiker hoeft niet alle juridische of technische kennis zelf te hebben. RAISE helpt om per stap de juiste expertise en perspectieven te betrekken. Bij vragen over publieke waarden kan ook een ethiekcommissie of adviseur publieke worden betrokken.
Huidige status
Het huidige raamwerk is een startproduct, ontwikkeld met vertegenwoordigers uit het mbo, hbo en wo. Zes onderwijsinstellingen gaan het in de praktijk toetsen. Op basis van hun ervaringen wordt bekeken:
- waar het raamwerk moet worden aangescherpt;
- welke ondersteuning instellingen nodig hebben;
- hoe het aansluit op bestaande processen;
- welke voorwaarden nodig zijn om het goed te gebruiken.
Onderzoek en shadow AI/IT vallen buiten de huidige scope.
Ontstaansgeschiedenis
RAISE komt voort uit de eerdere samenwerking rond het algoritmeregister en is daarna verder ontwikkeld met en door vertegenwoordigers van diverse onderwijsinstellingen. Het algoritmeregister maakt zichtbaar welke algoritmes en AI-toepassingen een instelling gebruikt. RAISE ondersteunt instellingen bij de volgende stap: de risico’s beoordelen en beheersen.