Bron: 192.168.178.29:8095
Bron:vendorcompliance.surf.nl
Samen met Npuls werken we aan EduGenAI: een platform dat veilig en verantwoord gebruik van generatieve AI in het hoger onderwijs mogelijk maakt. Al in deze fase van de ontwikkeling hebben we een data protection impact assessment (DPIA) laten uitvoeren, waarin verschillende lage risico's zijn geïdentificeerd. Hierdoor kunnen we deze aanpakken tijdens de realisatie van EduGenAI.
Een DPIA is een hulpmiddel om de privacyrisico's van gegevensverwerking in kaart te brengen. De DPIA van EduGenAI, uitgevoerd door Privacy Company, identificeerde 12 lage risico's. Het DPIA-rapport beveelt specifieke mitigerende maatregelen aan voor elk geïdentificeerd risico. Deze omvatten maatregelen om overmatig vertrouwen in de nauwkeurigheid van gegenereerde teksten te voorkomen en maatregelen om de verwerking van persoonsgegevens tot een minimum te beperken.
Als deze ontwikkeldoelen effectief worden geïmplementeerd en getest, kunnen SURF en de onderwijsinstellingen de geïdentificeerde risico's voor de bescherming van persoonsgegevens beperken.
Deze DPIA biedt een vooruitblik op de toekomstige functionaliteit van EduGenAI. De ontwikkelaars zullen de aanbevolen maatregelen meenemen in de verdere ontwikkeling van het platform. Op deze manier werken we als sector samen aan een veilig en evenwichtig aanbod van AI-diensten dat de autonomie van ons onderwijssysteem waarborgt.
Download het DPIA-rapport
Het EduGenAI platform biedt onderwijsinstellingen de mogelijkheid om te chatten met verschillende taalmodellen. Dit zijn zowel open-source modellen gehost door SURF als commerciële modellen. We ontwikkelen EduGenAI om publieke waarden zoals datasoevereiniteit en privacy te beschermen bij het gebruik van generatieve AI, en om wederzijds leren tussen instellingen te bevorderen. Het platform wordt ontwikkeld in nauwe samenwerking met onderwijsinstellingen en is afgestemd op de behoeften en wensen van de gebruikers.Meer over EduGenAI
Wil je meer weten over deze DPIA? Schrijf je dan nu in voor het verdiepende webinar op 4 september (10:00-12:00u, alleen voor SURF-leden). Of neem contact op met SURF atvendorcompliance@surf.nl.
Vragen over de ontwikkeling van EduGenAI? Emailedugenai@npuls.nl.