Meike Nauta verzorgde een keynote over verantwoord AI-gebruik tijdens het Ladies of Data-evenement op 16 april. Als jonge vrouwelijke datawetenschapper vertelt zij waarom IT toch nog vooral een mannenwereld is.
“Je hoeft geen verpleegster te worden om de zorg beter te maken”
door Robert Heeg
Op 16 april vond de vijfde editie plaats van Ladies of Data in ‘s-Hertogenbosch. Het volgeboekte evenement verbindt en ondersteunt vrouwen in de data-science-sector. Thema dit jaar is: Debiasing (with) AI. De openings-keynote is van Meike Nauta (29), senior data scientist bij Datacation, en ging over verantwoord AI-gebruik.
Hoe werd jouw interesse in data-science gewekt?
‘Ik wilde van jongs af aan iets technisch doen maar was bang om de hele dag in mijn eentje achter een computer te zitten. Juist de menselijke interactie vind ik belangrijk. En ik wil de impact zien, ik wil het ergens voor doen. In AI en data-science komt dat allemaal samen. Je gebruikt krachtige tools die je toepast op allerlei soorten data. De ene keer ontwikkel ik AI voor een ziekenhuis, dus dan werk ik eigenlijk een dagje in de zorg. Een andere keer ontwikkel ik iets voor een school, en dan weer voor drones.’
Hoe zorg je dat AI verantwoord wordt ingezet?
‘AI is nu vaak een zwarte doos. Je stopt er iets in en er komt iets uit. Maar je hebt geen idee wat die AI eigenlijk denkt, doet en leert. Tijdens mijn PhD-onderzoek de afgelopen jaren heb ik nieuwe AI ontwikkeld die wél die uitleg kan geven. Ik focuste daarbij voornamelijk op fotodata (computer vision). Als je een foto van een vogel geeft als input, dan zegt de AI wat die daarop herkent; bijvoorbeeld een specht. Maar de AI vertelt de eindgebruiker niet waarom die juist deze vogelsoort herkent. De nieuwe AI die ik ontwikkelde kan dat dus wel uitleggen.’
Wat kun je met die ervaring in de praktijk?
‘We zien de vraag voor datagedreven werken vanuit bedrijven de laatste tijd echt enorm toenemen. We hoeven ze niet meer te overtuigen van de kracht van AI. Met mijn technische achtergrond in explainable AI, kan ik bedrijven ook de uitdagingen van AI laten zien en ze waar mogelijk een alternatief bieden voor black box AI. Ik ga vanuit Datacation langs bij organisaties, kijk welke data zij hebben, en welke AI-toepassingen mogelijk zijn. Daarbij maken we de beste impact-effort-afweging, en kijken we uiteraard ook naar het ethische aspect. Vervolgens ga ik die AI, in nauwe samenwerking met de klant, voor hen ontwikkelen.’
Wat voor uitdagingen kunnen die bedrijven tegenkomen?
‘Je wil AI-vooroordelen vermijden, maar deze biases liggen vaak verborgen in een enorme berg data. Om erachter te komen welke ongewenste redeneringen AI erop nahoudt moet je die zwarte doos openen die AI is, want dan kun je zien wat het nu eigenlijk leert. Met mijn technische expertise, gekoppeld aan dat menselijk aspect, ondersteun ik bedrijven daarin. Zo kwam ik ook als docent terecht bij JADS, dat onder meer Ladies of Data organiseert.’
Heeft AI vooroordelen over vrouwen in de datawetenschap?
‘AI kent zelf in principe geen normen of waarden. Het leert gewoon puur uit data. Maar in die data kunnen wel biases verborgen zitten die AI vervolgens oppikt. Amazon zocht bijvoorbeeld nieuw personeel. Ze wilden AI automatisch cv’s laten scannen op de meest interessante kandidaten. Maar AI leert puur van data en vindt trends die nuttig zijn voor de uiteindelijke taak. Op basis van de cv’s van eerder aangenomen werknemers had Amazon als techbedrijf veelal mannelijke werknemers in dienst. Van dat overaanbod aan mannelijke voorbeelden in de trainingsdata had AI simpelweg geleerd dat Amazon geen vrouwen hoefde aan te nemen. Niet de bedoeling natuurlijk! Als je dat geleerde vooroordeel eenmaal weet, dan kun je die bias aanpakken.’
Weerhouden biases jonge vrouwen van een carrière in data?
‘Dat zou ik niet durven zeggen. Wel is het zo dat het aantal vrouwen in de wereld van AI, en IT in z’n algemeenheid, erg laag is. Op de universiteiten is het aantal AI-hoogleraren wereldwijd voor zo’n 80 procent man. Dat geeft al direct een bias. Het aantal mensen dat afstudeert aan een opleiding in AI en informatica is ook voor het merendeel man. Dus de mensen die AI ontwerpen en ontwikkelen zijn ook bijna allemaal mannen. Door deze homogeniteit ontstaat er in het ontwerpproces van AI en dataverzameling al een risico op bias. Als je AI ontwikkelt met een team waarin meer diversiteit zit, dan kan dat helpen om risico’s op biases eerder te spotten en aan te pakken.’
Wat kan een event als Ladies of Data betekenen?
‘Ik hoop dat zulke evenementen deze awareness vergroten en tegelijkertijd ook laten zien hoe gaaf en veelzijdig AI is. Het is belangrijk dat vrouwen zien dat ze bijvoorbeeld iets anders in de zorg kunnen doen dan verpleegster worden. Je kunt ook met jouw AI- en IT-oplossingen de zorg beter maken! Gelukkig zie ik wel meer jonge vrouwen die voor een dataloopbaan kiezen, maar van mij mag het nog wat sneller. Overigens is dat niet per se een taak voor jonge meisjes maar voor de hele maatschappij, inclusief docenten, studieadviseurs, politici en ouders: fix the system, not the girls.’
Wat is jouw verhaal op Ladies of Data?
‘Hoewel ik altijd graag de mogelijkheden en veelzijdigheid van AI wil laten zien, focus ik hier op de risico’s én kansen van biased AI. Als we met explainable AI de biases die verstopt zitten in grote hoeveelheden data zichtbaar kunnen maken, dan biedt dit enorme kansen. Want als we weten welke biases een AI heeft geleerd, kunnen we deze gaan corrigeren. Ook kunnen we AI inzetten om debiased data te genereren. Mijn uiteindelijke visie is dat we met kwantitatief bewijs van bias onder de arm elkaar kunnen wakker schudden. Zo kan debiasing AI bijdragen aan debiasing data en debiasing society.’
Over Meike Nauta
Meike is senior data scientist bij Datacation. Zij ondersteunt organisaties bij de inzet van AI. Zij geeft ook een AI-mastervak aan de Jheronimus Academy of Data Science (JADS). Vorig jaar haalde zij haar PhD (cum laude) aan de universiteit van Twente in Enschede op het onderwerp Explainable AI and Interpretable Computer Vision.