Organisaties zetten kunstmatige intelligentie vaak in om processen efficiënter te maken. Wat ze er regelmatig voor terugkrijgen, is nieuwe complexiteit op de werkvloer. Dat blijkt uit het proefschrift van Inès Baer, onderzoeker aan de Vrije Universiteit Amsterdam (VU). Zij deed vijf jaar lang onderzoek binnen een publieke arbeidsbemiddelingsorganisatie die AI gebruikte voor het matchen van werkzoekenden en het voorspellen van langdurig werkloosheidsrisico.
▼
Drie groepen, dezelfde uitdaging
Baer identificeert een fenomeen dat zij organisatorische vaagheid noemt. AI-systemen leren autonoom, zijn moeilijk te doorgronden en produceren soms uitkomsten die vooraf niet volledig te voorspellen zijn. Die eigenschappen werken door in de hele organisatie.
Managers, developers en eindgebruikers ervaren de gevolgen elk op hun eigen manier, maar stuiten op dezelfde uitdagingen: verlies van controle, verlies van voorspelbaarheid en toenemende afhankelijkheid van AI-systemen. Managers zien hoe besluiten die vroeger transparant waren, steeds vaker afhangen van uitkomsten die moeilijk te verklaren zijn. Developers merken dat een systeem dat zij hebben ontwikkeld zich anders kan gedragen dan verwacht, omdat het blijft leren van nieuwe data. Eindgebruikers verliezen een deel van de grip op werkzaamheden die zij voorheen uitvoerden op basis van hun eigen expertise.
Volgens Baer zijn dit geen tijdelijke kinderziektes, maar eigenschappen die nauw verbonden zijn met de manier waarop AI-technologie functioneert. Dat de impact ook op individueel niveau merkbaar is, blijkt uit een analyse van gedragsonderzoeker Guy Champniss van IE Business School voor Harvard Business Review. Daaruit komt naar voren dat de psychologische kosten van AI-adoptie groter kunnen zijn dan organisaties verwachten, vooral voor medewerkers aan het begin van hun carrière.
Van nauwkeurigheid naar foutenbeheer
Een tweede belangrijke bevinding uit het onderzoek gaat over de manier waarop organisaties omgaan met AI-fouten. De onderzochte organisatie implementeerde een model om het risico op langdurige werkloosheid te voorspellen. In de praktijk verschoof de aandacht al snel van het verbeteren van de nauwkeurigheid van het algoritme naar het beheersen van de gevolgen van verkeerde voorspellingen. Een foutieve risicoscore heeft immers gevolgen voor een werkzoekende, ongeacht of die voorspelling later juist blijkt. Daardoor kwam de focus steeds meer te liggen op de vraag hoe organisaties omgaan met fouten wanneer die onvermijdelijk optreden.
Baer omschrijft dit als organizing for errors: het organiseren van foutenbeheer. Dat vereiste nauwe samenwerking tussen managers, developers en gebruikers. Developers pasten het algoritmische ontwerp aan op basis van praktijkervaringen van gebruikers. Managers bepaalden welke risico's de organisatie bereid was te aanvaarden. Zonder die afstemming bleven de drie groepen volgens het onderzoek vooral afzonderlijk reageren op problemen die zich voordeden.
Bijsturen als vaste taak
Baer concludeert dat AI-management geen implementatieproject is dat organisaties kunnen afvinken, maar een doorlopend proces van bijsturen. Dat begint volgens haar met een vraag die vaak te laat wordt gesteld: wat willen we bereiken, voor wie en wat zijn de aanvaardbare gevolgen als het misgaat? Het onderzoek laat zien dat succesvolle AI-adoptie niet alleen draait om betere modellen, maar ook om duidelijke keuzes over verantwoordelijkheid, risico's en menselijk oordeel. Juist daar ontstaat volgens Baer vaak de grootste uitdaging.
Het volledige proefschrift is te vinden via de VU Research Portal.
