Het Europees Parlement is het eens over de eerste wet ter wereld om AI te reguleren. Eerder dit jaar deed Italië ChatGPT al een maandlang in de ban. De overheden maken zich vooral zorgen over privacy. Maar kan wetgeving de voortrazende technologie wel onder controle krijgen?
“Bevooroordeeld, misleidend, en een risico voor privacy en veiligheid”
door Robert Heeg
ChatGPT wordt al de uitvinding van de eeuw genoemd maar tegelijkertijd is AI voor een groot deel onontgonnen terrein. Terwijl dagelijks nieuwe toepassingen worden verkend zijn er ook grote twijfels, met name over privacy. Volgens het jaarlijkse privacy-onderzoek van KPMG maakt ruim de helft (52%) van de Nederlanders zich zorgen over de opkomst van AI met betrekking tot hun privacy. Bovendien heeft 45 procent meer vertrouwen in een mens dan in een algoritme, bij het nemen van beslissingen over hun privacy.
Verboden in Italië
Ook in andere landen bestaan zorgen over AI. De Italiaanse toezichthouder legde ChatGPT eind maart een maand lang aan banden omdat het bedrijf erachter (OpenAI) mogelijk de Europese privacywetgeving overtreedt. Bovendien kwamen door een datalek bij ChatGPT gesprekken en betaalgegevens van gebruikers op straat te liggen. OpenAI kreeg weer toegang tot de Italiaanse markt na enkele verbeteringen op privacygebied; jonge gebruikers worden voortaan geweerd en mensen kunnen bezwaar maken tegen de verwerking van hun gegevens.
Niet discrimineren
Meerdere landen riepen om een gezamenlijke aanpak. Het Europees Comité voor gegevensbescherming (EDPB) richtten daarom een ChatGPT-taskforce op. Daarbinnen wisselen landen informatie uit en coördineren ze acties. In juni maakte het Europees Parlement afspraken voor de eerste wet ter wereld om AI te reguleren. Het Parlement vindt dat de makers van kunstmatige intelligentie nu te veel vrij spel hebben. Volgens de Artificiële Intelligentie-wet moet AI in de toekomst veilig, transparant en traceerbaar zijn. De algoritmes mogen niet discrimineren en gezichtsherkenning in de openbare ruimte, zoals in China gebruikelijk is, wordt in Europa verboden. Maar veel is nog onduidelijk en volgens critici te vrijblijvend. De MIT Technology Review voorspelt twee jaar van touwtrekken tussen de lidstaten voordat de echte wet er ligt.
Weinig fiducie
De Europese consumentenorganisatie BEUC heeft alvast weinig fiducie in de EU-wet en roept autoriteiten op onderzoek te doen naar ChatGPT en soortgelijke chatbots. BEUC verwijst daarbij naar een klacht van het Amerikaanse Center for Artificial Intelligence and Digital Policy (CAIDP). Deze burgerbelangenorganisatie noemt ChatGPT-4 ‘bevooroordeeld, misleidend, en een risico voor privacy en veiligheid’. En verder: ‘De uitingen van ChatGPT kunnen niet worden bewezen of gerepliceerd.’ De zorgen worden beaamd door onderzoek van Stanford University, waaruit blijkt dat geen enkele AI-chatbot momenteel voldoet aan de Europese AI-wet.
Google stelt Bard uit
De Ierse privacywaakhond DPC klaagde al dat Google niet duidelijk kon maken hoe het de EU-privacyregels gaat naleven met zijn AI-chatbot Bard. Google besloot een verbod voor te zijn en stelde de introductie van Bard in de Europese Unie voorlopig uit. OpenAI nam ook maatregelen. Het bedrijf geeft gebruikers nu de keuze om de chatgeschiedenis al dan niet te bewaren. Alle EU-burgers kunnen bovendien een opt-outformulier invullen om bewaar te maken tegen het gebruik van hun gegevens voor het trainen van OpenAI-systemen. Een ding lijkt zeker in: de komende tijd gaan mens en machine – wetgeving en AI – regelmatig de degens kruisen.