'Kunstmatige intelligentie hoort in de wet'

iBestuur - interview
Marietje

Het is tijd voor een in de wet verankerd stelsel van regels en afspraken over het gebruik kunstmatige intelligentie (artificial intelligence). “De transparantie van algoritmen moet je kunnen afdwingen”. D66-Europarlementariër Marietje Schaake keert niet terug na de verkiezingen van mei volgend jaar. Voor haar vertrek wil ze de ethiek van de inzet van AI op de politieke agenda zetten.

Is de politiek slim genoeg om te kunnen omgaan met kunstmatige intelligentie?

“Er werd al enorm geworsteld met de impact van technologische mogelijkheden die maar voorthollen, terwijl democratishe besluitvormingsprocessen dat niet kunnen bijhouden. De opkomst van het gebruik van kunstmatige intelligentie heeft die worsteling nog groter gemaakt. Maar ik zie ook de erkenning in de politiek dat technologie alles raakt. Ik zie een omslag van het behandelen van technologie als een apart thema naar een aanpak waarbij de invloed ervan op alles om ons heen als uitgangspunt wordt genomen”.

Moeten we alles wat je met behulp van kunstmatige intelligentie kunt doen, ook doen?

“In de Verenigde Staten zeggen ze: laat de markt maar zijn gang gaan en laat bedrijven maar vooruithollen. In China zien ze zaken al snel door de controlelens en mede daarom heeft die staat besloten om massaal te gaan investeren in deze technologie. Ze zien daarin ook een kans om voorsprong te verwerven op de rest van de wereld. In Europa zijn we voorzichtiger. Daar gaan we niet zomaar van alles doen en proberen we zaken te toetsen aan ons normenkader. Dat laatste vind ik een goede richting, maar die heeft alleen kans van slagen als dat samengaat met het ontwikkelen van het nodige economische gewicht. Anders speel je niet mee in dat krachtenveld en kun je niet de norm zetten voor de rest van de wereld”.

Kan de Europese Unie die rol eigenlijk wel spelen?

De Brexit helpt natuurlijk niet, want daardoor verliezen we als EU kennis op het punt van de kunstmatige intelligentie die nu nog binnen de Europese economische ruimte zit. Daarnaast zie je dat in Frankrijk – waar veel kennis zit – en helaas ook in Nederland veel onderzoekers weggeplukt worden door Amerikaanse bedrijven, met name omdat wij in Europa niet altijd snel de slag weten te maken tussen kennis en ondernemersschap. Het blijkt nog te moelijk om goede ideeën als product in de Europese markt te zetten. Mensen gaan dan hun geluk beproeven in de VS. Als gevolg daarvan is het lastig om als Europa voldoende economische massa te ontwikkelen op het punt van kunstmatige intelligentie. Dat heeft dan weer een negatieve invloed op de kansen om het gebruik ervan in te kaderen in goede Europese wet- en regelgeving die ook weer zijn uitstraling kan krijgen naar de rest van de wereld.

Waarom moet het maken van regels voor het gebruik van algoritmen niet aan de markt worden overgelaten?

“Ik was geshockeerd toen ik rondom een van de massaschietpartijen op een middelbare school in Amerika ging zoeken naar de verklaringen van de studenten die in actie waren gekomen tegen de wapenlobby. Ik wilde het filmpje van een van die meisjes graag bekijken op YouTube en toetste de naam van die school in en van de schietpartij. Ik kreeg als eerste hit een filmpje waarin werd gesuggereerd dat al deze kinderen acteurs zijn en alles aan elkaar zouden liegen. Dat was nota bene net nadat YouTube gezegd had dat het al een stuk beter was met hun algoritmes. Dat dat mogelijk is heeft invloed op onze samenleving en op de kwaliteit van de informatie die mensen krijgen. Als Facebook ervoor kiest om geen vrouwen meer te laten zien die borstvoeding geven wordt dat vanzelf – sluipend – de wereldwijde norm. Die beloftes van ze om hun algoritmes aan te passen hebben geen waarde als je geen idee hebt wát ze dan veranderen en op grond waarvan. Daar is nu geen toezicht op. Of het erger wordt of beter, geen hond die het weet. Er is een wereld te winnen met meer transparantie. Vooral nu er een wake-up call is geweest door Cambridge Analytica, door manipulatie van de Russen en Iraniërs op de sociale media, door de Chinezen die hun burgers met behulp van algoritmes bespioneren en door de aandacht die er is gekomen voor de integriteit van verkiezingen. We hebben nu een moment dat het probleem duidelijk is geworden en dat er dus naar oplossingen gezocht kan worden”.

Hoe moet Europa dat aanpakken?

“Er is een paar maanden geleden een Europese kunstmatige intelligentie strategie gepresenteerd met daarbij 2,5 miljard euro aan investeringsmiddelen. Dat is een mooi begin, maar niet genoeg. Het is voor Europa het beste om de verbinding te zoeken met de bestaande industriële activiteiten, zoals het slimmer maken van de automobielindustrie door de koppeling met kunstmatige intelligentie. Dat kun je ook met andere sterke Europese sectoren doen, zoals de medische technologie. Maar dan ook altijd met een goed oog voor de ethische vragen die zich daarbij voordoen. Daarbij moet je wel oppassen dat het dan niet bij die ethische afwegingen blijft steken en je de uitwerking overlaat aan technologiebedrijven. Dat is nu wel de trend. De rechtsstaat moet voorop staan en niet het verdienmodel. Je moet ook zaken kunnen afdwingen. Dat kan alleen als je een stelsel van regels en afspraken verankert in de wet. De EU is het enige logische niveau om dat te organiseren”.

Wat zou Europa dan concreet kunnen of moeten doen?

“Ik heb het daar met EU-commissaris Vestager van Mededinging over gehad en die ziet dit ook als een issue. Bij de Eurocommissaris voor Mededinging zit veel macht om vertrouwelijke informatie bij bedrijven op te vragen en om in gedetaillleerde bijdrijfsmodellen te kijken. Zo kun je nagaan of bedrijven zich wel of niet aan de mededingingsregels houden. Dat instrumentarium kun je ook op een andere manier inzetten voor het toetsen van de algoritmen die ze gebruiken. Bijvoorbeeld op rechtstatelijke uitgangspunten, zoals het verbod op discriminatie, het onderscheid maken op basis van ras, religie, seksuele geaardheid, het recht op gelijke behandeling, enzovoort. Door een aanpassing van de E-commercewetgeving kan de EU internetbedrijven wat mij betreft via deze lijn ook gaan dwingen om bots te identificeren en zo bij te dragen aan het ontmaskeren van geautomatiseerde meningen. Daarnaast vind ik dat de Algemene Verordening Gegevensbescherming (AVG) mogelijkheden biedt om toezichthouders en de Autoriteit Consument & Markt (ACM) actiever te laten worden op het gebruik van gevoelige data, zoals partijvoorkeur of etnische data om gerichte advertenties te tonen. Dat kan een manier zijn om desinformatie en nepnieuws te bestrijden, maar dan moeten toezichthouders en de ACM daar wel de middelen en de juridische mogelijkheden voor krijgen”.

‘De rechtstatelijkheid van de online wereld is een van de belangrijkste thema’s van deze tijd’

Bedrijven zitten toch niet te springen om ingewikkelde Europese regelgeving?

“Ik zie ook, en dat gebeurt bij geen enkel ander thema, dat het Europese bedrijfsleven regelgeving wil. Dat heb ik niet eerder meegemaakt. Nu zeggen ondernemers, experts en bedrijven op bijeenkomsten over kunstmatige intelligentie: er is regelgeving nodig! Dat terwijl de Facebooks van deze wereld, de grote technologiebedrijven, altijd alles doen om regelgeving tegen te houden. Dus ik denk ook dat bedrijven zich steeds ongemakkelijker voelen over hun verantwoorlijkheid voor het steeds maar verder doorontwikkelen van kunstmatige intelligentie. Mogelijk omdat ze bang zijn dat ze een doos van Pandora opentrekken en niet precies weten wat daar uitkomt. Dat is een verantwoordelijkheid die ze nu willen delen. Of ze willen zich indekken, dat kan ook. Maar het is voor de overheid een kans voor regelgeving.”

De online wereld wil zelf toch het liefst regelvrij blijven?

“Onze liberale democratie en de vrijheden die we hier hebben zijn geen vanzelfsprekendheid. Die zijn verbonden met de rechtstaat en de bescherming van het individu tegen de staat. De rechtsstaat moet ook online betekenis hebben en daar vecht ik voor. Wij hebben altijd gekozen voor op regels gebaseerde systemen. We hebben in de Geneefse Conventie zelfs afspraken gemaakt over gedragsregels in tijden van oorlog. Universele mensenrechten zijn een stelsel van rechten en regels en ook de internationale handel is gebaseerd op een framework van rechten en regels. Door na te laten om dat ook voor het online domein te regelen, hebben we veel te veel ruimte gegeven aan private partijen en autoritaire regimes. Bij het gebrek aan normen gaan zij dan bepalen wat wel en niet geoorloofd is. Dat moeten we niet willen en dat kunnen we ook corrigeren. De rechtstatelijkheid van de online wereld is een van de belangrijkste thema’s van deze tijd”.

Dit verhaal is ook te vinden in iBestuur 28 (verschijnt eind oktober)