22 juni 2021
Algoritmen hebben steeds meer invloed op onze samenleving. Politieke partijen ontkomen er niet aan om hierin een standpunt te nemen. Welke rol spelen algoritmen op het politieke toneel? Wat zijn de verschillende vormen van regulering voor Artificial Intelligence (AI) en algoritmen in de toekomst? Hoe gaan Europese en Nederlandse politici zich hierop richten?
We bekijken het verkiezingsprogramma van de VVD. Hieruit blijkt dat zij meer controle willen op het gebruik van algoritmen door Tech-bedrijven en overheden. De VVD onderstreept het gevaar van discriminatie van burgers door algoritmen. Bekende voorbeelden zijn algoritmen voor het vaststellen van verzekeringspremies of om fraudeurs op te sporen.
De VVD is één van de partijen die pleit voor een aparte toezichthouder voor algoritmen. Een organisatie die moet toezien op de ontwikkeling en inzet van algoritmen in de publieke en private sector. Een organisatie die gaat handhaven, bijvoorbeeld bij ongelijke behandeling.
Andere partijen pleiten ook voor een toezichthouder op algoritmen. D66 wil er niet een specifieke entiteit voor oprichten, maar de Autoriteit Persoonsgegevens (AP) uitbreiden met een algoritmewaakhond. Deze waakhond moet het gebruik van algoritmen controleren op discriminatie of uitsluiting. En dit bij signalering kunnen terugdraaien.
Een ander onderwerp dat veel genoemd wordt door politieke partijen is dat algoritmen en de werking ervan transparant moeten zijn. De VVD, D66, CDA, PvdA, GroenLinks en FvD hebben transparantie opgenomen in hun partijprogramma. Partijen die niets over een toezichthouder op Artificial Intelligence in hun programma hebben genoemd, pleiten ook voor betere bescherming van de Nederlandse burger.
Hoe zijn deze partijen van plan om transparantie in algoritmen te bewerkstelligen? Want dat is makkelijker gezegd dan gedaan. GroenLinks stelt bijvoorbeeld dat algoritmen voor gedragsvoorspelling en besluitvorming getoetst moeten worden op discriminerende vooroordelen. Hoe dat in de praktijk eruitziet, geven zij geen duidelijkheid over. En daar zijn zij niet de enige in.
Algoritmen en Artificial Intelligence zijn niet uitgebreid opgenomen in alle verkiezingsprogramma’s. Partijen kunnen zich maar beperkt concentreren op een aantal onderwerpen. Regulering van algoritmen is slechts één van de vele onderwerpen. Bovendien is dit een complex onderwerp waar veel technische kennis voor nodig is en de mate van transparantie is nog regelmatig een discussiepunt.
Eén ding is duidelijk. De politieke partijen sorteren voor op de mogelijke impact van de Europese Artificial Intelligence regulering (Artificial Intelligence Act). Een toezichthouder op het gebied van Artificial Intelligence wordt een verplichting voor ieder lidstaat. Deze toezichthouder zal een sleutelrol spelen in de handhaving van de regels. Net zoals de nationale toezichthouders die handhaven op grond van de Algemene Verordening Gegevensbescherming (AVG).
Wordt er gebruikgemaakt van een algoritme? Dan zijn er een aantal voorwaarden en verplichtingen waar gebruikers en ontwikkelaars aan moeten voldoen. Eén van die verplichtingen is transparantie. In het wetsvoorstel van de Europese Artificial Intelligence regulering staat beschreven dat een algoritme open en begrijpelijk moet zijn voor iedereen die het algoritme inzet. Stel dat je organisatie een algoritme inzet voor een voorselectie van kandidaten op basis van hun CV, dan moet de gebruiker bekend zijn met de werking van het algoritme. Begrip hebben van de gebruikte data en de uitkomst die dit dan oplevert is een randvoorwaarde.
Een algoritme moet trainingsdata gebruiken die aan bepaalde kwaliteitscriteria voldoen. Technische documentatie moet altijd up-to-date zijn en het algoritmische systeem moet zo ontwikkeld zijn dat het automatisch documenteert wat het systeem doet. Evaluatie, monitoren van algoritmes tijdens de levenscyclus en beschrijving van keuzes in de ontwikkeling ervan zijn een must.
In 4 jaar is er veel veranderd. In Nederland lag het accent in het regeerakkoord van 2017 nog op het delen en analyseren van data. Bijvoorbeeld met doel om fraude op te sporen. Ondertussen is het duidelijk geworden dat dit in sommige gevallen leidt tot discriminatie en profilering. Denk maar eens aan de Toeslagenaffaire. Dit heeft ervoor gezorgd dat algoritmische besluitvorming hoog op de politieke agenda staat. Met een toezichthouder en verplichte transparantie probeert de overheid meer grip te krijgen op de ontwikkeling en gebruik van algoritmen.
De ontwikkeling en implementatie van algoritmen is complex en kan veel tijd kosten. Met meer wettelijke verplichtingen is het des te belangrijker om binnen je organistatie te kijken wat er nodig is hier aan te voldoen. Awareness bij management, ontwikkelaars en gebruikers van algoritmen is belangrijk. Gebruikt jouw organisatie een algoritme? Hoe transparant is het algoritme? Hoe is de ontwikkeling en het gebruik van het algoritme gedocumenteerd? Heb je genoeg data analisten en data wetenschappers om te voldoen aan alle vereisten? Allemaal vragen die organisaties zichzelf moeten stellen om voorbereid te zijn op de toekomstige Artificial Intelligence regulering.
Samen met Considerati helpen we jouw organisatie! We adviseren en informeren je over:
Benieuwd naar ons eerste artikel van dit blog? Lees ‘m hier: “De invloed van de verkiezingen op de inzet van algoritmen”
Schrijf je in voor onze training AI & AVG. Dit onderwerp bespreken we ook in de training die wij samen met Considerati geven. De training is speciaal voor data scientists, managers en juristen die met data science te maken hebben.
Wil je meer weten over dit onderwerp? Neem dan contact op met Anja Meerding via onderstaande contactgegevens.
17 april 2023
In elk bedrijf is het een uitdaging om ervoor te zorgen dat we alleen de documenten... lees meer
27 januari 2022
Net als vorig jaar hebben wij kritisch gekeken naar de belangrijkste trends op het gebied van... lees meer
19 november 2021
Als je in kaart hebt gebracht over welke gevoelige informatie jouw organisatie beschikt, kun je hiervoor... lees meer