We leven in een samenleving waarin ons handelen wordt beïnvloed door geautomatiseerde beslissingen. Algoritmes maken in toenemende mate beslissingen over ons leven, of dit nu gaat over de aanvraag van een hypotheek, een marketing aanbod, een snelheidsovertreding, een aanvraag van een uitkering of acceptatie van een CV.
Het gebruik van ethiek bij de ontwikkeling van AI voor het nemen van beslissingen kan discriminatie helpen voorkomen, de privacy van gebruikers beschermen en transparantie in de besluitvorming bevorderen. Organisaties worstelen echter met de vraag op welke manier ze verantwoord met AI om moeten gaan. Vaak is er wel bewustzijn in een organisatie van de urgentie van ethische overwegingen, maar hoe geven we dit nu precies vorm? Er wordt op strategisch en tactisch niveau wel gepraat over ethiek, vaak met goede bedoelingen, maar dit leidt meestal niet tot een praktische invulling. Als gevolg hiervan tasten medewerkers in het duister over hoe zij op de beste manier kunnen handelen. En dat voelt ongemakkelijk, je kunt de verantwoordelijkheid immers niet helemaal beleggen bij de ethiek of privacy officer maar hebt behoefte aan kaders, voorbeelden en zelfs concrete instrumenten.
De morele verantwoordelijkheid van beslissingen die genomen worden door middel van AI ligt immers niet bij de algoritmes die zijn ontwikkeld maar bij de mensen die de algoritmes ontwikkelen en in productie nemen. Ben je dus werkzaam als data professional, bijvoorbeeld als data scientist, data manager, data engineer, architect, database administrator of andere rol, dan brengt dit verantwoordelijkheid met zich mee.
Hoe je deze verantwoordelijkheid vormgeeft is uiteraard afhankelijk van de branche waarin je werkzaam bent, de ervaring die al bestaat binnen je organisatie en de bereidwilligheid om dit onderwerp serieus aan te pakken. Begin 2023 bieden we jou in ieder geval antwoord op de vraag welke stappen je kunt nemen om de ethische vragen rondom AI praktische betekenis te geven. De komende periode kun je daarom het volgende van ons verwachten:
Vandaag starten we bij het begin met een overzicht van bestaande richtlijnen. Als je wilt starten met ethiek en AI is het slim om het wiel niet opnieuw uit te vinden maar eerst om je heen te kijken: wat is er al beschikbaar, en hoe kan ik deze ervaring inzetten binnen onze organisatie.
Er zijn verschillende richtlijnen beschikbaar voor bedrijven die de morele verantwoordelijkheid rondom AI serieus willen nemen. Een van de meest erkende richtlijnen is het ‘Ethical AI Framework’, ontwikkeld door het Institute of Electrical and Electronics Engineers (IEEE). Dit raamwerk biedt een reeks beginselen die kunnen worden gebruikt om de ontwikkeling en invoering van ethische AI-systemen te sturen. Dit framework is gebaseerd op vier belangrijke beginselen die ervoor moeten ervoor zorgen dat AI-systemen worden ontworpen en gebruikt op een verantwoorde, transparante, eerlijke en veilige manier.
Naast het Ethical AI Framework van de IEEE zijn er andere toonaangevende richtlijnen beschikbaar voor bedrijven die ethiek rondom AI vorm willen geven. De Europese Unie heeft bijvoorbeeld een reeks ethische richtlijnen voor AI ontwikkeld, bekend als de ‘Ethics Guidelines for Trustworthy AI’. Op hoofdlijnen lijken de beginselen op elkaar, echter de EU richtlijnen leggen meer nadruk op respect voor menselijke autonomie en het voorkomen van schade terwijl het Ethical AI Framework zich meer richt op verantwoordelijkheid en veiligheid. De EU-richtlijn heeft dus meer focus op wat als sociaal goed wordt beschouwd. De zeven beginselen uit de Ethics Guidelines for Trustworthy AI:
In de praktijk zijn er inmiddels zoveel verschillende richtlijnen verschenen dat er zelfs een doorzoekbaar register4 is opgezet, de ‘AI Ethics Guidelines Global Inventory’ om te zoeken naar (delen van) een richtlijn. Welk startpunt je ook kiest voor de inrichting van ethische AI binnen je organisatie, het is zaak dat je de richtlijnen kunt vertalen naar praktische handelingen. Dit werkt het beste met voorbeelden, omdat een richtlijn dan gaat leven.
Dus stel je voor dat een telecom operator werkt met deur-tot-deur verkopers die met een iPad in hun hand een looproute krijgen via software van het bedrijf. Onderweg komen zij wegwerkzaamheden tegen in een straat waardoor sommige huizen moeilijk of niet te bereiken zijn. Als de software op de iPad geen mogelijkheid heeft voor een alternatieve route loopt het bedrijf het risico dat de verkopers de software op de iPad niet meer gebruiken met alle gevolgen van dien. Er wordt aangebeld bij bestaande klanten, sommige straten worden overgeslagen of klanten die expliciet voor een opt-out hebben gekozen worden toch benaderd. In dit voorbeeld over één van de richtlijnen, respect voor menselijke autonomie, wordt duidelijk wat de mogelijke gevolgen zijn als er tijdens de bouw van de software onvoldoende rekening is gehouden met de alternatieve scenario’s en autonomie bij de gebruiker. Je kunt dit voorbeeld ook vertalen naar wijkagenten die een ronde doen op basis van een criminaliteits heatmap of backoffice medewerkers die een aanvraag voor een vergunning moeten beoordelen maar formeel te weinig informatie hebben om het dossier af te ronden.
Kortom, wacht niet langer met nemen van de eerste stappen tot morele afwegingen rondom AI. Gebruik een bestaande richtlijn als basis en vertaald deze samen met anderen binnen jouw organisatie naar praktische toepassing en voorbeelden. Hou de komende tijd de kanalen van Cmotions in de gaten voor voorbeeldnotebooks, interviews en tools die je op weg kunnen helpen.
Wil je meer weten over dit onderwerp? Neem dan contact op met Wouter van Gils via onderstaande contactgegevens.