Big Data
Blog_Ethics_Al

We beginnen met een korte en vrij eenvoudige filmquiz. Noem de film waarin een van de hoofdpersonages het volgende zegt:

“Jullie wetenschappers vroegen zich alleen maar af of ze het wel of niet konden doen, niet of ze het wel zouden moeten doen.”

Voor het geval je het niet weet, dat was Jeff Goldblum als Dr. Ian Malcom in Jurassic Park. 

Dit is een vaak herhaald filosofisch punt en heeft, net als de kunstmatige dino's in deze klassieke film, een afschrikwekkende klank gekregen met de komst van kunstmatige intelligentie (AI). De reden daarvoor is dat we het hier hebben over een technologie die een echte culturele, maatschappelijke en economische impact heeft.

Er is een brede discussie gaande over de toekomst van werk en wat AI betekent voor privacy, voor rechtvaardigheid en, bij enkele grote denkers, zelfs voor de mensheid zelf. Daarom cirkelen regelgevers rond als een pterodactylus* terwijl ze proberen een of ander ethisch kader te ontwikkelen voor het gebruik van AI, waarbij de Europese Unie bovenaan de voedselketen staat.

Een van de boeiendste teksten over dit onderwerp tot nu toe is afkomstig van de High-Level Expert Group on Artificial Intelligence en staat in hun rapport Ethische richtlijnen voor betrouwbare AI.

In deze richtlijnen worden zeven vereisten beschreven waaraan AI-systemen volgens deze groep moeten voldoen om betrouwbaar te zijn: 

•    Invloed en toezicht door mensen 
•    Technisch solide en goed beveiligd tegen aanvallen
•    Privacy en gegevensbeheer, inclusief toegang tot gegevens 
•    Transparantie, traceerbaarheid, 'verklaarbaarheid' en communicatie 
•    Diversiteit, geen discriminatie en eerlijkheid
•    Maatschappelijk en ecologisch welzijn, inclusief duurzaamheid, maatschappij en democratie 
•    Verantwoordingsplicht, controleerbaarheid en beperking van negatieve gevolgen

Op het eerst gezicht getuigt deze lijst van gezond verstand, hoewel aan elk punt een hele reeks blogs zou kunnen worden gewijd. Wat voor onze blog echter het belangrijkste is, is dat deze lijst überhaupt bestaat.

Dat is veelzeggend, omdat het een voorbeeld is van een politieke organisatie die een standpunt inneemt over een bepaalde technologie. Even belangrijk is echter het feit dat dit rapport zeer diep ingaat op het punt dat Dr. Malcolm maakt in Jurassic Park.
Er wordt ontzettend veel gezegd en geschreven over het punt van 'invloed en toezicht door mensen', omdat dit in feite een nogal formele en geruststellende manier is om uiting te geven aan onze diepgewortelde angst dat de machines de macht gaan overnemen. In veel media is dat waar de discussie over AI om draait. 

De High-Level Experts van de EU zeggen eigenlijk dat we ons leven niet door die duivelse algoritmen mogen laten bepalen, tenzij we weten wat ze van plan zijn. Dat om te voorkomen dat we eindigen als anonieme figuranten in dat andere filosofische epos, The Matrix.

De andere ethische vragen zijn even belangrijk en misschien nog wel belangrijker, omdat ze staan voor grotere en urgentere problemen waarover moet worden gediscussieerd. 

Zijn we er blij mee dat rechters aanbevelingen voor veroordelingen krijgen die zijn berekend door een machine? Zou jij willen dat je cv wordt afgewezen voor een digitaal HR-systeem voordat iemand de kans krijgt de door jou zo zorgvuldig beschreven nuances te beoordelen? Weet je zeker dat er niet wordt geknoeid met jouw digitale stem tijdens de verkiezingen?

Deze vragen probeert het EU-rapport aan te snijden, omdat het de uitdrukkelijke wens van de Europese Commissie is dat organisaties en personen de vruchten plukken van AI. Het kader dat het rapport wil scheppen, moet AI veilig maken voor ons allemaal.

Maar als je gebruikmaakt van AI, procesautomatisering door robots of andere dergelijke technologieën (het Internet of Things speelt hier uiteraard ook een virtuele rol in), gaat de eerste vraag niet over de technologie zelf. Het gaat over de gegevens die deze technologieën gebruiken.

Het oude gezegde over computergebruik geldt nog steeds: rommel erin, rommel eruit. En als jouw robot een vorkheftruck of chemisch pompsysteem aanstuurt, is 'rommel eruit' geen optie.

Het is geen verrassing dat er zwaar wordt geïnvesteerd in modernisering van datacenters, analysefunctionaliteit en nieuwe, meer organische benaderingen van cyberbeveiliging terwijl onze klanten zich voorbereiden op de AI-revolutie. Ze weten dat het voor een veilige en effectieve AI belangrijk is dat ze wijs kunnen worden uit de nieuwe stortvloed van gegevens die binnenstroomt uit mobiele apparaten, IoT-sensors en talloze andere verbonden systemen.

De risico's waar het personage van Jeff Goldblum zich zorgen over maakt, gaan uiteraard veel verder dan een hier en daar verkeerd geplaatste decimale komma of een vastgelopen documentlezer die op dit moment waarschijnlijk de grootste ongemakken van AI en automatisering vormen.

Desalniettemin is een voortdurende discussie over de ethische aspecten van de technologie essentieel en we moeten blij zijn dat instanties zoals de EU zich ermee bezighouden. Het is een duidelijk signaal dat onze bedrijfstak wordt gezien als meer dan slechts een nieuw soort nutsvoorziening. Technologie transformeert de manier waarop we leven, is van invloed op onze waarden en normen en heft verschillen tussen ons op. 

Over een tijd zullen we misschien zelfs merken dat dit ons menselijker heeft gemaakt dan we ooit zijn geweest. 
*We mogen er uiteraard niet van uitgaan dat een pterodactylus rondcirkelt. Dr. Malcolm zou woedend zijn.