Ethiek

In een wereld die meer en meer leunt op digitale techniek, speelt Artificial Intelligence (AI) een belangrijke rol. Ook neemt AI op steeds grotere schaal complexe taken van mensen over. In het licht van deze ontwikkelingen groeit het belang om moreel bewust te handelen in de toepassing van AI. Wat betekent moreel handelen precies en hoe geven we dit vorm? In deze tekst lichten wij toe wat wij onder goed handelen verstaan en hoe wij dit nastreven.

Een product van Bolesian:

1. Doet de mensenrechten recht.
2. Heeft een goede maatschappelijke impact.
3. Biedt uitleg en inzicht over onderliggende processen.
4. Draagt bij aan gelijkheid.
5. Wordt voor aanvang en doorlopend getoetst aan bovengenoemde criteria.

1. Recht doen aan mensenrechten

Wij onderschrijven de Universele Verklaring voor de Rechten van de Mens en het Europees Verdrag voor de Rechten van de Mens. Deze verklaringen dienen als ondergrens voor wat wij wel en niet doen. Als de Ethische Commissie van Bolesian vaststelt dat er mensenrechten zijn die onder druk komen te staan bij het aannemen van een opdracht, wijzen wij deze af. In het bijzonder hebben we aandacht voor:

1. Recht op bescherming van de privésfeer.
2. Recht op gelijke behandeling.
3. Vrijheid van mening en meningsuiting.
4. Verbod van slavernij en dwangarbeid.
5. Recht van vergadering en vereniging.

2. Impact op de maatschappij

Wij willen een duurzame impact hebben op de wereld. Duurzaamheid kent een sociaal (mens), economisch (geld) en ecologisch (milieu) perspectief. Aan dit streven geven wij de volgende invulling:

AI-systemen veranderen de levens van mensen. AI neemt steeds meer menselijke taken over, maar is ook vaker aanwezig zonder dat mensen het doorhebben. Een kernwaarde van Bolesian is dat wij meer problemen oplossen dan we creëren. Onze producten hebben een directe toegevoegde waarde voor de klant. Wij zorgen ervoor dat mensen zich kunnen richten op het uitdagende deel van hun werk, omdat ons systeem herhaaldelijk werk uit handen neemt. Hierbij monitoren wij onbedoelde gevolgen van ons werk (zie sectie 5). 

We dragen actief bij aan het verkleinen van de ecologische voetafdruk van onze eigen producten, door zo efficiënt mogelijk te werk te gaan.

Hoofdpunten:

1. Impact op kwaliteit van leven.
2. Impact op kwaliteit van werk; bevordert werkplezier.
3. Monitoren onbedoelde gevolgen van ons werk.
4. Toegevoegde waarde eindgebruikers.
5. Verkleinen van de ecologische voetafdruk van onze productieketen.

3. Uitleg bieden

Bij Bolesian ontwikkelen wij kennistechnologie. Kennistechnologiesystemen zijn AI-systemen die zijn gebaseerd op expertkennis. De kennis van de experts wordt omgezet naar kennisregels. Deze kennisregels worden vervolgens gevat in een AI-systeem. Deze systemen dienen om beslissingen te maken, voor en over mensen. Als AI-ontwikkelaars maken wij op onze beurt weer beslissingen over AI-systemen. De impact van deze beslissingen kan immens groot zijn. Het is dus van belang dat de manier waarop resultaten tot stand komen zo helder mogelijk is. Ook de kennisregels achter de resultaten moeten duidelijk zijn en goed worden uitgelegd. Zo is voor zowel de ontwikkelaar als de klant inzichtelijk als het systeem ongewenste beslissingen maakt of niet inclusief genoeg is, en waarom. Zowel transparantie, verklaarbaarheid van het beslisproces, als mogelijke uitkomsten van dit proces zijn onderdeel van wat ‘Explainable AI’ (XAI) wordt genoemd. Wij openen de black box en zorgen voor verklaarbare resultaten van uitlegbare systemen.

Hoofdpunten:

1. Uitleg bieden voor de totstandkoming van elk resultaat (XAI).
2. Procesoverzicht: verklaarbaarheid van het hele beslisproces.

4. Gelijke behandeling

Gelijke gevallen moeten gelijk worden behandeld. Er zijn helaas meerdere gevallen bekend van AI-software waarin dit beginsel niet of onvoldoende wordt gerespecteerd. Denk aan wat gebeurde met het etnisch profileren bij de Nederlandse belastingdienst of door bevooroordeelde sollicitatie-software. Om het gelijkheidsbeginsel te borgen, moet de werking van de AI-software transparant zijn. 

Voor de ontwikkeling van onze systemen maken wij gebruik van domeinkennis en/of van data. Waar data over mensen gaat, is het heel belangrijk dat deze data representatief is voor de groep mensen op wie het eindproduct betrekking zal hebben. Dit toetsen wij dus bij het opstellen en het gebruiken van data. Daarnaast zorgen wij ervoor dat onze kennisregels inclusief zijn.

Hoofdpunten:

1. Gelijke gevallen worden gelijk behandeld.
2. We trainen en testen met representatieve data.
3. Mogelijke blinde vlekken zijn in kaart gebracht, eventueel met hulp van buitenaf.

5. Doorlopende toetsing

Men zegt wel eens: de weg naar de hel is geplaveid met goede bedoelingen. Andere mensen zeggen juist: waar een wil is, is een weg. In beide gevallen staat of valt het nut van een Ethische Stellingname bij de manier waarop die wordt gehandhaafd. De Ethische Commissie van Bolesian houdt toezicht op het naleven van de richtlijnen uit de Ethische Stellingname. Bovendien hebben wij de wijsheid niet in pacht. Wij betrekken dus het complete team van Bolesian bij het maken van ethische standpunten en beslissingen. Wij houden onze ogen en oren open voor ontwikkelingen binnen het veld van de ethiek van AI. Wanneer redelijkerwijs niet kan worden voldaan aan de richtlijnen uit de Ethische Stellingname, wordt een project niet aangenomen dan wel afgebroken. Wij zullen altijd helderheid verschaffen over onze motieven achter deze beslissingen.