Let’s talk about ethics

Ethical Statement

Each product of Bolesian:

  1. Upholds human rights.
  2. Has a positive social impact.
  3. Provides explanation and insight into underlying processes.
  4. Contributes to equality.
  5. Will be tested against aforementioned criteria both before and during the process.

Ethische Stellingname

Een product van Bolesian:

  1. Doet de mensenrechten recht.
  2. Heeft een goede maatschappelijke impact.
  3. Biedt uitleg en inzicht over onderliggende processen.
  4. Draagt bij aan gelijkheid.
  5. Wordt voor aanvang en doorlopend getoetst aan bovengenoemde criteria.

Are we doing a good job?

As the world relies more and more on technology, Artificial Intelligence (AI) plays a crucial role. AI is deployed to an ever-increasing extent to take over complex tasks from humans. Because of these rapidly evolving processes, the importance of acting in a morally conscious manner when developing and applying AI gains importance. What does it mean to act morally right, and how can we achieve this? In this statement, we set out our moral views and how we aim to pursue them.

Goed bezig?

In een wereld die meer en meer leunt op digitale techniek, speelt Artificial Intelligence (AI) een belangrijke rol. Ook neemt AI op steeds grotere schaal complexe taken van mensen over. In het licht van deze ontwikkelingen groeit het belang om moreel bewust te handelen in de toepassing van AI. Wat betekent moreel handelen precies en hoe geven we dit vorm? In deze tekst lichten wij toe wat wij onder goed handelen verstaan en hoe wij dit nastreven.

1. Upholding human rights

We endorse the Universal Declaration of Human Rights and the European Convention on Human Rights. These statements serve as minimum standards. Should the Ethics Committee determine that certain Human Rights are compromised when accepting a new assignment, we will advise against it. Human Rights to which we pay particular attention are:

  1. Right to privacy.
  2. Right to equal treatment.
  3. Freedom of opinion and expression.
  4. Prohibition of slavery and forced labour.
  5. Freedom of assembly and association.

1. Recht doen aan mensenrechten

Wij onderschrijven de Universele Verklaring voor de Rechten van de Mens en het Europees Verdrag voor de Rechten van de Mens. Deze verklaringen dienen als ondergrens voor wat wij wel en niet doen. Als de Ethische Commissie van Bolesian vaststelt dat er mensenrechten zijn die onder druk komen te staan bij het aannemen van een opdracht, wijzen wij deze af. In het bijzonder hebben we aandacht voor:

  1. Recht op bescherming van de privésfeer.
  2. Recht op gelijke behandeling.
  3. Vrijheid van mening en meningsuiting.
  4. Verbod van slavernij en dwangarbeid.
  5. Recht van vergadering en vereniging.

2. Social impact

We strive to make a positive impact on the world. Sustainability can be looked at from a social (human), economic (financial), and ecological (environment) angle. We try to achieve this in the following way:

AI systems are built to change human lives. They take over an increasing amount of human tasks, at the same time their presence might be hard to notice. A core value of Bolesian is that we aim to solve more problems than we create. Our products have direct added value for the customer. We ensure that people are able to focus on the challenging parts of their jobs, while the system takes the more tedious and repetitive tasks off their hands. We monitor any unintended consequences of our work (see section 5).

We actively contribute to reducing the ecological footprint of our products, by working as efficiently as possible.

Main points:

  1. Impact on quality of life.
  2. Impact on quality of work; promoting job satisfaction.
  3. Monitoring unintended consequences of our work.
  4. Added value to end users.
  5. Reducing the ecological footprint of our production chain.

2. Impact op de maatschappij

Wij willen een duurzame impact hebben op de wereld. Duurzaamheid kent een sociaal (mens), economisch (geld) en ecologisch (milieu) perspectief. Aan dit streven geven wij de volgende invulling:

AI-systemen veranderen de levens van mensen. AI neemt steeds meer menselijke taken over, maar is ook vaker aanwezig zonder dat mensen het doorhebben. Een kernwaarde van Bolesian is dat wij meer problemen oplossen dan we creëren. Onze producten hebben een directe toegevoegde waarde voor de klant. Wij zorgen ervoor dat mensen zich kunnen richten op het uitdagende deel van hun werk, omdat ons systeem herhaaldelijk werk uit handen neemt. Hierbij monitoren wij onbedoelde gevolgen van ons werk (zie sectie 5). 

We dragen actief bij aan het verkleinen van de ecologische voetafdruk van onze eigen producten, door zo efficiënt mogelijk te werk te gaan.

Hoofdpunten:

  1. Impact op kwaliteit van leven.
  2. Impact op kwaliteit van werk; bevordert werkplezier.
  3. Monitoren onbedoelde gevolgen van ons werk.
  4. Toegevoegde waarde eindgebruikers.
  5. Verkleinen van de ecologische voetafdruk van onze productieketen.

3. Provide explanations

At Bolesian we develop Knowledge Technology-centered systems. These are AI systems that are based on expert knowledge. The knowledge of experts is converted into knowledge rules. These knowledge rules are then contained in our AI systems. AI systems make decisions for and about people. AI developers make decisions about AI systems. The impact of these decisions can be immense. It is therefore important that both the establishment of the results and the results themselves are as clear as possible. The rules behind the results should also be clear and well-explained. This way, both users and developers gain insight into possible unwanted side effects and biases of the system. Transparency, explainability of the decision-making process, as well as possible outcomes of this process are part of what is called ‘Explainable AI’ (XAI). We open the black box and provide explainable results of explainable systems.

Main points:

  1. Provide explanations for the establishment of each outcome (XAI).
  2. Process overview: explainability of the entire decision-making process.

3. Uitleg bieden

Bij Bolesian ontwikkelen wij kennistechnologie. Kennistechnologiesystemen zijn AI-systemen die zijn gebaseerd op expertkennis. De kennis van de experts wordt omgezet naar kennisregels. Deze kennisregels worden vervolgens gevat in een AI-systeem. Deze systemen dienen om beslissingen te maken, voor en over mensen. Als AI-ontwikkelaars maken wij op onze beurt weer beslissingen over AI-systemen. De impact van deze beslissingen kan immens groot zijn. Het is dus van belang dat de manier waarop resultaten tot stand komen zo helder mogelijk is. Ook de kennisregels achter de resultaten moeten duidelijk zijn en goed worden uitgelegd. Zo is voor zowel de ontwikkelaar als de klant inzichtelijk als het systeem ongewenste beslissingen maakt of niet inclusief genoeg is, en waarom. Zowel transparantie, verklaarbaarheid van het beslisproces, als mogelijke uitkomsten van dit proces zijn onderdeel van wat ‘Explainable AI’ (XAI) wordt genoemd. Wij openen de black box en zorgen voor verklaarbare resultaten van uitlegbare systemen.

Hoofdpunten:

  1. Uitleg bieden voor de totstandkoming van elk resultaat (XAI).
  2. Procesoverzicht: verklaarbaarheid van het hele beslisproces.

4. Equality

Equal cases should be treated equally. Unfortunately, there are several known cases of AI software in which this principle is not or insufficiently respected. Think of what happened with the ethnic profiling of the Dutch tax authorities (Belastingdienst) or biased job application software. In order to safeguard the principle of equality, the functioning of the AI software must be transparent. We use domain knowledge and/or data to develop our systems. 

Since data concerns people, it is very important that this data is representative for the group of people for whom the end product is intended. We therefore test this when compiling and using data. In addition, we ensure that our knowledge rules are inclusive.

Main points:

  1. Equal cases are treated equally.
  2. Is trained and tested on representative data.
  3. Possible blind spots are identified, where necessary with the help of external organizations.

4. Gelijke behandeling

Gelijke gevallen moeten gelijk worden behandeld. Er zijn helaas meerdere gevallen bekend van AI-software waarin dit beginsel niet of onvoldoende wordt gerespecteerd. Denk aan wat gebeurde met het etnisch profileren bij de Nederlandse belastingdienst of door bevooroordeelde sollicitatie-software. Om het gelijkheidsbeginsel te borgen, moet de werking van de AI-software transparant zijn. 

Voor de ontwikkeling van onze systemen maken wij gebruik van domeinkennis en/of van data. Waar data over mensen gaat, is het heel belangrijk dat deze data representatief is voor de groep mensen op wie het eindproduct betrekking zal hebben. Dit toetsen wij dus bij het opstellen en het gebruiken van data. Daarnaast zorgen wij ervoor dat onze kennisregels inclusief zijn.

Hoofdpunten:

  1. Gelijke gevallen worden gelijk behandeld.
  2. We trainen en testen met representatieve data.
  3. Mogelijke blinde vlekken zijn in kaart gebracht, eventueel met hulp van buitenaf.

5. Ongoing assessment

The impact of this Ethical Statement depends on how it is enforced. Bolesian’s Ethics Committee was established to monitor compliance with the guidelines that are written here. Moreover, we do not have a monopoly on wisdom. We involve the entire team of Bolesian in establishing our ethical stance and decision-making. Finally, we keep our eyes and ears open for developments within the field of AI ethics. If the guidelines from the Ethical Statement cannot reasonably be met, a project will not be accepted or will be discontinued. We will always provide clarity about our motives behind these decisions.

5. Doorlopende toetsing

Men zegt wel eens: de weg naar de hel is geplaveid met goede bedoelingen. Andere mensen zeggen juist: waar een wil is, is een weg. In beide gevallen staat of valt het nut van een Ethischs Stellingname bij de manier waarop die wordt gehandhaafd. De Ethische Commissie van Bolesian houdt toezicht op het naleven van de richtlijnen uit de Ethische Stellingname. Bovendien hebben wij de wijsheid niet in pacht. Wij betrekken dus het complete team van Bolesian bij het maken van ethische standpunten en beslissingen. Wij houden onze ogen en oren open voor ontwikkelingen binnen het veld van de ethiek van AI. Wanneer redelijkerwijs niet kan worden voldaan aan de richtlijnen uit de Ethische Stellingname, wordt een project niet aangenomen dan wel afgebroken. Wij zullen altijd helderheid verschaffen over onze motieven achter deze beslissingen.

Download Ethical Statement
Download Ethische Stellingname