Tijdschrift voor Compliance 2020 nr. 3/4

Gebruik van Big Data/algoritmen – het risico bij ongelijke behandeling voor klanten van financiële ondernemingen en de rol van compliance

dr. E.J. van Praag & mr. T. Scholma

In dit artikel bespreken wij in hoeverre financiële ondernemingen klanten op basis van Big Data en algoritmen verschillend mogen behandelen en waarop financiële ondernemingen dan moeten letten. Hoewel dit artikel is toegespitst op financiële ondernemingen, zijn vergelijkbare principes ook van toepassing bij ondernemingen buiten de financiële sector. Ongelijke behandeling vereist bijzondere aandacht van compliance officers, omdat het mensen diep kan krenken, zelfs indien volstrekt legaal en hoe goed bedoeld ook. Denk bijvoorbeeld aan het ouderenuur

Artikel kopen € 79,00 excl. BTW

In plaats van abonneren kunt u dit artikel ook afzonderlijk kopen.

dat supermarkten instelden in verband met Corona, zodat ouderen ’s ochtends vroeg rustig hun boodschappen konden doen, voordat de winkel open zou gaan voor andere klanten. Dit viel niet in goede aarde bij de ouderenbond ANBO. Wij citeren Liane den Haan, directeur bestuurder van ANBO: ‘Deze actie van Albert Heijn is ongetwijfeld goed bedoeld, maar werkt volkomen averechts! Nog los van het onmogelijke tijdstip, zou de supermarkt moeten beseffen wat de consequenties van deze actie zijn. Oudere mensen worden gestigmatiseerd en enorm beperkt in hun vrijheid. Waarom zouden we dit willen?’1 Andersom verwachten klanten dat met hun persoonlijke omstandigheden rekening wordt gehouden en zou een financiële onderneming niet overleven, als deze elke klant precies hetzelfde behandelt. Een verzekeraar blijft niet lang bestaan, als deze een notoire brokkenpiloot dezelfde premie rekent voor een autoverzekering, als een klant die al 20 jaar geen aanrijding heeft veroorzaakt. Een bank kan beter een hypotheek verstrekken aan een klant met een hoog inkomen, dan aan een klant die al jaren werkeloos is. Gerechtvaardigd onderscheid is dus goed en zelfs nodig, maar willekeur of onderscheid op onjuiste gronden, leidt tot bezwaren, reputatieschade en kan zelfs een overtreding van de wet inhouden en resulteren in claims. Het gebruik van Big Data en algoritmen drijft dit dilemma op de spits. Enerzijds is meer onderscheid mogelijk en daardoor wenselijk. Anderzijds, kent Big Data het risico op discriminatie en is het bij gebruik van Big Data nog moeilijker om te achterhalen en uit te leggen waarop het onderscheid is gebaseerd. Dit artikel is als volgt opgebouwd: 1. Wij bespreken in paragraaf 1 drie redenen waarom financiele ondernemingen onderscheid zouden willen maken tussen klanten. 2. In paragraaf 2 zetten wij het juridisch kader uiteen om te beoordelen of onderscheid mag worden gemaakt. 3. In paragraaf 3 beschrijven wij de relatie met wat maatschappelijk wenselijk is. 4. In paragraaf 4 gaan wij in op de specifieke problematiek die speelt bij het gebruik van Big Data en algoritmen. 5. In paragraaf 5 bespreken wij de risico’s van algoritmen en de verwerking hiervan in de Systematische Integriteitsrisico Analyse (SIRA) en Product Approval Review Proces (PARP). 6. In paragraaf 6 bespreken wij 3 casussen waarin wij bovenstaande toepassen. Onze kernboodschap is, dat je elke ongelijke behandeling goed moet kunnen en vooral durven uitleggen aan de klant. Kan of durf je dat niet, dan kan je er beter niet aan beginnen.

U heeft op dit moment geen toegang tot de volledige inhoud van dit product. U kunt alleen de inleiding en hoofdstukindeling lezen.

Wanneer u volledige toegang wenst tot alle informatie kunt u zich abonneren of inloggen als abonnee.


Deel deze pagina:

Nog niet beoordeeld

Bijlage(n)

  • Bijlagen zijn alleen beschikbaar voor abonnees.

Artikel informatie

Type
Artikel
Auteurs
dr. E.J. van Praag & mr. T. Scholma
Auteursvermelding
Ik ben auteur van dit artikel
Datum artikel
Uniek Den Hollander publicatienummer
UDH:TvCo/16238

Verder in 2020 nr.3/4

 ‘Three-lines-of-defense’- model voor risicomanagement belemmert digitale innovatie1

1. Wat is het probleem? Innovatie vergt een cultuur van openheid en transparantie, waarbij fouten mogen worden gemaakt, dilemma’s kunnen worden opgebracht en besproken, en gezame...

 Bestuurlijke borging van integere algoritmes

Compliance heeft toe te zien op het integer gebruik van algoritmes. Algoritmes zijn zelden waardenvrij. In hun implementatie wordt al dan niet bewust stelling genomen in de spanningen ...

 Toezicht houden in de digitale wereld van algoritmes. Interview met Aleid Wolfsen, voorzitter van de Autoriteit Persoonsgegevens

Kunstmatige intelligentie wordt steeds breder toegepast in het bedrijfsleven en bij de overheid. Dat gaat niet altijd zonder slag of stoot, getuige de SyRI-rechtszaak en de recente toe...

 Gebruik van Big Data/algoritmen – het risico bij ongelijke behandeling voor klanten van financiële ondernemingen en de rol van compliance

In dit artikel bespreken wij in hoeverre financiële ondernemingen klanten op basis van Big Data en algoritmen verschillend mogen behandelen en waarop financiële ond...

 Uit de boekenkast van de bedrijfsethiek (78)

In de bedrijfsethiek is een groot aantal boeken en artikelen verschenen waarin op praktische wijze integriteitsvraagstukken worden behandeld en concrete aanbevelingen worden gedaa...

 De AVG en het gebruik van artificial intelligence

Het afgelopen decennium heeft het gebruik van big data en artificial intelligence (AI) een enorme vlucht genomen. Door middel van complexe algoritmes, vaak aangeduid als een vorm van A...

 Data-analyses voor het sturen op compliancecultuur

Compliance officers zijn er steeds meer van overtuigd dat het belangrijk is om inzicht te hebben in de organisatiecultuur en het gedrag van medewerkers. Deze overtuiging komt voor...

 Responsible data use in the financial sector, an important aspect for the valuation of companies and sustainability of business models

The data that financial sector organisations process determines part of their value. The value of data is an increasingly important factor in the valuation of companies as part of a me...

 To BCR or not to BCR? Een reflectie op het gebruik van Binding Corporate Rules

De afgelopen jaren hebben organisaties veel tijd en aandacht besteed aan het implementeren van maatregelen om te voldoen aan de nieuwe privacywetgeving, de Algemene Verordening Ge...

 De curator en de verwerking van bijzondere persoonsgegevens: een leemte in de Uitvoeringswet AVG

1. Samenvatting Van personeelsdossiers tot klantgegevens: een curator krijgt veelal te maken met persoonsgegevens bij het faillissement van een onderneming. Het kan soms noodzakelijk z...