In de financiële sector worden steeds vaker data-gedreven technieken zoals machine learning en geautomatiseerde besluitvorming gebruikt om klanten te benaderen en producten aan te bieden. Deze technieken zijn in staat om patronen te herkennen, maar ze zijn vaak gebaseerd op correlaties in plaats van causale verbanden, wat complicaties kan veroorzaken in het juridische kader. Het Nederlandse recht is namelijk niet goed toegerust om beslissingen te beoordelen die op basis van correlatie worden genomen in plaats van op causaal verband. Dit roept de vraag op of een financiële onderneming aansprakelijk kan worden gesteld voor onjuiste besluiten, vooral omdat de huidige rechtsregels zijn opgesteld in een tijd waarin menselijke besluitvorming centraal stond.
Het artikel bespreekt verder de voorwaarden waaraan geautomatiseerde besluitvorming moet voldoen onder de Algemene Verordening Gegevensbescherming (AVG), evenals de praktische implicaties voor verdienmodellen van financiële ondernemingen. Daarnaast wordt prijsdiscriminatie besproken, waarbij sommige klanten meer kunnen betalen of geweigerd kunnen worden op basis van de data die over hen verzameld wordt. Ook wordt ingegaan op de vraag wanneer geautomatiseerde besluitvorming als verboden discriminatie wordt beschouwd, bijvoorbeeld op basis van ras. Tot slot wordt er kort ingegaan op de gevolgen voor het consumentenrecht, specifiek het concept van de "gemiddelde consument," nu bedrijven in staat zijn om klanten steeds gedetailleerder te profileren.
Lees het hele artikel, dat eerder verscheen in het Tijdschrift voor Consumentenrecht en handelspraktijken, via de knop hieronder.
