Haroon Sheikh over AI en ethiek: ‘Juiste mens-machine interactie nodig voor AI als juridisch instrument’

Haroon Sheikh, bijzonder hoogleraar Strategic Governance of Global Technologies aan de Vrije Universiteit Amsterdam, verwacht dat de ontwikkeling van artificial intelligence (AI) grote invloed heeft op (juristen bij) vrijwel iedere organisatie. “Hun werk gaat grondig veranderen, maar zal hen zeker niet overbodig maken,” stelt de Senior Researcher bij de Wetenschappelijke Raad voor het Regeringsbeleid (WRR), filosoof, politiek onderzoeker en columnist van NRC.

Door Joris Spuesens

Al vanaf het moment dat de mens vuur leerde gebruiken heeft technologie een grote invloed op ons gehad. Vuur maakte van mensen technische wezens: ze konden voedsel bereiden dat ze eerder niet konden eten, kregen kortere darmen dan andere zoogdieren en gingen rechtop lopen. Sheikh: “Vuur heeft ons lichaam gevormd. Volgens de Griekse mythen heeft Prometheus ons het vuur van de goden gegeven om te overleven. Net zoals we vuur goed en slecht kunnen gebruiken, kunnen we AI goed of slecht inzetten.”

Sheikh is ervan overtuigd dat AI op zichzelf zich niet tegen de mensheid zal keren en ons kan helpen te overleven. “We moeten AI geen menselijke eigenschappen zoals machtswil toekennen. Het verlangen naar macht is gebaseerd op onze biologische driften, niet op onze intelligentie. Het hangt er wel vanaf hoe we AI ontwerpen en welke regels we meegeven aan AI-toepassingen. Mensen met slechte intenties kunnen AI natuurlijk misbruiken. Techneuten kunnen het slecht ontwerpen, of niet veilig. Daarom is het belangrijk om publieke partijen bij de ontwikkeling van AI te betrekken en meer te investeren om AI-ontwikkelingen met én voor publieke voorzieningen te stimuleren.”

Ethiek is bij AI-innovaties volgens Sheikh dan ook onmisbaar. “Gelukkig hebben we in Europa al jarenlang te maken met de AVG, waardoor zoiets als Privacy by Design gestimuleerd wordt. De recente AI-ontwikkelingen hebben wereldwijd, en in Europa, vele maatschappelijke discussies veroorzaakt. Bijvoorbeeld over intellectuele eigendom, wat te doen met data afkomstig uit open source toepassingen, wie eigenaar is/wordt van generatieve data, waar die wordt opgeslagen, en natuurlijk ook: de verdeling van de winst die AI nu en in toekomst oplevert.”

De snelle ontwikkeling van generatieve AI, die zelf content produceert op basis van bestaande data, is een nieuwe uitdaging die al heeft geleid tot een stortvloed aan rechtszaken over auteursrechten. Volgens Sheikh is het vrijwel onmogelijk om nog te bepalen wat de brondata is van generatieve AI-bots, wat een uitdaging vormt voor het klassieke auteursrecht. “Frankrijk en Australië hebben inmiddels afgedwongen dat technologiebedrijven als Facebook, Netflix, YouTube, Spotify, Apple en Google, die content delen van traditionele mediabedrijven, geld storten in een fonds dat de originele contentmakers steunt. Zoiets verwacht ik ook voor AI-content. Overheden zullen daar langzaam maar zeker meer grip op krijgen.”

De Europese Unie speelt met wetten als de AVG, DMA/DSA en de AI Act een voortrekkersrol bij het reguleren van snelle technologische ontwikkelingen op AI-gebied. Volgens Sheikh begrijpen ook Amerikaanse technologiebedrijven als Facebook, Amazon, Microsoft, Google en Uber dat hun aanvankelijke groeistrategie ‘move fast and break things’ niet meer kan. “Het is te gevaarlijk geworden om die strategie te volgen. De boetes die de EU uitdeelt als technologiebedrijven de Europese regels overtreden lopen inmiddels in de miljarden.”

Sheikh betwijfelt of strenge regelgeving de ontwikkeling van AI in Europa remt: “Europa kiest voor een andere benadering dan puur geld verdienen aan AI-producten en -diensten. De EU wil AI inzetten voor maatschappelijk belangrijke doelen, zoals onderwijs, rechtspraak en zorg. Universiteiten, bijvoorbeeld de UvA met het Civic AI Lab, doen onderzoek naar maatschappelijk nuttige doelen voor AI. Die kunnen per sector en domein verschillen.”

Hij vervolgt: “Waar we wel rekening mee moeten houden, is dat we voor de benodigde AI-rekenkracht nog grotendeels afhankelijk zijn van Amerikaanse cloudaanbieders. Amazon Web Services en Microsoft domineren die markt, wat bijdraagt aan de achterstand van Europa op het gebied van AI. De vijf grootste partijen – Microsoft, Amazon Web Services, Salesforce Inc., Google en Oracle namen in 2023 67 procent van de wereldwijde omzet voor hun rekening blijkt uit cijfers van Statista.”

Volgens Sheikh kan Europa niet op tegen de miljarden die bedrijven als OpenAI en Google investeren in LLM (Large Language Models). “We kunnen ons beter richten op het ontwikkelen van nationale toepassingen en expertise opbouwen over de kunstmatige intelligentie van de grote aanbieders, zodat Europese landen in de toekomst minder afhankelijk zijn van die partijen. We kunnen Nederlandstalige AI-taalmodellen bouwen en die richten op specifieke branches, zoals het recht. Dat is immers in Nederland en Europa anders dan in de VS, China en Rusland. Door de marktmacht van de EU leidt dit er vanzelf toe dat bedrijven uit andere landen zich gaan houden aan Europese regels, zoals blijkt uit het boek The Brussels Effect van Anu Bradford uit 2020.”

Complexe juridische zaken zijn volgens Sheikh nog niet geschikt voor AI: “Analyseren van historische jurisprudentie kan AI wel goed, dus het is dan belangrijk om de juiste mens-machine interactie te ontwerpen om AI als juridisch instrument te gebruiken. Standaardcontracten opstellen, waarvoor al veel bestaande data met weinig variatie beschikbaar is, kan dankzij AI veel sneller. Taken van 50 minuten kunnen dan bijvoorbeeld een factor 10 tot 100 sneller, maar er zal altijd een expert moeten controleren of het goed gedaan is.”

De politie en NS investeren trouwens al fors in hun eigen AI-toepassingen en vanwege de Europese privacyregels moeten zij hun data daarvoor wel in Europa of Nederland opslaan. De ontwikkeling van een Europese cloud, zoals Gaia-X, verloopt echter nog te stroef om de Verenigde Staten en China in te halen.”

Europa heeft andere troeven in de technologische wedloop met Azië en Amerika, stelt Sheikh: “Dankzij de chipmachines van ASML en de netwerktechnologie van Ericsson en Nokia speelt Europa nog steeds een belangrijke strategische rol. Een partij als KPN kan echter niet op hetzelfde niveau investeren in cloudtechnologie als de Amerikanen en Chinezen. Ik vind dus wel dat we harder moeten werken aan een eigen Europese cloud om geopolitieke afhankelijkheid van andere continenten te voorkomen.” Dat werkt Sheikh uit in artikelen en zijn nieuwe boek Atlas van de Digitale Wereld.

Bedrijfsjuristen zullen zich vooral moeten richten op het beheersen van de risico’s die AI oplevert. Sheikh: “AI kan namelijk hallucineren, zelf data verzinnen die in de buurt ligt van eerdere data. Een Amerikaanse rechter heeft het dan ook al verplicht gesteld om te melden dat AI is gebruikt in rechtszaken en dat een jurist die AI gebruikt altijd zelf verantwoordelijk blijft voor de aangeleverde data. AI gaat niet zozeer banen overbodig maken, maar vooral taken. Sommige taken zullen verdwijnen, maar AI zal andere taken creëren. Bijvoorbeeld het controleren van contracten die met AI zijn opgesteld. AI-toepassingen leveren dan tijd op die organisaties kunnen gebruiken om nieuwe en andere klantrelaties op te bouwen.”

Het spreekt volgens hem voor zich dat juristen zich eerst moeten verdiepen in de AVG, DMA/DSA en AI Act om zich voor te bereiden op AI-ontwikkelingen. Sheikh: “Organisaties kunnen dan duidelijke principes opstellen voor de omgang met intellectueel eigendom, datatoegang en -gebruik, zodat medewerkers niet zomaar gevoelige data in AI-bots stoppen. Die is daarna niet meer te verwijderen en gaat een eigen leven leiden. General Counsels moeten medewerkers dus duidelijk maken wat wel en niet mag. Vangrails plaatsen, maar ook experimenten toestaan om innovatie te stimuleren. Dat is niet top-down te bedenken, omdat AI veel te complex is. Medewerkers kunnen zelf het best bepalen hoe AI hen helpt om efficiënter te werken. Laat organisaties zelf decentraal expertise opbouwen. AI, is net zoals mensen, afhankelijk van gedeelde kennis en die ontstaat vanzelf op de werkvloer. Gebruik dus de leercurve van medewerkers om sneller nuttige AI-toepassingen te ontwikkelen.”