In de vorige editie van onze IT Matters nieuwsbrief (schrijf je hier in voor de nieuwsbrief) stonden we stil bij de juridische ontwikkelingen en implicaties op het gebied van AI. Die ontwikkelingen hebben in de tussentijd niet stilgestaan.
Vlak voor het kerstreces kwam er witte rook voor de AI-Act: na lange onderhandelingen is 9 december 2023 een politiek akkoord bereikt. De Europese Commissie licht een tipje van de sluier op, maar de definitieve tekst van de AI-Act (die nog geaccordeerd moet worden door het Comité van Permanente Vertegenwoordigers) wordt pas eind januari of begin februari 2024 verwacht. Wat we al wel weten: de risico gebaseerde aanpak blijft intact. AI-systemen die een duidelijk risico vormen voor fundamentele rechten worden verboden, waarvan de scope verder is uitgebreid met betrekking tot het gebruik van biometrische gegevens. Voor AI-systemen met een hoog risico - bijvoorbeeld op het gebied van kritieke infrastructuur, politie en justitie en medische hulpmiddelen - zullen vergaande verplichtingen gelden; onder meer aangaande risico-mitigatie, kwaliteit van de datasets, logging, documentatie en gebruikersinformatie, menselijk toezicht en cybersecurity. Voor systemen die een beperkt risico vormen zullen minimale transparantieverplichtingen gelden. De verplichtingen voor ‘general purpose’ AI-systemen en generatieve AI zijn uitgebreid ten opzichte van het initiële voorstel van de AI-Act. Voor systemen met een grote impact die een systeemrisico’s kunnen vormen (zoals ChatGPT-4) zullen nadere verplichtingen gaan gelden met betrekking tot het beheersen van risico's en het monitoren van ernstige incidenten en het testen en evalueren van de werking. De AI-Act zal stapsgewijs over 2024 – 2026 in werking treden, maar organisaties zullen nu al aan de slag moeten om compliance met de AI-Act te borgen.
In verband met de AI-Act werd in EU-verband ook overeenstemming bereikt over een herziening van de richtlijn inzake productenaansprakelijkheid. De nieuwe regeling is nu ook expliciet van toepassing op software en bevat in dit kader de nodige verruimingen, onder andere ten aanzien van de kring van aansprakelijke personen. Zo bracht het voorstel voor de richtlijn ook dienstverleners die updates verzorgen van software onder in de kring van mogelijke aansprakelijke partijen. Net als bij de AI-Act is de definitieve tekst van de richtlijn nog niet gepubliceerd. Na publicatie zal waarschijnlijk een termijn van 12 maanden gelden voordat de richtlijn, na implementatie in het lokale recht, van kracht wordt.
Niet alleen op Europees niveau waren er ontwikkelingen: tijdens de G7 is op 30 oktober 2023 de Hiroshima Process International Code of Conduct for Organizations Developing Advanced AI Systems gepubliceerd. Deze code heeft tot doel veilige en betrouwbare AI wereldwijd te bevorderen en voorziet in vrijwillige richtlijnen voor organisaties die geavanceerde AI-systemen ontwikkelen, waaronder geavanceerde basismodellen en generatieve AI-systemen.
De OESO heeft afgelopen november in Recommendation of the Council on Artificial Intelligence, de definitie van AI-systeem aangepast, zodat deze technisch accuraat blijft en technologische ontwikkelingen reflecteert ook met betrekking tot generatieve AI. Deze definitie wordt naar verwachting overgenomen in de AI-Act.
Op 30 november organiseerden wij met Microsoft en GitHub een seminar over Generative AI. Daarin bespraken een aantal sprekers van Microsoft, GitHub en Kennedy Van der Laan de uitgangspunten van responsible AI en de mogelijkheden van aansprakelijkheid in verband met het gebruik van generative AI, inclusief de Copilot producten van Microsoft en GitHub. Ten aanzien van deze Copilot producten kwam daarbij ook de contractuele bescherming aan de orde die Microsoft aan haar klanten biedt in de vorm van de Customer Copyright Commitment.
Op 27 december 2023 heeft The New York Times OpenAI en Microsoft gedagvaard wegens auteursrechtinbreuk, omdat ChatGPT zonder toestemming is getraind met miljoenen artikelen van de krant. Dit belooft een landmark case te worden over het gebruik van auteursrechtelijk beschermd materiaal door generatieve AI-systemen.
Genoeg ontwikkelingen dus om rekening mee te houden. Houd voor meer nieuws onze AI-landing page in de gaten of neem contact met ons op.
