Synthetische Interacties: De AI-Verordening en de Inzet van Generatieve Systemen

De inzet van Generatieve AI-systemen, en de vervaagde grenslijn tussen artificiële en niet-artificiële interacties en content in het bijzonder, wordt gekoppeld aan een reeks informationele risico’s. Concreet gaat het dan bijvoorbeeld om misinformatie, discriminatie, manipulatie, en een verlies aan vertrouwen in de informatiemaatschappij. Dit hoofdstuk gaat na of de AI-Verordening burgers voldoende slagvaardig maakt tegen deze informationele risico’s. Om deze evaluatie door te voeren, hanteren wij een volgende structuur. Vooreerst willen we de informationele gevaren verbonden aan de inzet van generatieve systemen verder nuanceren: waarom en wanneer kunnen zij een bedreiging vormen op individueel en maatschappelijk niveau (Deel 2)? Vervolgens gaan we na hoe de AI-Verordening aan deze dreiging meent tegemoet te komen. Hiervoor geven wij een kort (historisch) overzicht van de AI-Verordening en de voor generatieve systemen meest relevante bepalingen, namelijk de transparantieverplichtingen en de risicobeheersverplichtingen waaraan (grootschalige) algemene en generatieve systemen moeten voldoen (Deel 3). Vervolgens gaan we na of, in het vormgeven van deze bepalingen, de gemaakte beleidskeuzes kunnen slagen in de vooropgestelde doelstelling de informationele dreiging van generatieve systemen te beperken (Deel 4). Deze doel/middelen analyse is tweeledig. Aan de ene zijde kijken we naar de positie van betrokkenen, zijnde de natuurlijke personen die geraakt kunnen worden door een artificiële interactie. Kunnen zij optreden tegen de negatieve gevolgen die AI kan veroorzaken? Aan de andere zijde vragen we met betrekking tot de aanbieders en professionele gebruikers van dit soort systemen: hoe en wanneer moeten zij nu net optreden tegen deze risico’s en is dit afdoende? Deze kritische juridische evaluatie wordt aangevuld en ondersteund met juridische met empirisch burgeronderzoek en politiek-economische inzichten. Waar het burgerperspectief toelaat de wetgeving te beoordelen op diens mensgerichtheid, kunnen we via een politiek-economisch onderzoek achterhalen welke maatschappelijke belangen, zoals marktoverwegingen of grondrechten, de wetgever heeft laten primeren. Zodoende kunnen wij de juridische bescherming die EU-burgers genieten vis-à-vis het gebruik van AI contextualiseren.