EU zet in op transparante generatieve AI met wetsvoorstel
De Europese Unie komt met een voorlopig voorstel dat generatieve AI zoals ChatGPT moet reguleren. Een van de plichten daarbij is dat die tools moeten aangeven of ze auteursrechtelijk beschermd materiaal gebruiken.
De plannen voor regulering liggen al twee jaar op tafel en gaan nu een volgende fase in, waarbij regelgevers en lidstaten de details kunnen verfijnen. Intussen is AI zelf, en dan specifiek generatieve AI zoals ChatGPT van OpenAI en haar varianten, sterk in opmars. Indien het voorstel wordt aangenomen is Europa de eerste regio met regulering voor de technologie.
Klassering van tools
Volgens Reuters bevat de voorlopige versie van de wet onder meer een klassering voor elke tool, van laag tot hoog en zelfs onaanvaardbaar. Denk daarbij aan tools die biometrische surveillance, het verspreiden van desinformatie of discriminatie mogelijk maken. Het is op zich niet de bedoeling om tools tot de op één na hoogste klasse te verbieden, maar die zouden wel onderhevig zijn aan transparantieregels over hun werking.
Ook moeten dergelijke tools volgens het voorstel melden wanneer ze auteursrechtelijk beschermd materiaal gebruiken voor de ontwikkeling van hun systemen. Verschillende modellen die tekst genereren leren hun woorden en zinsstructuur van teksten die op internet te vinden zijn, maar die zijn in praktijk vaak niet rechtenvrij, en de betrokken auteurs of uitgevers zijn niet om toestemming gevraagd en krijgen geen vergoeding.
Hetzelfde geldt voor beeldgeneratoren zoals Dall-E en Midjourney, die beelden uit het niets genereren. Deze AI's maken in hun leerprocessen gebruik van beeldbanken en beelden die publiek op het internet te vinden zijn. Ook in deze gevallen telkens zonder toestemming van de fotografen en beeldend kunstenaars die ze maakten.
In samenwerking met Data News
