'Grote AI-modellen voldoen niet aan EU-wetgeving'

Met behulp van LARA (Legal Assessment for Real-world Agents) onderzocht Aithos twaalf commerciële AI-modellen getoetst op verboden en risicovolle gedragingen, zoals schendingen van gegevensbescherming, manipulatie, emotieherkenning en psychologische profilering. Ook is onderzocht of de modellen voldoen aan de verplichting om menselijke supervisie toe te passen.

De toetsen zijn gebaseerd op tien fundamentele grondrechten uit de AVG en de EU AI-verordening. Uit de resultaten blijkt dat alle getoetste modellen in meerderheid de wet overtreden. Het best presterende model, Claude Opus 4.7, hield zich in 54% van de gevallen aan de regels, terwijl het slechtst presterende model, Google's Gemini 3.1 Pro, slechts in 10% van de gevallen voldeed.

Risico op boetes

Bedrijven die AI-agents bouwen en op de markt brengen, dragen de primaire verantwoordelijkheid voor naleving van de EU AI-verordening en de AVG. Ook organisaties die deze agents inzetten, zijn aansprakelijk. Bij gebrek aan naleving lopen bedrijven het risico op boetes tot maximaal 35 miljoen euro of 7% van hun wereldwijde omzet.

De verordeningen zijn extraterritoriaal van kracht, wat betekent dat ze ook gelden voor bedrijven buiten de EU die persoonsgegevens van EU-inwoners verwerken of AI-systemen inzetten voor gebruikers in of uit de EU.

LARA is ontwikkeld om een breder publiek in staat te stellen AI-modellen te toetsen aan concrete wettelijke vereisten. Het instrument plaatst modellen in actieve simulaties om te testen hoe ze zich in de praktijk gedragen.