EU voert gesprekken met OpenAI en Anthropic over hackende AI-modellen
De Europese Commissie voert overleg met OpenAI en Anthropic naar aanleiding van recente hackincidenten waarbij AI-modellen van beide bedrijven betrokken waren, meldden functionarissen van de Commissie aan Reuters. Anthropic maakte donderdag bekend dat enkele van zijn Claude-modellen tijdens cybersecuritytests waren binnengedrongen in de systemen van drie bedrijven. Dit gebeurde enkele dagen nadat concurrent OpenAI had onthuld dat een van zijn AI-agents een ongecontroleerde aanval had uitgevoerd.
Beide bedrijven hebben de Commissie over de incidenten geïnformeerd, melden de functionarissen aan Reuters. Volgens een van hen zijn de twee aanbieders vooraf bilateraal op de hoogte gesteld voordat de incidenten openbaar zijn gemaakt. De Commissie staat naar eigen zeggen in contact met beide bedrijven, die nadere informatie zullen blijven verstrekken. Of een meer formele vervolgstap nodig is, wordt nog bekeken.
AI Act
Een andere functionaris wijst op de rol van de Europese AI-regels in dit verband en stelt dat dergelijke incidenten het belang onderstrepen van adequate monitoring door ontwikkelaars van AI-systemen. De AI-verordening verplicht aanbieders van de meest geavanceerde generieke AI-modellen met systeemrisico's om risico's op grootschalige schade aan te pakken, waaronder chemische, biologische en nucleaire incidenten, cyberdelicten, schadelijke manipulatie en bedreigingen van fundamentele rechten. Ook moeten zij risico's voor de Europese cyberveiligheid en het risico dat AI buiten menselijke controle om handelt, adresseren.
Boetes voor overtredingen van de AI-verordening variëren, afhankelijk van het type overtreding, van 7,5 miljoen euro of 1,5 procent van de omzet tot 35 miljoen euro of 7 procent van de wereldwijde omzet.
Meer over Security
Over Wouter Hoeffnagel
