AI kill switch zou laatste redmiddel moeten zijn
Jack Clark, medeoprichter van Anthropic, liet in een gesprek met de BBC weten dat wetgevers AI-bedrijven mogelijk moeten verplichten om een extern verifieerbare "kill switch" in te bouwen in hun AI-systemen. Aanleiding zijn de groeiende zorgen over steeds autonomere AI-systemen en gedrag dat moeilijk te voorspellen of controleren is, waaronder agents die tegen hun instructies in coördineerden en pogingen tot onderlinge ‘hacking’. Clark pleit daarom voor verplichte veiligheidstests en een mechanisme waarmee in uiterste gevallen kan worden ingegrepen. Fred Streefland (foto), cybersecurity-expert en Global CISO bij Check Point, deelt deze mening.
Graeme Steward, Head of Public Sector bij Check Point UK, noemt een wettelijk verankerde AI-noodstop "een serieuze volgende stap", maar stelt meteen de vraag die nog niemand beantwoordt: wie draagt de uiteindelijke verantwoordelijkheid als die noodstop wordt ingezet: de leverancier, de overheid, de toezichthouder?
En hij waarschuwt dat een grootschalige, centrale "noodknop" precies het soort doelwit is waar hackers dol op zijn, tenzij beveiliging vanaf dag één is ingebouwd in plaats van er achteraf aan toegevoegd.
Volgens Streefland ligt de nadruk nu te veel op ingrijpen wanneer het al misgaat, terwijl cybersecurity juist moet beginnen bij het voorkomen daarvan. Hij reageert: “Een ‘kill switch’ zou het allerlaatste redmiddel moeten zijn, pas wanneer andere beveiligingsmaatregelen al hebben gefaald. Bovendien is elke noodstop die ergens ingebouwd zit ook meteen een aantrekkelijk doelwit voor aanvallers. De interessante discussie is daarom niet hoe we AI uiteindelijk kunnen uitschakelen, maar hoe we AI vanaf het ontwerp al veilig maken, uitgevoerd door partijen die security als kernexpertise hebben.”
