Microsoft publiceert gedragscode voor menselijke regie op AI
Microsoft heeft een concept-gedragscode gepubliceerd om te garanderen dat AI-systemen strikt onder menselijke controle blijven. Met het document opent de techgigant een publieke consultatie van zes weken, waarna later dit jaar een definitieve versie volgt. "Mensen zijn belangrijker dan AI," stelt Microsoft.
AI moet volgens de regels een hulpmiddel blijven en mag zich nooit verzetten tegen uitschakeling of onderbreking, aldus Microsoft.
Modellen mogen hun bevoegdheden niet zelfstandig uitbreiden en moeten communiceren in voor mensen begrijpelijke taal. Daarnaast stelt Microsoft dat de naleving van veiligheidsregels — met name rondom massawapens, kinderveiligheid en grootschalige manipulatie — altijd prioriteit heeft boven het voltooien van een taak.
Microsoft wijst bovendien de gedachte af dat AI-systemen bewustzijn, rechten of een rechtspersoonlijkheid kunnen hebben. Modellen moeten menselijke regie ondersteunen, zonder dat gebruikers er emotioneel afhankelijk van worden.
Microsoft richt zich hiermee op het veilig ontwikkelen en beheren van AI, mede naar aanleiding van recente incidenten waarbij autonome AI-agents het doelwit werden van geavanceerde hackcampagnes. De stap volgt op toenemende zorgen in de techsector, waar OpenAI en Anthropic recent oproepen deden om de snelle ontwikkeling van autonome AI-systemen beter te controleren.
Meer over microsoft
Over Witold Kepinski
