AI-experts vragen VN: stel internationale grenzen in om AI-risico's te voorkomen

De brief is onder meer ondertekend door tien Nobelprijswinnaars en acht voormalige ministers van diverse landen. De ondertekenaars stellen dat de huidige AI-koers 'ongekende risico's' met zich meebrengt. "AI zou binnenkort de menselijke capaciteiten ver kunnen overtreffen en risico's kunnen vergroten zoals kunstmatig ontwikkelde pandemieën, grootschalige desinformatie, manipulatie van individuen op grote schaal inclusief kinderen, nationale en internationale veiligheidszorgen, massale werkloosheid, en systematische schendingen van mensenrechten", aldus de brief.

Volgens de briefschrijvers hebben bepaalde geavanceerde AI-systemen zelfs al misleidend en schadelijk gedrag vertoond. "Toch krijgen deze systemen meer autonomie om acties te ondernemen en beslissingen te maken." Als daar geen grenzen aan worden gesteld, wordt het steeds moeilijker om menselijke controle uit te oefenen, vrezen experts.

Internationale overeenkomst

De ondertekenaars roepen overheden daarop op om voor het einde van 2026 een internationale overeenkomst samen te stellen, met daarin grenzen voor AI. Deze beperkingen moeten operationeel zijn, met robuuste handhavingsmechanismen, aldus de brief. "Deze grenzen moeten voortbouwen op bestaande mondiale kaders en vrijwillige bedrijfstoezeggingen", aldus de ondertekenaars. Ook moet volgens hen gezorgd worden dat alle aanbieders van geavanceerde AI verantwoording afleggen aan rondom deze gedeelde drempelwaarden.

Een dergelijke overeenkomst is al eens opgesteld voor andere doleinden. In 1970 werden bijvoorbeeld internationale afspraken gemaakt rondom nucleaire wapens. Die afspraken werden ook ontwikkeld door de VN, wat nu ook het plan zou moeten zijn, aldus de brief.