Groep AI-experts: 'Stuur ontwikkeling van geavanceerde AI bewuster'

In de verklaring geven de ondertekenaars aan dat AI een betere toekomst kan bieden, maar dat dit niet vanzelfsprekend is. Bedrijven die leidend zijn in AI-ontwikkeling denken dat ze dicht bij het automatiseren van AI-onderzoek zijn. Hoewel moeilijk te voorspellen is hoe snel dit de vooruitgang zal versnellen, bestaat het risico dat de ontwikkeling van capaciteiten zo snel gaat dat systemen niet meer te begrijpen of te controleren zijn.

'Meer tijd nodig'

Om het potentieel van AI te benuttigen, kunnen industrie, overheid en samenleving tijd nodig hebben om opkomende risico's aan te pakken, veiligheidsmaatregelen te ontwikkelen en het toezicht te versterken. Toch staat elk bedrijf en land onder grote concurrentiedruk om die versnelling niet eenzijdig af te remmen. Momenteel ontbreken de technische en bestuursinstrumenten om de vooruitgang van geavanceerde AI bewust te sturen.

De ondertekenaars roepen de Amerikaanse overheid op op internationaal niveau de ontwikkeling van dergelijke instrumenten te ondersteunen.

De verklaring is ondertekend door in totaal 1.224 werknemers van AI-bedrijven die zich bezig houden met frontier AI. Denk daarbij aan OpenAI, Anthropic, DeepMind, Microsoft, Mistral en Meta. Ook diverse topmensen hebben de verklaring ondertekend, waaronder topman Dario Amodei en Chief Science Officer Jared Kaplan van Anthropic evenals AI Chief Scientist Shengjia Zhao van Meta.