Nieuwe tool OpenAI twijfelt over vrijgeven AI-tool die stemmen nabootst
Een nieuwe tool van OpenAI is in staat op basis van een audiobestand van slechts 15 seconden op overtuigende wijze de stem van personen na te bootsen. Met het oog op onder meer de aanstormende verkiezingen in de Verenigde Staten (VS) is het bedrijf echter terughoudend met het vrijgeven van de tool.
Het gaat om Voice Engine van OpenAI, een nieuwe tool waarmee gebruikers aan de hand van een sample-bestand en een uitgeschreven tekst een stem kunnen nabootsen en dingen kunnen laten zeggen. OpenAI stelt dat slechts vijftien seconden audio nodig is om een realistische weergave van een stem te creëren.
OpenAI test Voice Engine samen met een aantal partners sinds eind 2022. Het stelt hierbij bewust een voorzichtige aanpak te hanteren gezien het potentieel van het misbruik van synthetische stemmen. OpenAI zegt een dialoog op gang te willen brengen over het verantwoord inzetten van gekloonde stemmen. Op basis van deze gesprekken en de resultaten van kleinschalige experimenten wil het bedrijf besluiten of en hoe de technologie op grote schaal ingezet kan worden.
We're sharing our learnings from a small-scale preview of Voice Engine, a model which uses text input and a single 15-second audio sample to generate natural-sounding speech that closely resembles the original speaker. https://t.co/yLsfGaVtrZ
— OpenAI (@OpenAI) March 29, 2024
Meer over Artificial intelligence
Over Wouter Hoeffnagel
