OpenAI ha recentemente presentato Voice Engine, una tecnologia capace di replicare la voce umana partendo da un breve clip audio di soli 15 secondi. Tuttavia, l’organizzazione ha deciso di non rilasciare questa tecnologia al pubblico fino a quando non avrà una comprensione più approfondita dei potenziali rischi legati al suo uso improprio. Voice Engine può generare una versione AI della voce di una persona da una breve registrazione, consentendogli di articolare testi ad alta voce e persino riprodurre la voce in lingue straniere, partendo da un campione in inglese.
OpenAI ha collaborato con un gruppo selezionato di clienti per testare Voice Engine fin dalla fine del 2023. Questi test hanno trovato applicazioni nell’assistenza alla lettura per i bambini, nella traduzione di contenuti in altre lingue e nella creazione di voci per persone che non sono in grado di parlare. La decisione di limitare l’accesso a questa tecnologia è stata influenzata dalle preoccupazioni riguardo ai rischi di generare voci clonate, in particolare nel contesto di un anno elettorale, dove il potenziale per abusi, come nella diffusione di disinformazione, è significativo.
C’è una crescente preoccupazione riguardo alle tecnologie AI generative e alla loro capacità di ingannare, specialmente con le imminenti elezioni del 2024, dove la disinformazione generata dall’AI è prevista essere una grande sfida. Un incidente che coinvolge chiamate robotizzate che imitavano la voce del Presidente Biden, create dall’AI per scoraggiare il voto nelle primarie presidenziali del New Hampshire, serve come un primo esempio di tale uso improprio.
Originariamente sviluppato nel 2022, Voice Engine alimenta anche le voci per ChatGPT e altri programmi di OpenAI. Similmente al suo approccio con Voice Engine, OpenAI ha limitato l’accesso pubblico al suo programma di testo-video Sora, optando per condividerlo con un gruppo selezionato per ulteriori ricerche. Il lancio di Voice Engine mira a sensibilizzare sulle pratiche AI ingannevoli e sul potenziale per i criminali di sfruttare tali tecnologie, evidenziando la necessità di vigilanza e comprensione del panorama in evoluzione delle tecnologie AI.
hashtag#OpenAI hashtag#VoiceEngine hashtag#TecnologiaAI hashtag#SicurezzaDigitale hashtag#InnovazioneAI hashtag#DisinformazioneElettorale hashtag#AssistenzaAllaLettura hashtag#TraduzioneAI hashtag#VociGenerative hashtag#EticaAI
