Tras la reciente aprobación del Reglamento de Inteligencia Artificial por el Parlamento Europeo, he leído y oído opiniones contrarias a que se regule la inteligencia artificial, por cuanto entienden que se limita su potencial.
Personalmente creo que la regulación es indispensable, pues hay sistemas que vulneran claramente nuestros derechos y libertades. Por ello, deben limitarse, cuando no, prohibirse.
OpenAI acaba de anunciar que está desarrollando Voice Engine, un sistema basado en inteligencia artificial capaz de clonar la voz de una persona con una nuestra de apenas 15 segundos y una entrada de texto. El sistema conserva, incluso, el acento de la persona.
Uno de los riesgos de este sistema es la suplantación de identidad. Conscientes de ello, desde OpenAI piden eliminar progresivamente la autenticación por voz como medida de seguridad para acceder a cuentas bancarias y otra información sensible, puesto que dejaría de ser segura. O sea, que causan un problema donde no hay.
Conclusión
Que nos clonen la voz, tomando una muestra de cualquier vídeo publicado en redes sociales parece fácil, lo mismo que clonar nuestro rostro.
Al amparo del futuro Reglamento de Inteligencia Artificial está claro que el riesgo inherente es alto. Personalmente, abogaría por prohibir este tipo de sistemas o aplicaciones, salvo que existan mecanismos capaces de identificar a la voz clonada como tal.
Por el momento, OpenAI ha lanzado una versión básica para tantear al público como hicieron con ChatGPT.