¿Ese audio es real? Un nuevo sistema hecho en España detecta si una grabación de voz se ha hecho con IA

Que actualmente la inteligencia artificial está en todas partes no es ningún secreto. Uno de los terrenos en los que también se ha integrado es en la comunicación por voz, donde puede llegar a ...

Que actualmente la inteligencia artificial está en todas partes no es ningún secreto. Uno de los terrenos en los que también se ha integrado es en la comunicación por voz, donde puede llegar a ser bastante útil, ya que ‘conversar’ con un chatbot mediante audio puede resultar mucho más natural, o al menos así lo creen compañías como OpenAI, la empresa madre de ChatGPT.

Las grabaciones de voz generadas por IA están revolucionando la forma en que interactuamos con dispositivos, asistentes virtuales y plataformas digitales, con voces artificiales que suenan sorprendentemente humanas. Empresas líderes en tecnología como Google, OpenAI y Microsoft están a la vanguardia de este desarrollo, ofreciendo soluciones que pueden replicar la entonación, el ritmo y las inflexiones del habla humana con una precisión sin precedentes.

Sin embargo, esta tecnología no está exenta de controversias y preocupaciones. Uno de los principales problemas es el potencial para el uso indebido y el fraude. Las voces artificiales pueden ser utilizadas para crear grabaciones falsas que son difíciles de distinguir de las reales, lo que puede llevar a la desinformación y al fraude de identidad.

Un nuevo sistema hecho en España

Las voces generadas por IA pueden ser utilizadas para manipular a las personas, haciéndolas creer que están interactuando con una persona real cuando en realidad están hablando con una máquina.

Para combatir este problema, investigadores de la Universidad de Granada (UGR) han desarrollado un nuevo sistema que permite averiguar si una grabación de voz es real o se ha generado mediante inteligencia artificial, con la particularidad de que integra modelos específicos para voces de personalidades que son objetivo frecuente de noticias falsas.

“Hemos generado una herramienta que integra soluciones propias y de terceros para discernir si un audio es real o está generado con algoritmos de inteligencia artificial. Una de las novedades que introduce esta herramienta es que no solo integra modelos generales, sino también modelos específicos generados en la UGR para voces de personalidades que son objetivo frecuente de desinformación”, explican los investigadores.

En concreto, la herramienta está especialmente capacitada para validar las voces del rey Felipe VI, el presidente del Gobierno, Pedro Sánchez, y la vicepresidenta del Gobierno y ministra de Trabajo y Economía Social, Yolanda Díaz.

Hasta ahora, el audio ha sido un problema ‘menor’ en comparación con otros tipos de contenidos falsos, como las fotografías o los vídeos. Sin embargo, en los últimos dos años está ganando terreno, por lo que es preciso contar con herramientas que ayuden a la detección de audios generados y sirvan como verificadoras de autenticidad.

Estafas telefónicas

El nuevo sistema también podría ser una herramienta para luchar contra las estafas telefónicas, subiendo a la plataforma creada el audio en cuestión para intentar determinar si es una voz real. Sin embargo, los investigadores admiten que este es un problema de más difícil resolución, dado que en ocasiones esas llamadas falsas de voz instan al interlocutor a que decida en el momento.

“Juegan con el factor tiempo: te llaman y quieres que decidas en el momento, y a veces (la llamada) te pilla en la calle con ruido ambiente, lo que hace que no te percates de si la voz es sintética o no parece muy natural”, comentan.