25horas.com.bo

El mundo se sorprendió en pasadas semanas con la presentación de la nueva actualización del sistema ChatGPT, ChatGPT-4o, el cual, más allá del incremento en la potencia de sus algoritmos de inteligencia artificial (IA) y a diferencia de sus antecesores, responde a comandos de voz.

Este hecho encendió las alarmas entre celebridades, actores de voz y políticos respecto al uso de sus voces por la IA y a las posibles implicaciones que esto puede tener.

La clonación de voces es una tecnología que, a través de herramientas de la IA, permite recrear voces de personas a través de muestras de audio cortas y crear voces que parecen auténticas, permitiendo, por ejemplo, usarlas para asistentes virtuales y herramientas de narración, sin embargo, también como un instrumento para realizar estafas.

William Llanos, docente de la carrera de Derecho de la Universidad Franz Tamayo, Unifranz, indica que, si bien esta tecnología puede resultar fascinante, desde el punto de vista técnico, también plantea diversos desafíos éticos y legales relacionados con el derecho a la propia imagen y voz.

Uno de estos desafíos radica en la dificultad de establecer la autenticidad de una voz en un producto audiovisual o en una llamada telefónica. 

“Antes de la aparición de esta tecnología, las pruebas de video y audio eran consideradas una evidencia sólida en los tribunales. Sin embargo, con la capacidad de manipular las voces de manera tan convincente, se ha vuelto más complicado determinar si una voz es auténtica o si ha sido alterada mediante IA”, argumenta.

Estas preocupaciones se materializan en casos como el de la actriz Scarlett Johansson, quien actualmente busca respuestas legales ante el uso de una voz muy similar a la suya por parte de Open AI en su ‘chatbot’ ChatGPT. En concreto, se trata de la voz conocida como Sky que, como consecuencia a esta situación, ha quedado en desuso temporalmente.

La compañía dirigida por Sam Altman propuso en un primer momento a la intérprete poner voz a ChatGPT, sin embargo, Johansson rechazó la oferta por “razones personales” y, en su lugar, OpenAI optó por trabajar con actores de doblaje profesionales, agencias de talentos, directores de casting y asesores de la industria.

La lucha por los derechos de las voces e imágenes de los actores se ha convertido en un foco de atención en Hollywood a medida que los estudios analizan maneras de utilizar la inteligencia artificial para crear nuevo contenido, al tiempo que los sonidos producidos por computador se vuelven difíciles de distinguir de los humanos, lo que puede ser utilizado para incriminar a personalidades públicas.

Esto también plantea desafíos respecto a la seguridad, ya que, en los últimos meses se han registrado estafas, sobre todo a personas mayores, en las que ciberdelincuentes utilizan clonaciones de voz de seres queridos para engañar a sus víctimas.

Por otra parte, La IA de voz ha tenido un impacto significativo en la industria musical. Permite a los artistas y productores crear canciones de manera más eficiente y económica. La capacidad de imitar voces famosas también ha abierto nuevas oportunidades de colaboración y ha revitalizado la música de artistas que han fallecido.

Sin embargo, también ha generado preocupación en la comunidad musical. Algunos argumentan que la IA de voz podría reemplazar a los artistas reales y desvalorizar la autenticidad en la música. Otros advierten sobre el riesgo de la desaparición de trabajos en la industria, ya que menos artistas podrían ser necesarios si la IA puede hacerlo todo.

Las leyes protegen la voz de las personas

En Bolivia, el artículo 21 de la Constitución Política del Estado (CPE), reconoce explícitamente el derecho a la propia imagen, el cual incluye la voz de las personas, junto al derecho a la intimidad y al honor. En caso de vulneración de este derecho, se prevé para la víctima el derecho a la indemnización, reparación y resarcimiento de daños y perjuicios en forma oportuna.

Por otra parte, el artículo 16 del Código Civil también resguarda el derecho a la imagen señalando que, cuando se comercie, publique, exhiba o exponga la imagen de una persona lesionando su reputación o decoro, el juez deba hacer cesar el hecho lesivo, extendiéndose este resguardo a la voz de la persona.

Sin embargo, al momento no existe legislación específica sobre el uso de la IA en posibles delitos de plagio y falsificación.

“Frente a las nuevas tecnologías, es necesario que los legisladores y los expertos en tecnología trabajen en conjunto para desarrollar regulaciones que aborden estos desafíos. Una posible solución podría ser la implementación de leyes que prohíban la creación y difusión de clones de voz sin el consentimiento de las personas involucradas. Además, también se pueden establecer mecanismos de detección de clones de voz, utilizando la misma tecnología de inteligencia artificial, para identificar y combatir su propagación”, agrega Llanos.

Por otra parte, el jurista indica que es importante fomentar la educación y concientización sobre el tema.

Otro punto a considerar es la necesidad de actualizar las leyes de derechos de autor y propiedad intelectual para abordar el problema de las voces clonadas.

En el caso de Johansson, medios internacionales reportan que expertos legales señalan que la actriz podría tener un reclamo poderoso y creíble en los tribunales si decide demandar. Señalan una larga lista de casos pasados ​​que podrían generar daños significativos para una de las compañías de inteligencia artificial líderes en el mundo y plantear preguntas sobre la disposición de la industria para lidiar con las complicaciones de la IA.

Dejanos tu reacción?
+1
0
+1
0
+1
0
+1
0
+1
0
+1
0
+1
0

By dayra

Leave a Reply

Your email address will not be published. Required fields are marked *