BBC Mundo
Una campaña publicitaria que muestra a la fallecida Elis Regina y a su hija Maria Rita interpretando un dúo ha provocado reacciones antagónicas en las redes sociales.
En la pieza de Volkswagen, la cantante fallecida en los años ochenta fue devuelta a la vida mediante Inteligencia Artificial (IA). Aparece conduciendo una Kombi y cantando Como nuestros padres, de Belchior.
Aunque muchos fanáticos e internautas alabaron y se emocionaron con el anuncio, otros cuestionaron si es ético utilizar la imagen de una persona que ya no está viva en un contexto ficticio.
El sociólogo y coordinador de impacto del Centro de Inteligencia Artificial de la Universidad de São Paulo (USP), Glauco Arbix, afirmó a BBC que el tema es controvertido, ya sea porque plantea debates sobre los efectos psicológicos de traer muertos a la vida utilizando la tecnología o porque toca temas como el consentimiento, la veracidad y la finitud de la vida.
Para Arbix, utilizar la IA de forma no transparente, informada o consciente entraña muchos riesgos, sobre todo, cuando hay desplazamiento espacial o atribución de declaraciones falsas a la persona retratada.
«No porque puedas hacerlo debes hacerlo», asegura. «Una cosa es que guardes en el cajón una película de alguien que murió para verla unas cuantas veces y otra cosa es recrear (su imagen) en nuevas condiciones, como si siguiera vivo».
Según el profesor de la USP, la sociedad no está preparada para abordar este desplazamiento espacial y circunstancial de las figuras fallecidas y hacerlo puede resultar «perturbador» para algunas personas.
«La finitud de la vida está sedimentada en la historia social. Incluso para aquellos que creen en la vida después de la muerte, siempre es algo más inaccesible y distinto de lo que vemos ahora, para lo que no estamos preparados como sociedad.»
BBC se puso en contacto con Volkswagen para conocer su posición sobre el asunto, pero no recibió respuesta al cierre de este reportaje.
Puede destruir el nombre y la reputación
La campaña de Volkswagen no fue la primera en utilizar la inteligencia artificial para escenificar realidades con personas ya muertas.
En la película Rogue One: Una historia de Star Wars, la actriz Carrie Fisher también fue recreada digitalmente para aparecer como la joven princesa Leia.
En junio, el músico Paul McCartney dijo que se había utilizado la inteligencia artificial para que la voz de John Lennon -su compañero de banda fallecido en 1980- pudiera utilizarse en una nueva canción de los Beatles.
La tecnología, también conocida como deepfake, se utiliza a menudo para crear videos falsos en los que aparecen celebridades y figuras políticas.
En el caso del anuncio del fabricante de automóviles, la inteligencia artificial se entrenó para el reconocimiento facial de Elis Regina, a diferencia de lo que se hace en proyectos de IA que utilizan tecnología preentrenada a partir de datos genéricos.
De acuerdo con información divulgada por la empresa Volkswagen, la IA recibió un amplio entrenamiento con diferentes tecnologías, combinando la actuación de la doble con los movimientos e imágenes de Elis, para llegar al resultado del rostro de la cantante en el anuncio.
Aunque el video de Volkswagen fue realizado con la autorización y participación de la hija de Elis Regina, Arbix opina que esta tecnología también puede ser utilizada con fines peligrosos, distorsionando los hechos, e incluso en la industria de la pornografía o pedofilia.
«La persona puede ser objeto de una recreación que acabe destruyendo su nombre y su reputación«, afirma. «Pero también plantea dudas desde el punto de vista de la integridad de la vida familiar».
De acuerdo con el sociólogo, aún no hay consenso entre la comunidad médica sobre los efectos psicológicos de ver o incluso conversar a través de la IA con seres queridos que han fallecido.
Varias empresas tecnológicas, entre ellas la estadounidense HereAfter AI, han estado desarrollando tecnologías para desarrollar una versión digital de alguien. Así sería posible crear un diálogo artificial con una persona fallecida utilizando información personal, herramientas de voz e inteligencia artificial avanzada.
«Desde el punto de vista de la psicología, hay quien dice que puede ayudar a mantener la memoria y reconfortar a la familia. Pero también hay quien está totalmente en contra», afirma Glauco Arbix.
Algunos, incluso, han intentado protegerse de ello. El actor Robin Williams, fallecido en 2014, impuso en su testamento una restricción al uso de su imagen durante 25 años después de su muerte.
El estadounidense quería impedir que su figura se reprodujera mediante hologramas u otras tecnologías con fines comerciales.
Derechos de imagen y consentimiento
En cuanto a los derechos de imagen o el consentimiento, el sociólogo Glauco Arbix cree que la legislación brasileña ya tiene todos los conflictos bien resueltos.
«La legislación y la forma en que nuestra sociedad la ve dan cuenta del dilema. Las familias tienen los derechos de autor«, afirma.
«Discutir si, por ejemplo, Elis Regina autorizaría el uso de su imagen en este anuncio es ingenuo, porque ella tampoco autorizó la divulgación de fotos, pero esta cuestión está prevista en la legislación».
Para Sara Suárez-Gonzalo, profesora de la Universidad Abierta de Cataluña e investigadora sobre el tema, el debate debería ir más allá. Para ella, el consentimiento de los familiares no es suficiente.
«Incluso cuando mueren, las personas no son meras cosas con las que otros pueden hacer lo que quieran. Por eso nuestras sociedades consideran que está mal profanar o faltar al respeto a la memoria de los muertos».
«En otras palabras, tenemos ciertas obligaciones morales hacia los muertos, en la medida en que la muerte no implica necesariamente que las personas dejen de existir de forma moralmente relevante», asegura en un artículo publicado en la web The Conversation.
Según Suárez-Gonzalo, el debate es aún más complejo cuando se trata de bots que recopilan datos personales para replicar conversaciones con personas fallecidas, porque la personalidad de alguien «requiere grandes cantidades de información personal, como datos de redes sociales que revelan características muy sensibles».
El investigador también destaca que otra cuestión ética que implica el uso de la IA es la responsabilidad por los resultados de la tecnología, en especial en el caso de efectos nocivos.
Si un bot, un video o una imagen creados con la tecnología, por ejemplo, causan daños a la salud mental de un familiar, ¿quién será el responsable?
