A principios de este mes, Meta anunció que está trabajando en un conjunto de pautas éticas para "personas influyentes virtuales":personajes animados, generalmente generados por computadora, diseñados para atraer la atención en las redes sociales.

Cuando Facebook cambió su nombre a Meta a fines del año pasado, anunció un giro hacia el "metaverso", donde presumiblemente algún día los influenciadores virtuales deambularán por miles.

Incluso Meta admite que el metaverso realmente no existe todavía. Los componentes básicos de una realidad virtual persistente e inmersiva para todo, desde los negocios hasta el juego, aún no se han ensamblado por completo. Pero los influencers virtuales ya están en línea y son sorprendentemente convincentes.

Pero dada su historia reciente, es Meta (née Facebook) ¿realmente es la empresa adecuada para establecer los estándares éticos para los influencers virtuales y el metaverso en general?

¿Quiénes (o qué) son los influencers virtuales?

El anuncio de Meta señala el "fenómeno creciente" de los medios sintéticos, un término general para imágenes, videos, voz o texto generados por tecnología computarizada, generalmente usando inteligencia artificial (IA) o automatización.

Muchos influencers virtuales incorporan elementos de medios sintéticos en su diseño, que van desde cuerpos renderizados completamente digitalmente hasta modelos humanos que están enmascarados digitalmente con los rasgos faciales de los personajes.

En ambos extremos de la escala, este proceso aún depende en gran medida del trabajo y la contribución humanos, desde la dirección de arte para sesiones de fotos hasta la redacción de subtítulos para las redes sociales. Al igual que la visión de Meta del metaverso, los influencers generados y potenciados en su totalidad por IA son una fantasía en gran parte futurista.

Pero incluso en su forma actual, los influencers virtuales son de gran valor para Meta, tanto como atracciones para sus plataformas existentes como avatares del metaverso.

El interés en los influencers virtuales se ha expandido rápidamente en los últimos cinco años, atrayendo a grandes audiencias en las redes sociales y asociaciones con marcas importantes, incluidas Audi, Bose, Calvin Klein, Samsung y la plataforma china de comercio electrónico TMall.

Ya ha surgido una industria competitiva que se especializa en la producción, gestión y promoción de personas influyentes virtuales, aunque sigue sin estar regulada en gran medida.

Hasta ahora, India es el único país que se dirige a los influencers virtuales en los estándares publicitarios nacionales, lo que requiere que las marcas "revelen a los consumidores que no están interactuando con un ser humano real" cuando publican contenido patrocinado.

Directrices éticas

Existe una necesidad urgente de pautas éticas, tanto para ayudar a los productores y sus socios de marca a navegar por este nuevo terreno, como más importante, para ayudar a los usuarios a comprender el contenido con el que interactúan.

Meta ha advertido que "los medios sintéticos tienen el potencial tanto para el bien como para el daño", enumerando "la representación y la apropiación cultural" como temas específicos de preocupación.

De hecho, a pesar de su corta vida útil, los influencers virtuales ya tienen un historial de racialización abierta y tergiversación, lo que genera dudas éticas para los productores que crean personajes digitales con características demográficas diferentes a las suyas.

Pero no está nada claro si las pautas propuestas por Meta abordarán adecuadamente estas preguntas.

Becky Owen, jefa de innovación y soluciones para creadores en Meta Creative Shop, dijo que el marco ético planificado "ayudará a nuestros socios de marca y creadores de VI a explorar lo que es posible, probable y deseable, y lo que no lo es".

Este aparente énfasis en las posibilidades tecnológicas y los deseos de los socios de la marca conduce a la impresión inevitable de que Meta una vez más combina el potencial comercial con la práctica ética.

Según su propio conteo, las plataformas de Meta ya albergan a más de 200 influencers virtuales. Pero los influencers virtuales también existen en otros lugares:hacen desafíos de baile viral en TikTok, suben vlogs a YouTube y publican actualizaciones de vida en Sina Weibo. Aparecen "fuera de línea" en centros comerciales en Beijing y Singapur, en vallas publicitarias 3D en Tokio y protagonizan comerciales de televisión.

¿Guardabosques o cazador furtivo?

Esto nos lleva de nuevo a la pregunta de si Meta es la empresa adecuada para establecer las reglas básicas de este espacio emergente.

La historia de la empresa está marcada por un comportamiento poco ético, desde los comienzos cuestionables de Facebook en el dormitorio de Harvard de Mark Zuckerberg (como se muestra en The Social Network) hasta las fallas de privacidad a gran escala demostradas en el escándalo de Cambridge Analytica.

En febrero de 2021, Facebook mostró hasta dónde estaba dispuesto a llegar para defender sus intereses, cuando prohibió brevemente todo el contenido de noticias en Facebook en Australia para obligar al gobierno federal a diluir el Código de Negociación de Medios de Noticias de Australia.

El año pasado también vio a la ex ejecutiva de Facebook Frances Haugen convertirse públicamente en denunciante, compartiendo un tesoro de documentos internos con periodistas y políticos.

Estos llamados "Papeles de Facebook" generaron numerosas preocupaciones sobre la conducta y la ética de la empresa, incluida la revelación de que la propia investigación interna de Facebook mostró que Instagram puede dañar la salud mental de los jóvenes, e incluso conducir al suicidio.

Hoy, Meta está luchando contra un litigio antimonopolio en los EE. UU. que tiene como objetivo restringir el monopolio de la empresa obligándola potencialmente a vender adquisiciones clave, como Instagram y WhatsApp.

Mientras tanto, Meta se esfuerza por integrar su servicio de mensajería en las tres aplicaciones, lo que las convierte en interfaces diferentes para un back-end compartido que, sin duda, Meta argumentará que no es factible separar, sin importar los resultados del litigio actual.

Dada esta historia de fondo, Meta parece estar lejos de ser la elección ideal como guardián ético del metaverso.

La distribución ya extensa de personas influyentes virtuales en plataformas y mercados destaca la necesidad de pautas éticas que van más allá de los intereses de una empresa, especialmente una empresa que se beneficiará tanto del espectáculo inminente.