La desinformación en Facebook ya es muy mala. La del metaverso será peor

Existe un escenario plausible que podría darse pronto en el metaverso, los entornos de realidad virtual en línea que Mark Zuckerberg y otros empresarios de tecnología están desarrollando con rapidez: un candidato político da un discurso a millones de personas. Si bien cada espectador cree estar viendo la misma versión del candidato, en la realidad virtual cada uno está viendo una versión ligeramente distinta. Para todos y cada uno de los espectadores, el rostro del candidato ha sido modificada de manera sutil para parecerse al espectador.

Esto se logra combinando rasgos del rostro de cada espectador con la cara del candidato. Los espectadores no son conscientes de ninguna manipulación de la imagen, pero aun así son fuertemente influenciados por ella: cada miembro de la audiencia tiene una disposición más favorable hacia el candidato que la que habría tenido sin ninguna manipulación digital.

Esto no es especulación. Desde hace tiempo se sabe que el mimetismo puede explotarse como una poderosa herramienta de influencia. Una serie de experimentos realizados por investigadores de la Universidad de Stanford demostró que cambiar ligeramente los rasgos de una figura política poco conocida para que se pareciera a cada votante hizo que las personas calificaran a los políticos de manera más favorable.

Los experimentos tomaron fotografías de los participantes del estudio y de candidatos reales y realizaron una simulación de una campaña electoral. Las imágenes de cada candidato fueron modificadas para parecerse a cada participante. Los estudios revelaron que incluso si 40% de los rasgos faciales de los participantes se mezclaba con la cara del candidato, los participantes no se dieron cuenta en absoluto de que la imagen había sido manipulada.

En el metaverso, es fácil imaginar este tipo de mimetismo a gran escala.

En el núcleo de todo engaño está la manipulación emocional. Los entornos de realidad virtual (VR, por su sigla en inglés), como el metaverso de Facebook (ahora Meta), facilitarán la manipulación psicológica y emocional de sus usuarios a un nivel inimaginable en los medios de comunicación de hoy.

Durante casi cuatro décadas he trabajado con problemas sobre engaños, desinformación e inteligencia artificial, incluidos dos periodos como director de programación en la Agencia de Proyectos de Investigación Avanzados de Defensa (DARPA, por su sigla en inglés). No estamos ni cerca de poder defender a los usuarios contra las amenazas que plantea este nuevo medio que se avecina. En la realidad virtual, actores maliciosos podrán llevar las antiguas artes oscuras del engaño y la influencia a nuevas alturas, o más bien profundidades.

Las mismas características que hacen que los entornos de realidad virtual sean tan atractivos como espacios de comunicación —la sensación de que te has teletransportado a un mundo sintético— también pueden perjudicar a sus usuarios. Cuando se trata de manipulación emocional, hay dos características del metaverso que son particularmente importantes: la presencia y la personificación.

“Presencia” significa que las personas sienten que se comunican entre sí de forma directa sin ningún tipo de interfaz de computadora. “Personificación” significa que el usuario tiene la sensación de que su avatar o cuerpo virtual es su cuerpo real.

Incluso en el estado primitivo actual de la realidad virtual, estas dos sensaciones son las que hacen que la VR sea tan poderosa. También son las que hacen que la manipulación emocional en el entorno VR sea tan peligrosa.

En la realidad virtual, el lenguaje corporal y las señales no verbales como la mirada, los gestos o las expresiones faciales, se pueden utilizar para comunicar intenciones y emociones. A diferencia del lenguaje verbal, a menudo producimos y percibimos el lenguaje corporal de forma subconsciente.

Los entornos VR permiten una interacción entre personas que explota toda la gama de la comunicación humana. La interacción persona a persona a esta intensidad y escala no ha sido posible en los entornos de las redes sociales tradicionales.

Esas son tanto buenas como terribles noticias. Son buenas porque permitirá una mejor comunicación. Son terribles porque expondrá a las y los usuarios al espectro completo de técnicas de influencia engañosa utilizadas en el mundo físico, así como de las posibles versiones virtuales aun más intensas de ellas.

El metaverso marcará el comienzo de una nueva era de personalización masiva de influencia y manipulación. Proporcionará un poderoso conjunto de herramientas para que seamos manipulados de forma efectiva y contundente. Aun más notable será la capacidad de combinar la manipulación individual y masiva de una manera que nunca antes había sido posible.

Se espera que las experiencias virtuales de un usuario como avatar se fusionen a la perfección con sus experiencias, recuerdos y comprensión del mundo físico. Esto, con casi toda seguridad, cambiará la forma en que una persona ve el mundo, lo entiende y se comporta en él.

No debemos esperar hasta que estas tecnologías estén completamente implementadas para considerar medidas de protección adecuadas para ellas. Podemos obtener los beneficios del metaverso mientras minimizamos su potencial lado dañino.

El primer paso para diseñar estas medidas de protección es realizar un estudio y evaluación integral de la extensa bibliografía existente de psicología sobre los usos y efectos de la realidad virtual, y considerar cómo podría usarse con fines maliciosos y manipuladores. Este estudio debe describir los tipos de técnicas de manipulación emocional que son posibles en la actualidad, pero también examinar las técnicas que podrían ser posibles en versiones más sofisticadas del metaverso. Esto no se ha hecho. No podemos protegernos contra algo que no comprendemos del todo.

El segundo paso es desarrollar la tecnología para detectar cuándo se están aplicando estás técnicas. Por ejemplo, podríamos construir una especie de “canario emocional”, como los que se usan en las minas para medir el peligro: un personaje artificial que podría circular en los entornos VR, detectar una amplia gama de intentos de manipulación emocional y enviar una advertencia cuando se esté implementando uno.

La sociedad no comenzó a prestarle verdadera atención a las redes sociales tradicionales —es decir, Facebook, Twitter y similares— hasta que las cosas se salieron completamente de control. No cometamos el mismo error a medida que las redes sociales vayan floreciendo dentro del metaverso.

Rand Waltzman es científica informática sénior adjunta en Rand Corporation.