LinkedIn hizo experimentos con millones de sus usuarios, sin avisarles

Un estudio que analizó esas pruebas descubrió que las conexiones sociales relativamente débiles eran más útiles para encontrar trabajo que los vínculos sociales más fuertes.

LinkedIn hizo experimentos con más de 20 millones de usuarios durante cinco años que, aunque se efectuaron con la intención de mejorar cómo funciona la plataforma para los miembros, podrían haber afectado los ingresos de algunas personas, según un nuevo estudio.

En experimentos realizados en todo el mundo de 2015 a 2019, LinkedIn varió al azar la proporción de contactos débiles y fuertes que sugirió su algoritmo “Gente que podrías conocer” (el sistema automatizado de la compañía para recomendar conexiones nuevas a sus usuarios). Se detallaron las pruebas en un estudio publicado este mes en la revista Science cuyos coautores son investigadores de LinkedIn, el Instituto Tecnológico de Massachusetts (MIT, por su sigla en inglés), la Universidad de Stanford y la Facultad de Negocios de la Universidad de Harvard.

Los experimentos algorítmicos de LinkedIn podrían sorprender a millones de personas porque la compañía no le notificó a los usuarios sobre las pruebas.

Las grandes empresas tecnológicas como LinkedIn, la red de contactos profesionales más grande del mundo, hacen experimentos a gran escala de manera rutinaria en los que prueban versiones de las funciones de la aplicación, de los diseños web y de los algoritmos en distintas personas. La práctica de larga data, llamada test A/B, tiene el objetivo de mejorar las experiencias del consumidor y mantenerlos involucrados, lo que ayuda a las compañías a hacer dinero a través de cuotas de membresías prémium o publicidad. A menudo, los usuarios no tienen idea de que las compañías hacen pruebas con ellos. (The New York Times usa esas pruebas para evaluar la redacción de los titulares y tomar decisiones sobre los productos y artículos que la empresa lanza al mercado).

No obstante, los cambios hechos por LinkedIn indican cómo esas modificaciones a algoritmos muy usados pueden convertirse en experimentos de ingeniería social con consecuencias que pueden alterar la vida de muchas personas. Expertos que estudian los efectos de la computación en la sociedad afirmaron que realizar experimentos prolongados y a larga escala en las personas que podrían afectar sus perspectivas laborales, de maneras invisibles para ellas, generaba cuestionamientos sobre la transparencia de la industria y la supervisión de la investigación.

Michael Zimmer, profesor asociado de Informática y director del Centro de Datos, Ética y Sociedad en la Universidad Marquette, comentó: “Los hallazgos indican que algunos usuarios tuvieron mejor acceso a oportunidades de empleo o una diferencia significativa en el acceso a oportunidades de trabajo. Este es el tipo de consecuencias a largo plazo que se necesita contemplar cuando pensamos en la ética de participar en esta clase de investigación de inteligencia de datos”.

El estudio en Science examinó una teoría influyente en sociología llamada “la fortaleza de los lazos débiles”, la cual indica que es más probable que las personas obtengan empleo y acceso a otras oportunidades a través de conocidos no tan cercanos que a través de amigos íntimos.

Los investigadores analizaron cómo los cambios al algoritmo de LinkedIn habían afectado la movilidad laboral de los usuarios. Descubrieron que los lazos sociales relativamente débiles en LinkedIn probaron tener el doble de efectividad para asegurar un empleo que los lazos sociales más fuertes.

En un comunicado, LinkedIn dio a conocer que durante el estudio había “actuado de conformidad” con las condiciones de uso y la política de privacidad de la compañía, así como con la configuración del usuario. La política de privacidad señala que LinkedIn usa los datos personales de los miembros con fines de investigación. El comunicado agregó que la empresa utilizó las técnicas de sociología más recientes y “no invasivas” para responder preguntas de investigación importantes “sin ninguna experimentación con los miembros”.

LinkedIn, que es propiedad de Microsoft, no respondió de manera directa a una pregunta sobre cómo había calculado la compañía las consecuencias potenciales a largo plazo de sus experimentos en el empleo y el estatus económico de los usuarios. Sin embargo, la empresa aseguró que la investigación no había dado una ventaja desproporcionada a algunos usuarios.

Karthik Rajkumar, un científico de investigación aplicada en LinkedIn que fue uno de los coautores del estudio, explicó que la meta de la investigación era “ayudar a las personas a escala. No se puso a nadie en desventaja para encontrar empleo”.

Sinan Aral, un profesor de administración y ciencia de datos en el MIT y autor principal del estudio, comentó que los experimentos de LinkedIn fueron una iniciativa para garantizar que los usuarios tuvieran igualdad de acceso a las oportunidades de empleo.

Aral precisó: “Hacer un experimento con 20 millones de personas y después implementar un algoritmo más adecuado para mejorar las perspectivas de empleo de todos como resultado de los conocimientos que adquiriste con eso es lo que ellos intentan hacer, no otorgar movilidad social a algunas personas y a otras no”. (Aral ha realizado análisis de datos para The New York Times y recibió una beca de investigación de Microsoft en 2010).

Los experimentos que involucran a los usuarios hechos por grandes empresas de internet tienen un historial irregular. Hace ocho años, se publicó un estudio de Facebook que describía cómo la red social había manipulado en secreto qué publicaciones aparecían en la sección de noticias de los usuarios para analizar la propagación de las emociones negativas y positivas en su plataforma. El experimento de una semana, llevado a cabo con 689.003 usuarios, de inmediato generó reacciones negativas.

El estudio de Facebook, cuyos autores incluían a un investigador de la empresa y a un profesor de Cornell, sostenía que las personas habían consentido implícitamente el experimento de manipulación de emociones cuando se habían registrado en Facebook. “Todos los usuarios están de acuerdo antes de crear una cuenta en Facebook”, decía el estudio, “lo que constituye un consentimiento informado para esta investigación”.

Los críticos no estuvieron de acuerdo, y algunos atacaron a Facebook por haber invadido la privacidad de las personas mientras explotaban sus estados de ánimo y les causaban angustia emocional. Otros sostuvieron que el proyecto había utilizado a un coautor académico para dar credibilidad a prácticas de investigación corporativas problemáticas.

Más tarde, Cornell dijo que su comité de ética interno no había tenido que revisar el proyecto porque Facebook había realizado el estudio de forma independiente y el profesor, que había ayudado a diseñar la investigación, no había participado directamente en experimentos con seres humanos.

Los experimentos de creación de contactos profesionales de LinkedIn fueron diferentes en cuanto a su intención, alcance y escala. Fueron diseñados por LinkedIn como parte de los esfuerzos continuos de la compañía para mejorar la relevancia de su algoritmo “Gente que podrías conocer”, el cual les sugiere conexiones nuevas a los miembros.

El algoritmo analiza datos como el historial de empleo de los miembros, sus puestos de trabajo y sus lazos con otros usuarios. A continuación, intenta medir la posibilidad de que un miembro de LinkedIn envíe una invitación de amistad a una conexión nueva sugerida, así como la probabilidad de que esa conexión nueva acepte la invitación.

Para los experimentos, LinkedIn ajustó su algoritmo para variar de manera aleatoria la prevalencia de lazos fuertes y débiles que recomendaba el sistema. El estudio informó que la primera ola de tests, realizada en 2015, “involucró a más de cuatro millones de sujetos en el experimento”. La segunda ola, efectuada en 2019, involucró a más de 16 millones de personas.

Durante las pruebas, se les asignaron caminos algorítmicos diferentes a las personas que dieron clic en la herramienta “Gente que podrías conocer” y vieron las recomendaciones. Algunas de esas “variantes de tratamiento”, como las denominó el estudio, causaron que los usuarios de LinkedIn formaran más conexiones con personas con las que solo tenían lazos sociales débiles. Otras modificaciones causaron que las personas formaran menos conexiones con lazos débiles.

Se desconoce si la mayoría de los miembros de LinkedIn saben que podrían ser sujetos a experimentos que podrían afectar sus oportunidades de empleo.

La política de privacidad de LinkedIn señala que la compañía puede utilizar “los datos personales de que disponemos para investigar tendencias […] corporativas, como la disponibilidad de empleos y las aptitudes necesarias para ejercer dichos empleos”. Su política para investigadores externos que buscan analizar datos de la empresa establece de manera clara que esos investigadores no podrán “experimentar o realizar tests con nuestros miembros”.

No obstante, ninguna de las políticas informa de manera explícita a los consumidores que la propia LinkedIn podría experimentar o realizar tests con sus miembros.

En un comunicado, LinkedIn expresó: “Somos transparentes con nuestros miembros en la sección de investigación de nuestras condiciones de uso”.

En un comunicado editorial, Science declaró: “Nuestro entendimiento y el de nuestros revisores era que los experimentos emprendidos por LinkedIn operaban bajo los lineamientos de sus condiciones de uso”.

Tras la primera ola de pruebas algorítmicas, a los investigadores de LinkedIn y del MIT se les ocurrió analizar los resultados de esos experimentos para probar la teoría de la fortaleza de los lazos débiles. Aunque esta teoría de décadas de antigüedad se había convertido en un cimiento de la sociología, no había sido comprobada de manera rigurosa en un ensayo prospectivo a gran escala que asignara de manera aleatoria a personas con conexiones sociales con distintos grados de fortaleza.

Los investigadores externos analizaron datos agregados de LinkedIn. El estudio reveló que las personas que recibieron más recomendaciones de contactos moderadamente débiles en general solicitaron y aceptaron más empleos, resultados que cuadraban con la teoría de los lazos débiles.

De hecho, los contactos relativamente débiles —es decir, personas con las que los miembros de LinkedIn compartían solamente 10 conexiones mutuas— resultaron ser mucho más productivos para la búsqueda de empleo que los contactos más fuertes, con los que los usuarios compartían más de 20 conexiones mutuas, según el estudio.

Un año después de conectarse en LinkedIn, las personas que habían recibido más recomendaciones de contactos con vínculos moderadamente débiles tenían el doble de probabilidades de conseguir un empleo en las empresas donde trabajaban esos conocidos, en comparación con otros usuarios que habían recibido más recomendaciones de contactos con vínculos fuertes.

“Descubrimos que estos lazos moderadamente débiles son la mejor opción para ayudar a la gente a encontrar nuevos empleos y mucho más que los lazos más fuertes”, dijo Rajkumar, investigador de Linkedin.

El estudio reportó que los 20 millones de usuarios involucrados en los experimentos de LinkedIn crearon más de 2000 millones de conexiones sociales nuevas y entregaron más de 70 millones de solicitudes de empleo que condujeron a 600.000 trabajos nuevos. El estudio también indicó que las conexiones de lazo débil demostraron ser las más útiles para quienes buscan empleo en campos digitales como la inteligencia artificial, mientras que los lazos fuertes resultaron ser más útiles para empleos en industrias que dependen menos del software.

LinkedIn mencionó que había aplicado los hallazgos sobre los lazos débiles a varias funciones, incluyendo una herramienta nueva que notifica a los miembros cuando una conexión de primer o segundo grado está contratando. Sin embargo, la compañía no ha hecho cambios relacionados con el estudio a su función “Gente que podrías conocer”.

En opinión de Aral del MIT, lo más significativo del estudio fue que demostró la importancia de los algoritmos poderosos de creación de contactos sociales, no solo para amplificar problemas como la desinformación, sino también como indicadores fundamentales de condiciones económicas como el empleo y el desempleo.

Catherine Flick, una investigadora sénior de computación y responsabilidad social en la Universidad De Montfort en Leicester, Inglaterra, describió el estudio más como un ejercicio de mercadotecnia corporativa.

Flick concluyó: “El estudio tiene un sesgo inherente. Muestra que, si quieres conseguir más empleos, deberías entrar más a LinkedIn”.

Natasha Singer es una reportera de negocios que cubre tecnología de la salud, tecnología de la educación y privacidad del consumidor. @natashanyt