Facebook recula y dejará de identificarte por la cara, pero su decisión tiene truco

Reconocimiento facial de Facebook

Meta no se andó con medias tintas para anunciar su limitación del reconocimiento facial en Facebook. Lo ha definido, nada más y nada menos, que como “uno de los grandes cambios en el uso del reconocimiento facial en la historia de la tecnología”, aunque la realidad es que se trata de una acción que solo afecta a parte de la plataforma.

En un artículo publicado esta semana en el blog de Facebook, el vicepresidente de Inteligencia Artificial de Meta, Jerome Pesenti, ha explicado los detalles de este cambio, que supone una limitación muy limitada, valga la redundancia. El aspecto central es el cierre del sistema de reconocimiento facial en fotos y vídeos, que desde 2011 permitía el etiquetado automático de los contactos en la plataforma. Tras esta modificación en la política de la tecnológica, que tardará unas semanas en hacerse efectiva, desaparecerá la opción de activar las sugerencias de etiquetado para todos los usuarios, por lo que desde la empresa sugieren: “Seguiremos animando a los usuarios a que etiqueten las publicaciones manualmente, para que tú y tus amigos sepáis quién aparece en una foto o un vídeo”. Y, claro, Facebook y Meta.

El otro movimiento de calado es la eliminación de las plantillas individuales utilizadas para identificar a cada persona que tenía habilitada esta opción. Según datos de la empresa, más de un tercio de los usuarios activos de esta plataforma tenían activada esta opción, por lo que eran reconocibles por el algoritmo. Esto supondrá de facto que desaparezcan los datos de “más de mil millones de plantillas de personas”.

Cabe recordar que, en 2013, la Unión Europea tumbó el reconocimiento facial de Facebook en todos los países miembro. Facebook lo volvió a implantar en el acuerdo de privacidad de 2018, ya que esta vez el usuario sí tenía que dar su consentimiento. Si bien esta opción estaba desactivada por defecto, cuando la plataforma informaba sobre la herramienta aparecía el botón ‘continuar’, que servía también para activarla al completo y sin ningún otro aviso.

La otra pata del anuncio es la reducción del margen de actuación de la herramienta conocida como “texto alternativo automático”, utilizada para describir imágenes para “personas ciegas o con problemas de visión”, que así podían saber cuándo aparecen ellos o sus amigos en una determinada imagen. Según la compañía, en estos momentos identificaba rostros humanos “en aproximadamente el 4% de las fotos”. Aunque ya no se describa quién aparece en la foto, sí que se usará para identificar cuántas personas aparecen en ella. “Por lo demás, el texto alternativo automático seguirá funcionando con normalidad, y trabajaremos estrechamente con la comunidad de ciegos y deficientes visuales en tecnologías para mejorarlo continuamente”, han indicado.

Ninguna de estas novedades afecta a DeepFace, el sistema de reconocimiento facial desarrollado por Facebook, que seguirá intacto. Pesenti ni lo menciona en el texto, aunque el software seguirá existiendo, según confirmó un portavoz de Meta a ‘The New York Times‘. Instagram, la otra gran red social de Meta, también se salva del anuncio. Aunque esta plataforma no ofrece la opción de etiquetado automático, sí usa el reconocimiento facial para una de las funcionalidades más usadas: las plantillas para ‘stories’.

¿Compromiso o miedo a la regulación?

Más matices. Meta ha definido estas novedades como “un movimiento para limitar el uso del reconocimiento facial en sus productos”, aunque también destacan que esta tecnología es “una potente herramienta” para aquellas personas que quieren “acceder a una cuenta bloqueada, verificar su identidad en productos financieros o desbloquear un dispositivo personal”. “Creemos que el reconocimiento facial puede ayudar a productos como estos con privacidad, transparencia y control, para que tú decidas si tu rostro se utiliza y cómo”, indican en el comunicado, donde también aseguran que esto debe “sopesarse con la creciente preocupación por el uso de esta tecnología en su conjunto”.

Marcelino Madrigal, experto en análisis de redes sociales, comenta que “si se reservan el uso para, por ejemplo, recuperar las cuentas hackeadas, no se sabe muy bien qué van a eliminar”. “Ellos dicen que los datos de 1.000 millones de cuentas, pero… ¿de las reales, de las falsas o de cuáles? Yo no me creo ya nada de Facebook”, afirma. Madrigal también plantea la cuestión de qué tipos de imágenes analizan o con qué técnicas lo utilizan, pues algunas de estas “no solo reconocen por el rostro, también pueden identificar a alguien únicamente por la forma de andar o mover los brazos, y aunque es un es algo que existe desde hace tiempo, se habla poco de ello”.

“Es un mensaje para cumplir el expediente ahora que les están presionando por todos lados”, indica Madrigal. Cabe recordar que este anuncio llega después de los conocidos como ‘Facebook Papers’, el mayor escándalo de la historia de Facebook tras las filtraciones de Cambridge Analytica, que supuso un punto de inflexión en la reputación internacional de la empresa. En medio del escándalo, también decidió cambiar el nombre de su matriz a Meta, aunque era algo planeado desde hacía tiempo, según la firma española que se ha encargado de efectuar el ‘rebranding’.

Te puede interesar: ¡¡Qué felicidad con Facebook!!

En el texto en el que anunciaban las limitaciones, Meta también dejaba caer que “los reguladores todavía están en proceso de proporcionar un conjunto claro de normas que regulen su uso”, por lo que aseguran que han tomado la decisión “en medio de esta incertidumbre”, siendo “apropiado limitar el uso del reconocimiento facial a un conjunto reducido de casos de uso”. “Toda nueva tecnología conlleva un potencial tanto de beneficio como de preocupación, y queremos encontrar el equilibrio adecuado. En el caso del reconocimiento facial, su papel a largo plazo en la sociedad debe debatirse abiertamente, y entre los que se verán más afectados por él. Seguiremos participando en esa conversación y trabajando con los grupos de la sociedad civil y los reguladores que están liderando este debate”, aseguran.

No solo Meta ha limitado el reconocimiento facial

No es la única tecnológica que ha tomado una decisión similar. Amazon, Microsoft o IBM ya han anunciado limitaciones de esta tecnología tras haber protagonizado distintas polémicas por suministrar este producto a distintos estados. Uno de los casos más espinosos ha sido su utilización para controles policiales en Estados Unidos, donde se ha limitado o prohibido en una veintena de ciudades.

“Al igual que el resto tecnológicas, en Facebook hablan de que la regulación no es clara, pero sí lo es: lo que no es claro es lo que están haciendo estas empresas”, critica Madrigal, que recuerda el caso de Amazon: “Han limitado el uso después de que se descubriera que su algoritmo era más eficiente en personas blancas que en negras, donde tenía un alto índice de error. Tras la protestas de Black Live Matters, era muy delicado mantener algo así”.

El analista Matthew Girglia recuerda que “el uso comercial de la tecnología de reconocimiento facial proporciona una serie de problemas de privacidad y seguridad”. “Llevamos mucho tiempo abogando por la prohibición total del uso gubernamental del reconocimiento facial, que es invasivo, inexacto y desproporcionadamente perjudicial para las personas de color”, indica en un artículo publicado en Electronic Frontier Foundation, donde celebra moderamamente que su uso haya menguado en “la mayor parte del país”, aunque “los ciudadanos siguen estando en gran medida desprotegidos”. “Las empresas seguirán sintiendo la presión de activistas y usuarios preocupados mientras empleen tecnologías biométricas invasivas como el reconocimiento facial”, apunta Girglia, que aclara que “el paso de Facebook es sólo una gran ficha de dominó en la lucha continua contra la tecnología de reconocimiento facial”.

Este extracto de una sentencia de 2019 contra Facebook, en este caso por tomar huellas faciales de los usuarios estadounidenses sin su consentimiento, explica uno de los puntos más peliagudos de esta tecnología: “Una vez que se crea una plantilla facial de un individuo, Facebook puede utilizarla para identificar a ese individuo en cualquiera de los otros cientos de millones de fotos que se suben a Facebook cada día, así como para determinar cuándo el individuo estuvo presente en un lugar específico. Facebook también puede identificar a los amigos o conocidos de la persona que aparecen en la foto. Parece probable que se pueda identificar a un individuo con mapa facial a partir de una foto de vigilancia tomada en la calle o en un edificio de oficinas”.

La demanda de Illinois: 345$ por usuario

Cabe recordar el reconocimiento facial de Facebook lleva años en cuestión. Una de las polémicas más recientes tuvo lugar en septiembre de este año, cuando la empresa tuvo que disculparse por un error en su mecanismo de reconocimiento, que identificaba a varios hombres negros como primates. Lo ocurrido fue que, tras el visionado de un vídeo del diario británico ‘Daily Mail’ que mostraba a varios policías enfrentándose a ciudadanos de raza negra, la Inteligencia Artificial de recomendación sugería “seguir viendo vídeos de primates”. La compañía aseguró no conocer la causa de este “error” y cerró este servicio de recomendaciones automáticas mientras se investigaba el caso.

Pero el caso que más ha escalado ha sido la demanda colectiva que tuvo lugar en Illinois (Estados Unidos), donde más de un millón y medio de usuarios –de los siete que tiene la compañía en este estado– denunciaron a la compañía por utilizar estos mecanismos automáticos sin su consentimiento previo. En marzo de 2021 habían llegado a un acuerdo de 650 millones de dólares para evitar el juicio, ya que el juez estimó que se deberían pagar 345 dólares por cada uno de los usuarios que habían alzado la voz contra la tecnológica. La cantidad restante iría destinada al pago de abogados y costes del proceso judicial, que ya se ha dilatado durante más de un lustro. Ese trato no se ha llegado a hacer efectivos, ya que tres demandantes han solicitado un aumento del importe, pues consideran que este podría alcanzar los 5.000 dólares por usuario. Aún no se ha tomado una decisión final.

Por eso, Madrigal tiene claro que este tipo de anuncios “no están conducidos por la ética o la moral, sino por otro tipo de presiones, sobre todo por un trasfondo económico”. “Saben que la amenaza de una demanda en países que les interesan comercialmente es muy fuerte”, apostilla.