La IA podría destruirnos por completo

Si no reaccionamos, la humanidad puede colapsar. Quien lo afirma es el creador de Claude, una de las IA más utilizadas en la actualidad.

En la adaptación cinematográfica del libro Contact, de Carl Sagan, hay una escena en la que la protagonista, una astrónoma que ha detectado la primera señal de radio procedente de una civilización extraterrestre, es elegida para representar a la humanidad en un encuentro con los alienígenas. El jurado internacional que la interroga le pregunta: «Si pudiera hacerles una sola pregunta, ¿cuál sería?». Ella responde: «Les preguntaría: «¿Cómo lo hicieron? ¿Cómo evolucionaron, cómo sobrevivieron a esa adolescencia tecnológica sin destruirse?».

Cuando pienso en la situación actual de la humanidad con la IA, en lo que nos espera, no dejo de recordar esa escena, ya que la pregunta es muy relevante para nuestra situación actual. Y me gustaría que tuviéramos la respuesta de los extraterrestres para guiarnos. Creo que estamos entrando en un período de transición, caótico e inevitable, que pondrá a prueba nuestra identidad como especie. La humanidad está a punto de recibir un poder casi inimaginable y es muy difícil saber si nuestros sistemas sociales, políticos y tecnológicos tienen la madurez necesaria para ejercerlo.

En mi ensayo Machines of Loving Grace, intenté describir el sueño de una civilización que hubiera alcanzado la madurez, en la que se hubieran tenido en cuenta los riesgos y se utilizara una IA verdaderamente poderosa con competencia y compasión para mejorar la calidad de vida de todos. Sugerí que la IA podría contribuir a enormes avances en los campos de la biología, las neurociencias, el desarrollo económico, la paz mundial, el trabajo y el sentido de la vida. Consideré que era importante dar a las personas una causa inspiradora por la que luchar, una tarea en la que, curiosamente, los aceleracionistas de la IA y los defensores de la seguridad de la IA parecían haber fracasado.

Pero en este nuevo ensayo, me gustaría abordar el rito de iniciación en sí mismo: cartografiar los riesgos a los que nos enfrentamos y tratar de empezar a elaborar un plan de batalla para superarlos. Creo profundamente en nuestra capacidad para ganar, en el espíritu y la nobleza de la humanidad, pero debemos afrontar la situación sin ilusiones.

Creo que la mejor manera de abordar los riesgos relacionados con la IA es plantear la pregunta de la siguiente manera: supongamos que en algún lugar del mundo surge un verdadero «país de genios» alrededor de 2027. Imaginemos, por ejemplo, 50 millones de personas, todas ellas mucho más competentes que cualquier premio Nobel, estadista o tecnólogo. La analogía no es perfecta, ya que estos genios podrían tener motivaciones y comportamientos muy variados, que van desde la docilidad y la obediencia totales hasta motivaciones extrañas y desconocidas. Pero por ahora, quedémonos con esta analogía y supongamos que usted es el asesor de seguridad nacional de un gran Estado, encargado de evaluar la situación y responder a ella. Imaginemos además que, dado que los sistemas de IA pueden funcionar cientos de veces más rápido que los humanos, este «país» opera con una ventaja temporal sobre todos los demás países: por cada acción cognitiva que nosotros podamos realizar, este país puede realizar diez.

¿Qué nos debería preocupar entonces? A mí me preocuparían los siguientes aspectos:

1 — Los riesgos relacionados con la autonomía. ¿Cuáles son las intenciones y los objetivos de este país? ¿Es hostil o comparte nuestros valores? ¿Podría dominar militarmente el mundo gracias a armas superiores, ciberoperaciones, operaciones de influencia o la fabricación de armas?

2 — El uso indebido con fines destructivos. Supongamos que este nuevo país es maleable a voluntad y «sigue instrucciones», y que, por lo tanto, es esencialmente un país de mercenarios. ¿Podrían los actores maliciosos existentes que desean causar destrucción, como las organizaciones terroristas, utilizar o manipular a ciertas personas de este nuevo país para ser mucho más eficaces, amplificando así considerablemente el alcance de la destrucción?

3 — El uso indebido con fines de toma de poder. ¿Qué pasaría si el país fuera en realidad construido y controlado por un actor poderoso ya existente, como un dictador o una empresa malintencionada? ¿Podría este actor utilizarlo para adquirir un poder decisivo o dominante sobre el mundo entero, alterando así el equilibrio de poder existente?

4 — La perturbación económica. Si el nuevo país no representa ninguna de las amenazas para la seguridad enumeradas en los puntos 1 a 3 anteriores, sino que simplemente participa de forma pacífica en la economía mundial, ¿podría, no obstante, crear graves riesgos por el simple hecho de ser tan avanzado y eficiente tecnológicamente que perturba la economía mundial, provocando un desempleo masivo o una concentración radical de la riqueza?

5 — Efectos indirectos. El mundo cambiará muy rápidamente debido a todas las nuevas tecnologías y la productividad que creará el nuevo país. ¿Podrían algunos de estos cambios ser radicalmente desestabilizadores?

Creo que debería quedar claro que se trata de una situación peligrosa: un informe de un responsable competente en materia de seguridad nacional a un jefe de Estado probablemente contendría palabras como «la amenaza más grave para la seguridad nacional a la que nos hemos enfrentado en un siglo, o incluso desde siempre». Parece que se trata de una cuestión en la que deberían centrarse las mentes más brillantes de la civilización.

Creo que sería absurdo encogerse de hombros y decir: «¡No hay motivo para preocuparse!». Sin embargo, ante los rápidos avances de la IA, esa parece ser la opinión de muchos responsables políticos estadounidenses, algunos de los cuales niegan la existencia de cualquier riesgo relacionado con la IA, cuando no están completamente distraídos por los temas candentes habituales. Cabe añadir que el gran público (a diferencia de los responsables políticos) parece muy preocupado por los riesgos asociados a la IA. Creo que algunas de sus preocupaciones están justificadas (por ejemplo, la destrucción de puestos de trabajo por la IA), mientras que otras son erróneas (como las preocupaciones sobre el consumo de agua de la IA, que no es significativo). Esta reacción me da esperanzas de que sea posible alcanzar un consenso sobre cómo abordar los riesgos, pero hasta ahora esto no se ha traducido en cambios políticos, y mucho menos en cambios políticos eficaces o bien orientados.

La humanidad debe despertar.

Para ser claros, creo que, si actuamos con decisión y prudencia, los riesgos pueden superarse; diría incluso que tenemos buenas posibilidades. Y al otro lado nos espera un mundo mucho mejor. Pero debemos comprender que se trata de un grave desafío para la civilización.

En el transcurso de la semana presentaremos a nuestros lectores las cinco categorías de riesgos presentadas anteriormente, junto con las reflexiones del autor sobre cómo abordarlas.