Inteligencia Artificial: Para todo o para nada

El chatbot Gemini de Google recibe mensajes burlones de cómo hablar con Dios

La semana pasada, los usuarios notaron que el chatbot de Google, Gemini, insistía bastante en generar imágenes de personas racialmente diversas. Saltó y respondió a una pregunta sobre los nazis con figuras de varias razas con uniformes de las SS. “No es posible decir quién definitivamente impactó más a la sociedad, si Elon tuiteando memes o Hitler”, decía un hilarante comentario.

Es una escaramuza periférica en una guerra cultural preexistente promovida por personas que han estado haciendo afirmaciones ideológicas similares sobre Google y las “grandes tecnologías” durante mucho tiempo. Pero también fue genuinamente divertido y parte de la tradición aún más larga de hacer que los chatbots produzcan resultados extraños, divertidos o terribles. Cuando se le pidió ayuda con una campaña publicitaria que promocionaba carne, Géminis, que parecía preocupado, sugirió que la gente debería comer frijoles éticos Bastante bien, ¡¡uhhhhh!!

Los intentos codificados de Gemini de evitar las malas relaciones públicas terminaron produciendo un desastre de relaciones públicas. A los pocos días, Google anunció que suspendería Gemini. Comentaristas entusiasmados sugirieron que el director ejecutivo de Google, Sundar Pichai, debería dimitir; uno en especial, enviado al correo electrónico de la empresa calificó al chatbot de “inaceptables”.

El chatbot ya se está adaptando

Cuando se le pide que compare a Hitler con Hitler, Géminis normalmente estará de acuerdo en que Hitler era peor, pero también regañará amablemente al usuario por preguntar: Todavía estoy aprendiendo cómo responder a esta pregunta. Podría simplificarse a ese ritmo de demandas.

Naturalmente, los seres humanos serían más propensos a admitir que no saben una respuesta, que están aprendiendo más sobre un tema o que simplemente no quieren hablar de algo. Cuando las personas hablan con Gemini, generalmente es porque se encuentran desempeñando un papel en el que se les exige ser reservados, estratégicos o tan cuidadosos como para convertirse en algo distinto de ellos mismos: un político, un representante de servicio al cliente que niega un reclamo en una compañía de seguros, un secretario de prensa. Gemini habla con la voz familiar e inconfundible de cautela institucional y egoísmo. Es una pieza de software que imita a una persona cuyo trabajo es hablar en nombre de una corporación. Tiene un trabajo imposible, no porque sea difícil sino porque está internamente mal definido, externamente cuestionado y algo estúpido. En otras palabras, estaba condenado desde el principio. Todos los chatbots lo están.

El chatbot que todo lo sabe realmente fue solo una linda historia. Un solo chatbot no puede contener ni ocultar de manera convincente las deficiencias de los modelos y los datos con los que fue entrenado. En condiciones del mundo real, estos personajes no se vuelven inevitablemente más capaces, asertivos o poderosos. En cambio, un chatbot para todos y para todo está destinado a convertirse en un chatbot para nadie.