Geoffrey Hinton, el investigador que en 2018 ganó el Premio Nobel de Física por sus trabajos sobre redes neuronales y al que muchos consideran el padrino del aprendizaje profundo, volvió a encender el debate global sobre la inteligencia artificial. En una reciente entrevista, el científico canadiense de 78 años sostuvo que la humanidad enfrenta un riesgo existencial real derivado de los sistemas que él mismo ayudó a concebir y que las probabilidades de que esa tecnología termine con la especie en las próximas tres décadas se ubican entre el 10 y el 20 por ciento.

La cifra, que es la más alarmante que un referente del campo haya difundido hasta ahora, se apoya en la velocidad con la que los modelos generativos avanzaron en apenas cinco años. Hinton recordó que hace una década sus propias proyecciones sobre los plazos para llegar a una inteligencia artificial de nivel humano eran mucho más largas. Esa aceleración, explicó, es la que obliga a revisar los márgenes de riesgo al alza.

Un punto ciego histórico

Hinton, que dejó su puesto en Google en 2023 justamente para poder alertar sobre estos peligros sin condicionamientos corporativos, recordó que ninguna generación anterior de humanos tuvo que lidiar con entidades más inteligentes que ella misma. Esa asimetría, describió, es comparable a la de una familia que siempre tuvo perros como mascotas y de pronto convive con un primate: la capacidad de anticipar lo que el otro va a hacer se vuelve muy limitada.

Cómo funciona el salto cualitativo que preocupa a Hinton

Para entender por qué el riesgo cambió de categoría, hay que mirar adentro de los modelos. Los grandes modelos de lenguaje, como los que están detrás de los chatbots más conocidos, se entrenan ingiriendo bibliotecas enteras de textos: libros, artículos, conversaciones, código de programación. En ese proceso ajustan miles de millones de parámetros numéricos que les permiten predecir cuál es la palabra siguiente más probable en una oración.

Durante años se discutió si eso era solo estadística sofisticada, una calculadora gigante de combinaciones de palabras, o si en el camino los modelos terminaban representando conceptos con significado propio. Hinton sostiene que ya cruzaron ese umbral: los sistemas actuales entienden, en un sentido funcional, los conceptos abstractos que manipulan, no solo las correlaciones superficiales del texto.

Pongámoslo en términos domésticos: un contestador automático viejo reconocía la palabra hola cuando alguien la decía y respondía con un mensaje grabado. Eso es correlación pura. Un asistente actual, en cambio, entiende que cuando le pedís un turno en el médico para el martes a las diez, lo que querés es reservar un espacio en una agenda y no una charla sobre el concepto del tiempo. Esa diferencia, que parece sutil, abre la puerta a razonamientos que antes estaban reservados a los humanos.

“Los modelos ya no se limitan a identificar correlaciones: comprenden efectivamente los conceptos semánticos y abstractos que procesan. Esa distinción cambia la categoría del riesgo.”Geoffrey Hinton

El mercado no alcanza como freno

Ante la objeción habitual de que regular demasiado dejaría a los países occidentales en desventaja frente a China, Hinton fue tajante. Dijo que usar la competencia geopolítica como excusa para postergar la regulación es un error estratégico del tamaño del problema. Comparó la situación con el acelerador de un auto: si no hay volante, cuanto más rápido se va, más probable es el accidente. La función del Estado, en su esquema, es construir ese volante antes de que la velocidad se vuelva incontrolable.

El científico descartó que la autorregulación de las empresas sea suficiente, por una razón concreta: los incentivos de mercado premian a quien llega primero con el producto, no a quien se detiene a evaluar consecuencias de largo plazo. Es la misma lógica, señaló, que llevó durante décadas a minimizar los riesgos del cambio climático por parte de los sectores más contaminantes.

Qué cambia para el usuario común

Para alguien que usa un asistente de inteligencia artificial en el trabajo o en la casa, las advertencias de Hinton no significan que haya que dejar de usar estas herramientas mañana. Significan, en la práctica, que el software que hoy ayuda a redactar un mail, resumir un documento o generar una imagen está entrando en una fase donde los errores o los usos malintencionados pueden tener consecuencias mucho más serias que un texto mal escrito.

En lo cotidiano, eso se traduce en tres cambios que ya empiezan a verse: empresas de software que empiezan a publicar las llamadas tarjetas de modelo, donde detallan con qué datos entrenaron y qué límites tienen sus sistemas; gobiernos que discuten proyectos de ley para obligar a auditar algoritmos antes de su despliegue masivo; y la aparición de sellos y certificaciones independientes que prometen verificar si un sistema de IA cumple con estándares mínimos de seguridad.

En definitiva, lo que Hinton plantea es que la humanidad todavía tiene una ventana para decidir cómo quiere que se comporten estas máquinas, pero que esa ventana se está achicando. La diferencia con debates tecnológicos anteriores, insiste, es que esta vez la herramienta que se está construyendo podría volverse más lista que sus propios creadores y que, llegado ese punto, el margen para corregir el rumbo será mucho más estrecho.