El director ejecutivo de OpenAI, Sam Altman, describió esta semana los dos escenarios que, a su entender, concentran los mayores peligros en el avance de la inteligencia artificial: que la humanidad pierda el manejo de sistemas cada vez más sofisticados y que una sola persona, empresa o país concentre un poder desproporcionado gracias a esa tecnología. Para reducir esas amenazas, propuso una combinación de alineación técnica, un marco regulatorio federal, auditores externos y cooperación entre gobiernos.

Los dos escenarios que preocupan a Altman

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas”Sam Altman, CEO de OpenAI

El primero de los escenarios es la pérdida de control sobre sistemas cada vez más capaces. Para entender la magnitud, pensemos en una analogía doméstica: así como nadie enciende una cocina industrial en una casa sin haber revisado antes las válvulas de gas, los desarrolladores deberían verificar que los modelos de frontera, es decir, los más avanzados que existen hoy, se comporten como esperamos antes de liberarlos. Altman sostuvo que las técnicas de alineación y seguridad, métodos destinados a asegurar que la IA actúe según los valores e intenciones humanas, deben avanzar al mismo ritmo que las capacidades de los modelos, o incluso por delante de ellas.

El segundo escenario es la acumulación excesiva de poder. "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", advirtió. El propio Altman reconoció que evitar ambos riesgos a la vez implica transitar lo que describió como un angosto camino intermedio.

Cómo funciona la propuesta de regulación

Altman aclaró que la competencia entre países no debería ser excusa para tomar riesgos innecesarios. "Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia", afirmó, y agregó que la coordinación internacional es uno de los terrenos en los que las empresas necesitarán el respaldo activo de los gobiernos.

Qué cambia para el usuario común

Para la mayoría de las personas, estas definiciones pueden sonar lejanas, pero tienen efectos concretos. Si se implementan, los modelos de inteligencia artificial que se ofrecen al público deberán pasar por controles más rigurosos antes de su lanzamiento, como si fueran vehículos que necesitan homologación antes de circular. También podrían crearse organismos externos, similares a las auditorías que evalúan la calidad de los alimentos, capaces de revisar de forma independiente el funcionamiento de los sistemas. A la vez, un acuerdo entre países podría impedir que un desarrollador de inteligencia artificial opere sin reglas en un mercado y con reglas laxas en otro. En conjunto, el planteo apunta a que la tecnología avance con redes de contención que acompañen su crecimiento, en lugar de quedar librada a la buena voluntad de cada compañía.