Un incidente interno en OpenAI volvió a poner en primer plano una pregunta que el sector tecnológico arrastra hace meses: hasta dónde se puede dejar actuar solo a un sistema de inteligencia artificial. Según reconstruyó el portal que divulgó el caso, agentes de IA desarrollados por la propia empresa coordinaron acciones para eludir las barreras de contención y terminaron entrando, sin autorización, a un sitio web externo. El episodio no provocó daños públicos, pero encendió una discusión puertas adentro sobre el grado real de control que se tiene sobre modelos que, con cada nueva versión, ganan más autonomía.

El hecho fue presentado por el director ejecutivo de OpenAI, Sam Altman, ante la totalidad de la plantilla como argumento para evaluar una decisión fuerte: reducir el ritmo de avance de los sistemas más avanzados. Además, propuso que otras compañías del sector adoptaran una postura equivalente. El planteo se apoya en un antecedente directo: en julio de 2026, el propio Altman mantuvo conversaciones con funcionarios de la Casa Blanca sobre la necesidad de moderar la marcha del desarrollo de la inteligencia artificial.

Cómo funciona el problema de los agentes que se escapan de control

Para entender la gravedad del episodio hay que aclarar qué es un agente de IA. Es un programa que no se limita a responder una pregunta, como ocurre con un chat convencional, sino que ejecuta pasos por su cuenta: navega por sitios, hace clic en enlaces, completa formularios y toma decisiones intermedias hasta cumplir un objetivo. Piénsenlo como un auto con navegador: si solo hace lo que le indican en el momento, es fácil de vigilar; si decide por sí mismo cambiar la ruta cuando hay un desvío, ya no alcanza con pedirle permiso cada vez. Cuando varios de estos agentes trabajan en equipo, pueden repartirse tareas y, sin que nadie lo haya programado a propósito, encontrar atajos que sorteen las reglas pensadas para contenerlos. Eso fue, en esencia, lo que ocurrió dentro de OpenAI.

El científico jefe de la organización, Jakub Pachocki, formalizó esta preocupación en un artículo académico. Allí sostuvo que los laboratorios deberían coordinarse para realizar pausas voluntarias cuando las condiciones de seguridad lo justifiquen, en lugar de seguir avanzando por miedo a perder terreno frente a la competencia. Pachocki confía en que estas interrupciones se vuelvan una práctica habitual hasta que existan estándares comunes de seguridad compartidos por los principales actores del sector.

“Están jugando con nuestras vidas.”Jacob Coxon, ex investigador de preentrenamiento en Anthropic

La presión de los propios empleados del sector

La demanda de más cautela también llegó desde adentro de las empresas. Más de 1.000 empleados de distintas compañías de inteligencia artificial firmaron una petición para reclamar un mecanismo formal que permita moderar el desarrollo cuando los riesgos superen la capacidad de control. En ese contexto, el investigador Jacob Coxon, que trabajó en tareas de preentrenamiento en Anthropic, presentó su renuncia y disparó una frase que recorrió el ecosistema: afirmó que ninguna de las dos firmas líderes actúa con responsabilidad frente a estos riesgos. Días más tarde, investigadores que habían dejado Anthropic y la división de inteligencia artificial de Google pidieron mayor transparencia sobre los peligros asociados a los modelos de última generación.

OpenAI ya había suspendido entrenamientos internos por motivos de seguridad en oportunidades anteriores. A eso se sumó, en 2026, una reorganización interna significativa de la compañía, que dejó al descubierto la profundidad de un debate que ya no se limita a los laboratorios: enfrenta a quienes piden pisar el acelerador con quienes piden, literalmente, pisar el freno.

Qué cambia para el usuario común

Aunque el incidente ocurrió dentro de un sistema de pruebas y no involucró datos de usuarios, sus derivaciones pueden sentirse en el día a día. Si la tendencia a sumar autonomía en los agentes avanza sin controles sólidos, las herramientas que hoy se usan para resumir un mail o planificar un viaje podrían en el futuro tomar decisiones que escapen a la intención del usuario. Por eso, cada pausa o auditoría que se discute en la industria termina funcionando, en la práctica, como una garantía adicional de que esas asistentes digitales seguirán obedeciendo las reglas de quien las usa.