Anthropic le da a un grupo externo el mismo acceso que a un empleado para auditar sus modelos de inteligencia artificial

Seis investigadores de la organización sin fines de lucro METR trabajan desde hace semanas dentro de las oficinas de Anthropic con el mismo nivel de acceso que un empleado del área de evaluación de riesgos. La compañía les entregó computadoras, un lugar físico en su edificio y herramientas internas, con el objetivo de que revisen sus modelos de inteligencia artificial de manera independiente y puedan difundir lo que encuentren sin pedir autorización previa.

La iniciativa forma parte de un esquema de tres niveles que Anthropic diseñó durante el último año para abrir distintos grados de su trabajo a auditores externos. En el escalón más bajo figuran organizaciones como SecureBio, que realizan revisiones acotadas y deben pedir permiso antes de publicar. En el intermedio participan grupos que reciben más información y ya pueden difundir resultados sin autorización. En la cima, donde hoy solo está METR, se suma el acceso equivalente al de un empleado y la posibilidad de publicar evaluaciones, reportes de incidentes y análisis de prácticas de la compañía.

Cómo funciona el esquema de tres niveles

Para entender la diferencia, sirve la comparación con un edificio: el primer nivel es como entrar a la recepción y ver solo el vestíbulo, el segundo permite recorrer varios pisos y el tercero entrega una llave que abre casi todas las puertas, salvo unas pocas habitaciones con candado. En el caso de METR, las tres áreas a las que no puede acceder son los datos de clientes, la información cubierta por secreto profesional entre abogado y cliente y los detalles sobre la arquitectura interna de los modelos.

Anthropic sí conserva la facultad de pedir que se redacten fragmentos muy puntuales de los informes, pero solo en categorías estrechas y predefinidas. Aun en ese caso, METR queda libre de señalar públicamente si considera que esa solicitud de redacción estuvo o no justificada, lo que convierte al acuerdo en una suerte de cláusula de transparencia obligatoria.

Qué cambió para el usuario común

Para quien usa un asistente basado en modelos de Anthropic, la movida no se traduce en un cambio inmediato ni visible. La diferencia es de fondo: si un auditor externo con acceso casi total logra detectar fallas o comportamientos riesgosos, esos hallazgos pueden difundirse y obligar a la empresa a ajustar sus sistemas antes de que provoquen un incidente. Es el equivalente a pasar de un auto al que solo le revisan la chapa a uno donde un mecánico independiente puede meter mano en el motor y publicar después lo que encontró.

• Cuatro condiciones que, según Anthropic, debe cumplir una auditoría útil: experiencia técnica suficiente para detectar cuándo un modelo aparenta estar alineado sin estarlo; independencia económica y operativa respecto de la empresa auditada; acceso que vaya más allá del modelo e incluya cómo se entrenó y cómo funcionan sus mecanismos de seguridad; y libertad para publicar sin restricciones previas.
• La compañía reconoció que no puede hacer pública toda su información de seguridad, porque parte de esos datos podría ser útil para actores maliciosos o resulta sensible desde lo comercial.
• El equipo de METR ya había revisado varios informes de riesgo de Anthropic durante el año anterior, experiencia que la empresa tomó como antecedente para entregarle el nivel máximo de acceso.