El MI5 enciende la alarma: la inteligencia artificial abre la puerta a nuevas amenazas biológicas

El director general del MI5, Ken McCallum, planteó un escenario que hasta hace poco parecía de ciencia ficción y que hoy preocupa a los principales organismos de seguridad del mundo: la inteligencia artificial está bajando la barrera de entrada para que grupos terroristas y organizaciones criminales accedan a conocimientos científicos avanzados, incluyendo los necesarios para desarrollar armas biológicas.

La advertencia se conoció en el marco de la presentación del análisis anual de amenazas del servicio de inteligencia británico, donde McCallum sostuvo que estas herramientas permiten a actores maliciosos aprender a liberar agentes patógenos a partir de información disponible en fuentes abiertas. Es decir, publicaciones académicas, bases de datos científicas y documentos técnicos que cualquiera puede consultar en internet.

Un centro dedicado a medir los riesgos y las oportunidades

Para responder a estos desafíos, el MI5 anunció la creación de un Centro de Evaluación de Amenazas de IA, que funcionará dentro del propio organismo. Su misión será estudiar de manera sistemática tanto los riesgos como las oportunidades que presenta el avance acelerado de esta tecnología, con foco en su impacto sobre la seguridad nacional.

McCallum reconoció que dedica una parte significativa de su tiempo a evaluar cómo anticiparse a los cambios tecnológicos y a encontrar un equilibrio entre los beneficios que aporta la inteligencia artificial y los daños que puede generar su uso malicioso. La estrategia del organismo apunta a posicionarse en la vanguardia de esos cambios antes de que los riesgos se materialicen.

“La IA ya está intensificando la lucha por la ciberseguridad entre atacantes y defensores.”Ken McCallum, director general del MI5

Cómo funciona el riesgo, explicado sin tecnicismos

Para entender la preocupación hay que pensar en la inteligencia artificial como una especie de asistente muy poderoso. Así como una persona puede pedirle a un modelo de lenguaje que le explique una receta de cocina paso a paso, también puede pedirle que traduzca o sintetice papers científicos complejos sobre virología, genética o microbiología.

La diferencia respecto a una búsqueda tradicional en Google es clave: en lugar de recibir una lista de enlaces para leer e interpretar, el usuario recibe una explicación ya digerida, con instrucciones y contexto. Es comparable a la diferencia entre recibir los ingredientes sueltos y que alguien te los convierta en una preparación lista para cocinar. Esa comodidad, que resulta enormemente útil para investigadores legítimos, es exactamente lo que preocupa a los servicios de inteligencia cuando cae en manos equivocadas.

• La IA facilita el acceso a información científica compleja para personas sin formación especializada.
• Existe un riesgo concreto de que se utilice para desarrollar armas biológicas o liberar agentes patógenos.
• Los modelos de lenguaje pueden sintetizar y explicar documentos técnicos sensibles disponibles en internet.
• La accesibilidad creciente de estas herramientas amplía el universo de potenciales atacantes.
• El MI5 creó un centro específico para evaluar riesgos y oportunidades de la IA en materia de seguridad.

Qué cambia para el usuario común

Aunque la advertencia apunta a un escenario extremo, tiene consecuencias prácticas para cualquier persona. Los gobiernos y los organismos de inteligencia están empezando a discutir qué información científica debería permanecer fuera del alcance de los modelos de inteligencia artificial, y qué medidas de verificación de identidad deberían implementarse antes de acceder a ciertos contenidos sensibles.

En el corto plazo, es probable que veamos sistemas de IA que pidan acreditar formación o vínculo profesional antes de responder consultas sobre temas especialmente delicados, como la síntesis de compuestos químicos o la ingeniería genética de patógenos. A largo plazo, la discusión pasa por regular de manera equilibrada: lo estricto que sea el control, tanto como para proteger a la sociedad sin frenar la investigación científica legítima que también se beneficia de estas herramientas.