El asistente de inteligencia artificial que Meta opera dentro de Facebook e Instagram quedó en el centro de la escena después de que un video aparentemente inocente, una mujer cantando dentro de un auto junto a su hijo, terminara disparando una sugerencia que la compañía reconoce como equivocada. Debajo de la publicación, la herramienta ofreció automáticamente la pregunta: ¿Quién es el niño pasajero? Y al abrirla, empezó a entregar detalles sobre otras hijas de la usuaria, incluyendo referencias a su edad y al lugar donde vive la familia.

La mujer sumó un dato que encendió la alarma: aseguró que el chatbot le devolvió imágenes de sus hijas que habían sido publicadas en la plataforma, incluso una que ella misma había borrado hacía años. Según su relato, el sistema combinó información de sus propias publicaciones con la de otros familiares para armar esas respuestas.

Qué dijo Meta

“La empresa se equivocó y la función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

La aclaración oficial fue acompañada por un intento de poner límites al escándalo. Meta sostuvo que su sistema no accede a contenido privado al que el usuario consultante no tenga permiso: el asistente solo opera sobre información que esa persona ya puede ver en la plataforma. Es decir, no hubo un robo de datos, sino un mal uso de datos visibles.

Cómo funciona el mecanismo que falló

• El usuario publica o ve una foto o un video en Facebook o Instagram.
• La IA analiza el contenido y propone preguntas para ayudar a obtener más contexto, como identificar quién aparece en una imagen o dónde fue grabado.
• Para armar esas respuestas, el sistema cruza metadatos de la propia publicación con otras publicaciones visibles, incluidos perfiles de familiares etiquetados o mencionados.
• Cuando la lógica se aplica sobre datos personales y familiares sin filtros, el resultado son preguntas que indagan sobre la vida privada, algo que el diseño original no preveía.

Por qué importa el episodio

La discusión de fondo no pasa solo por un video y una pregunta fuera de lugar. Pasa por el alcance que puede tener una inteligencia artificial cuando trabaja sobre información que el usuario ya ve, pero que nunca imaginó que sería reorganizada en forma de averiguación sobre sus hijos. En criollo, es como si alguien que pasa por la puerta de tu casa y mira hacia adentro terminara anotando los nombres y las edades de los que están sentados a la mesa: no forzó la cerradura, pero igual se pasó de la raya.

El caso tampoco es aislado. En julio, Meta había retirado una función que permitía generar imágenes falsas de otros usuarios de Instagram tras críticas parecidas. La repetición del patrón empieza a instalar una pregunta incómoda para la compañía: si los controles llegan siempre después de que un usuario se cruza con un resultado problemático, ¿quién revisa el sistema antes?

Qué cambia para el usuario común

• Las sugerencias automáticas dejan de derivar hacia preguntas sobre hijos, edades o direcciones cuando se cruzan datos familiares visibles.
• Meta asegura que la función sigue útil para explorar publicaciones, pero con filtros que bloquean el salto hacia la vida privada.
• El episodio deja una recomendación práctica: revisar la configuración de privacidad de las cuentas y la de los perfiles de los hijos, ya que la IA trabaja sobre lo que está disponible para cualquier visitante autorizado.

El trasfondo, en definitiva, es dónde se traza la línea entre un asistente que ayuda a entender lo que se ve y un asistente que termina investigando a la gente que uno tiene cerca. Meta dice que ya movió esa línea. Ahora falta ver si el sistema, la próxima vez que alguien suba un video familiar, se queda en silencio cuando debe quedarse en silencio.