Estados Unidos reconoció un episodio de alto riesgo luego de que un reporte de inteligencia falso, generado con ayuda de inteligencia artificial, casi derivara en una operación militar contra un barco chino.
El caso ocurrió en medio de la guerra entre Estados Unidos e Irán, cuando aviones militares ya estaban en el aire y soldados esperaban la orden para abordar la nave.
La operación fue detenida minutos antes de ejecutarse, luego de que se revisara el origen real de la información que había activado la alerta.
El reporte sostenía que el buque transportaba piezas asociadas a un programa de armas nucleares, pero esa conclusión resultó ser errónea.
Según los antecedentes conocidos, el error se produjo después de que un analista consultara a un chatbot sobre información vinculada al manifiesto de carga del barco.
La herramienta habría combinado información abierta de internet con datos reservados de inteligencia de señales, generando una conclusión equivocada sobre lo que transportaba la nave.
El problema escaló cuando ese hallazgo fue convertido en un informe formal de inteligencia y comenzó a circular por la cadena de mando.
El episodio encendió las alarmas por el uso de inteligencia artificial en decisiones militares, especialmente cuando no existen estándares únicos para verificar la información generada por estas herramientas.
Funcionarios estadounidenses han advertido que este tipo de alucinaciones de la IA no sería un caso aislado dentro de la comunidad de inteligencia.
El incidente vuelve a poner sobre la mesa la necesidad de mantener control humano real en decisiones sensibles, especialmente cuando pueden involucrar operaciones militares, objetivos estratégicos o riesgo de escalada internacional.
El caso ocurrió en medio de la guerra entre Estados Unidos e Irán, cuando aviones militares ya estaban en el aire y soldados esperaban la orden para abordar la nave.
La operación fue detenida minutos antes de ejecutarse, luego de que se revisara el origen real de la información que había activado la alerta.
El reporte sostenía que el buque transportaba piezas asociadas a un programa de armas nucleares, pero esa conclusión resultó ser errónea.
Según los antecedentes conocidos, el error se produjo después de que un analista consultara a un chatbot sobre información vinculada al manifiesto de carga del barco.
La herramienta habría combinado información abierta de internet con datos reservados de inteligencia de señales, generando una conclusión equivocada sobre lo que transportaba la nave.
El problema escaló cuando ese hallazgo fue convertido en un informe formal de inteligencia y comenzó a circular por la cadena de mando.
El episodio encendió las alarmas por el uso de inteligencia artificial en decisiones militares, especialmente cuando no existen estándares únicos para verificar la información generada por estas herramientas.
Funcionarios estadounidenses han advertido que este tipo de alucinaciones de la IA no sería un caso aislado dentro de la comunidad de inteligencia.
El incidente vuelve a poner sobre la mesa la necesidad de mantener control humano real en decisiones sensibles, especialmente cuando pueden involucrar operaciones militares, objetivos estratégicos o riesgo de escalada internacional.
