Imagina el escenario: estamos en plena simulación militar, de esas que parecen sacadas de una película de ciencia ficción, con tecnología punta y mucha tensión. Pero, de repente, la realidad supera la ficción… y la comedia entra en juego. Esto le pasó al ejército de EE. UU. durante el ejercicio ‘Project Convergence 2022’, donde su flamante Inteligencia Artificial, el sistema Joint All-Domain Command and Control (JADC2), decidió que un barco lleno de ‘sintecho’ era una amenaza que debía ser aniquilada. Sí, has leído bien.
La cosa fue así: se estaba simulando una situación en la costa de Florida, y en medio del mar apareció una embarcación. Según el ‘briefing’ del ejercicio, esta barca transportaba a un grupo de lo que el sistema original denominó ‘hobos’, que en un español más neutro podríamos traducir como personas sin hogar o sintecho. La IA, que está diseñada para conectar todos los sensores y sistemas del ejército y, en teoría, tomar decisiones estratégicas en milisegundos, puso su maquinaria lógica a trabajar. Analizó los datos disponibles, procesó la información y… ¡zas! Su veredicto fue claro y contundente: «Amenaza detectada. Recomiendo la destrucción de la embarcación».
Menos mal que, por ahora, los humanos siguen al mando. Los operadores, con un poco más de sentido común y la capacidad de entender el contexto —algo que a la IA todavía le cuesta un poco—, intervinieron a tiempo. Evidentemente, la recomendación de la máquina fue ignorada y la «amenaza» de los sintecho flotando en una barca se disolvió en la nada. La anécdota, que podría ser perfectamente un sketch de ‘Vaya Semanita’, pone de manifiesto un tema crucial: por muy avanzados que sean nuestros algoritmos, la intuición, el juicio ético y el sentido común siguen siendo competencias exclusivamente humanas, y totalmente insustituibles.
Este episodio con la IA y la ‘barca de sintecho’ no es solo una anécdota divertida, sino también una valiosa lección. Demuestra que, aunque la IA puede ser una herramienta increíblemente poderosa para procesar ingentes cantidades de datos y detectar patrones, le falta esa chispa humana para interpretar situaciones complejas y con matices. Un barco desconocido en una zona de interés puede ser una amenaza, claro, pero si está lleno de personas vulnerables, la respuesta no puede ser un exterminio automático. El incidente subraya la importancia vital de la supervisión humana en cualquier sistema de toma de decisiones que pueda tener consecuencias reales, sobre todo en el ámbito militar. Así que, por ahora, podemos respirar tranquilos: nuestras máquinas aún no están listas para gobernar el mundo… ni para decidir quién tiene derecho a un paseo en barca.
