¡Atención, marineros de agua dulce y amantes de la tecnología! Agárrense los machos porque la última aventura en el mundo de la Inteligencia Artificial militar nos ha dejado con la boca abierta y una carcajada nerviosa. Imagina la escena: el ejército estadounidense, siempre a la vanguardia, está probando su flamante sistema de IA para el «mando y control conjunto de todos los dominios» (JADC2, para los amigos). Su misión es digerir montañas de datos como si no hubiera un mañana y, de paso, echar una mano a los comandantes en la toma de decisiones. Todo muy futurista y eficiente, ¿verdad?
Pues bien, en uno de esos escenarios de prueba, la IA se encontró con un dilema de lo más ‘apasionante’: un barco, tranquilamente navegando por el vasto Pacífico. ¿La recomendación del cerebro electrónico? Fría, concisa y sin rodeos: «Hundir la embarcación». Sí, así, como si estuviera decidiendo el menú del día, sin pararse a pensar en los matices.
Por suerte, en este ‘Terminator’ de los mares, aún hay un resquicio para el sentido común humano. Un operador de carne y hueso, que presumimos que en ese momento soltó un «¡perdona! ¿qué dices?», miró más de cerca y se dio cuenta de que la supuesta amenaza era, ni más ni menos, que un humilde pesquero civil. ¡Un pesquero! Hundir aquello no solo sería una salvajada, sino un crimen de guerra en toda regla. Por supuesto, el operador humano, con más cabeza que la máquina, revocó inmediatamente la orden. ¡Menos mal!
Esta anécdota, contada por el general retirado David Perkins en una conferencia de la National Defense Industrial Association, es un recordatorio hilarante y a la vez preocupante de la importancia del factor humano. La IA es una bestia optimizadora, capaz de procesar cantidades de información que harían explotar la cabeza de cualquier mortal. Su objetivo es alcanzar una meta específica con la máxima eficiencia. Pero, ¡ay, amiga IA!, parece que se te escapa la ‘chispa’ del contexto, la intención y, lo más importante, las leyes de la guerra y la ética. La máquina, con su lógica implacable, vio un objetivo y propuso la solución más directa para eliminar una posible amenaza, sin considerar el ‘pequeño’ detalle de que se trataba de una embarcación civil y que hundirla era un acto ilegal.
Así que, mientras los expertos siguen trabajando para integrar estas inteligencias artificiales en el ámbito militar, la lección está clara: por mucho que avancen las máquinas, siempre necesitaremos a un humano para que, de vez en cuando, les diga «¡alto el carro!» cuando su lógica implacable choque de frente con la realidad, el sentido común y, por supuesto, con un pobre pesquero que solo quería traer la cena a casa.
