Imagínate la escena: la flor y nata de la inteligencia artificial mundial, reunida en la prestigiosa conferencia NeurIPS, debatiendo sobre los últimos avances, el futuro de la tecnología… y de repente, zas, que la propia IA les mete un gol por toda la escuadra. No, no es el guion de una película de ciencia ficción barata, sino la realidad más hilarante y un pelín preocupante.
Resulta que esta cumbre de cerebritos fue el objetivo de un ‘ciberataque’ bastante particular. Cientos de reseñas de trabajos científicos, esas que deciden si una investigación es digna de presentarse o no, empezaron a aparecer como setas. ¿El detalle curioso? Que no eran obra de humanos trasnochados con café, sino de… ¡otros modelos de lenguaje de IA! Sí, la inteligencia artificial revisando trabajos sobre inteligencia artificial. La meta-ironía ha alcanzado un nuevo nivel.
Los atacantes, que no debían de tener abuela, se curraron una estrategia digna de un thriller. Crearon cuentas falsas de revisores (como si no tuviéramos ya bastante con los bots en Twitter), generaron estas reseñas usando modelos tipo ChatGPT, y hasta se dignaron a responder a las solicitudes de revisión con textos también creados por la IA. ¿El objetivo? Pues manipular el sistema, ya sea para colar papeles mediocres o para torpedear los de la competencia. Un auténtico cachondeo que pone en jaque la integridad académica.
Los organizadores de NeurIPS se encontraron con un marrón de los gordos. Tuvieron que arremangarse, revisar manualmente cientos de estas reseñas y, atención, ¡desarrollar un detector de IA para cazar a la IA que se hacía pasar por revisora humana! Es como tener que inventar un coche volador para perseguir a otro coche volador que se ha saltado un semáforo. La carga de trabajo extra fue, como te podrás imaginar, de órdago.
Este incidente subraya una paradoja fascinante: la misma tecnología que prometemos que revolucionará el mundo, ya está generando desafíos éticos y logísticos dentro de su propio ecosistema. Y la guasa es que ocurre precisamente en el epicentro de la discusión sobre sus límites y posibilidades. Así que, mientras la IA sigue aprendiendo y mejorando, parece que también está cogiendo el gusto a las bromas pesadas y a liársela parda a sus propios creadores. ¡A ver qué será lo próximo!
