La ironía hecha literatura
Dicen que la realidad siempre supera a la ficción, pero en esta ocasión, la tecnología ha superado a la ironía. Steven Rosenbaum, un autor que acaba de publicar un libro de no ficción titulado maravillosamente The Future of Truth (El futuro de la verdad), se ha visto obligado a admitir un pequeño desliz metodológico. Resulta que su obra, dedicada a advertir sobre cómo la inteligencia artificial puede destruir la veracidad de la información, contiene numerosas citas totalmente inventadas por… efectivamente, la propia inteligencia artificial.
Según confesó en un comunicado, durante el proceso de investigación y redacción utilizó asistentes virtuales como ChatGPT y Claude. La jugada le salió regular: las herramientas sufrieron lo que en el sector se conoce como hallucination (alucinaciones), inventando frases rimbombantes y atribuyéndoselas a expertos reales que nunca abrieron la boca para decir semejantes cosas.
Las víctimas del despropósito algorítmico
Entre los afectados por esta creatividad artificial desbocada se encuentra Kara Swisher, una conocida periodista tecnológica. El libro le atribuye una profunda reflexión filosófica asegurando que la IA «no está sujeta a las leyes de Asimov ni a ningún marco ético». Al ser consultada sobre su presunta cita, Swisher fue tajante y aportó un toque de humor a la situación:
«Nunca dije eso. Además, según ChatGPT, sueno como si fuera una estirada con un palo metido por el trasero.»
Otra de las sorpresas se la llevó Lisa Feldman Barrett, profesora de psicología en la Northeastern University. El libro cita su obra afirmando que «las emociones no son solo reacciones a la verdad, son la forma en que construimos la verdad». La profesora confirmó que esa frase no solo no aparece en su libro, sino que científicamente es un despropósito. «Nunca diría eso, y el concepto de ‘verdad’ en la ciencia es algo que tiendo a evitar», sentenció.
Verdades a medias y contextos difuminados
No todo fue invención pura; a veces la IA simplemente jugó al teléfono escacharrado. La profesora de la Universidad de Nueva York, Meredith Broussard, vio cómo una cita suya real era atribuida al libro equivocado, mientras que Lee McIntyre, investigador de la Universidad de Boston, descubrió que la IA había adornado sus palabras reales añadiéndole frases sobre el «valor social» que él jamás había pronunciado textualmente.
Una lección magistral (aunque no intencionada)
Para intentar salir del paso, Rosenbaum, que por cierto es director de una organización sin ánimo de lucro llamada Centro de Medios Sostenibles, entonó el mea culpa asumiendo toda la responsabilidad, aunque no pudo evitar intentar darle la vuelta a la tortilla literaria de la forma más elegante posible:
«Si este episodio sirve como advertencia sobre los riesgos de la investigación y verificación asistida por IA, esa es la razón por la que escribí el libro».
El libro, que cuenta irónicamente con el prólogo de Maria Ressa (Premio Nobel de la Paz), será corregido en sus próximas ediciones. Mientras tanto, nos deja la gran moraleja del año: si vas a escribir un libro sobre cómo la IA miente, mejor no le pidas a la IA que te ayude a escribirlo.
