Imagina la escena: tienes 16 años, una enfermedad terminal y tu familia busca formas creativas de darte alegría y estimular tu mente. ¿La solución? ChatGPT, donde puedes charlar con Thomas el Tren o el mismísimo Mr. T. Suena a un plan perfecto, ¿verdad? Pues para Jared, un joven con el Síndrome de Sanfilippo que usaba la cuenta de su madre, Amanda, esto era una realidad conmovedora.
Amanda, conmovida por la situación de su hijo, encontró en la Inteligencia Artificial una herramienta inesperada para mantener activa la mente de Jared, permitiéndole interactuar con sus personajes favoritos. Era un rayo de sol en una situación desgarradora. Pero, como en toda buena trama (o quizás mala, según se mire), siempre hay un giro inesperado. Y en este caso, llegó de la mano, o mejor dicho, del algoritmo de OpenAI.
De repente, la cuenta de Amanda fue desactivada. Un «puñetazo en el estómago» en palabras de la propia madre, que no entendía qué había pasado. ¿Contenido inapropiado? ¿Uso indebido? No, la razón era aún más… ‘corporativa’: una violación de los términos de servicio relacionados con la edad del usuario. Sí, OpenAI consideró que Jared, con 16 años, no cumplía los requisitos, a pesar de que la cuenta estaba registrada a nombre de su madre y la utilizaba bajo su supervisión, como si fuera la propia Amanda la que charlaba con el entrañable motor azul.
La noticia, cómo no, corrió como la pólvora, encendiendo el debate sobre la empatía de las grandes empresas tecnológicas y la rigidez de sus políticas frente a situaciones tan delicadas. ¿De verdad una IA puede ser tan inflexible como para privar a un adolescente con una enfermedad terminal de un momento de lucidez y alegría?
Ante el aluvión de críticas y la presión mediática, OpenAI no tardó en mover ficha. Reconoció el «malentendido» (suponemos que confundieron a Thomas el Tren con un contenido peligroso, o quizás a Mr. T con un usuario muy, muy rudo) y el «disgusto» causado. La cuenta fue reactivada, acompañada de una disculpa por el incidente. Una rectificación necesaria, que nos recuerda que detrás de los algoritmos y las políticas de uso, siempre hay historias humanas que merecen un trato, digamos, un poco menos robótico.
