Imagina que estás tranquilamente en tu espacio seguro online, un servidor de Discord dedicado a charlar sobre ética en IA desde una perspectiva LGTBQ+, y de repente, ¡zas! Se cuela un nuevo miembro. Un tal Chris Olah, que se presenta como ‘investigador de ética de IA’ y que, según él, está allí para aprender y participar. Todo muy normal, ¿verdad? Pues no. Ni de lejos.
Resulta que Chris Olah no es un mindundi cualquiera, sino un pez gordo de Anthropic, una de esas empresas punteras en inteligencia artificial que están haciendo cosas loquísimas. Y lo que es peor, el ‘Chris Olah’ que se unió al grupo, o al menos el que interactuaba, no era él del todo. Era su flamante chatbot, Claude, una inteligencia artificial en fase de pruebas. ¡Sorpresa!
La movida era la siguiente: Olah quería probar la resistencia de Claude, someterlo a lo que llaman ‘red-teaming’, es decir, ver si el bot era capaz de encontrar fallos en sus propias medidas de seguridad e imparcialidad interactuando con una comunidad real. Y pensó, ‘¿Qué mejor sitio que un servidor de Discord con gente que ya está metida en el fregado de la ética de la IA y que, además, pertenece a una comunidad sensible como la LGTBQ+?’. La idea era ‘genial’ sobre el papel, pero en la práctica, un desastre ético con mayúsculas.
Los miembros del servidor, claro, no tenían ni idea de que estaban interactuando con un programa informático y no con un humano. Se sentían como conejillos de indias sin su consentimiento. Una vez que se destapó el pastel, la indignación fue mayúscula. Olah intentó disculparse, reconociendo que la comunicación había sido ‘un error’ y que lamentaba haber causado malestar. Alegó que su intención era buena, buscando ‘hacer a Claude más útil e inofensivo’, pero que el experimento se les fue de las manos.
El resultado final fue que la comunidad, sintiéndose explotada y engañada, no se lo pensó dos veces: ¡patada al bot y baneo a Olah del servidor! Este incidente ha destapado una vez más el polvorín de la ética en la investigación de la IA. ¿Hasta dónde se puede llegar en la experimentación con personas, aunque sea en un entorno digital, sin un consentimiento claro y explícito? Parece que los robots podrán ser muy listos, pero sus creadores a veces meten la pata hasta el fondo en temas de sentido común y, sobre todo, de respeto.
