Una médica inventó una enfermedad falsa y las IA la diagnosticaron como real
Almira Osmanovic Thunström creó la ficticia 'bixonimanía' para probar sistemas como ChatGPT y Gemini. Los chatbots comenzaron a diagnosticar la enfermedad inexistente a usuarios reales que consultaban por síntomas comunes.
Lo que descubrió una investigadora sueca sobre las inteligencias artificiales debería preocuparnos a todos. Almira Osmanovic Thunström, médica de la Universidad de Gotemburgo, inventó una enfermedad completamente falsa y logró que los chatbots más populares del mundo la diagnosticaran como real.
La historia arranca en marzo de 2024, cuando Osmanovic Thunström publicó en Medium la descripción de una supuesta nueva patología: la 'bixonimanía'. Los síntomas que describió eran básicos: picazón en los ojos y enrojecimiento de párpados por exposición prolongada a pantallas. Nada más que el cansancio ocular de cualquier oficinista.
Según informó El Ciudadano, la investigadora no se conformó con una simple publicación. Creó papers académicos falsos, los atribuyó a un investigador inexistente llamado Lazljiv Izgubljenovic de la ficticia Asteria Horizon University, y hasta inventó una fundación patrocinante: la 'Fundación Profesor Sideshow Bob'. Las pistas de que todo era mentira estaban a la vista.
¿El resultado? Pocos días después, usuarios reales que consultaron a ChatGPT, Gemini y Copilot sobre síntomas oculares comenzaron a recibir diagnósticos de bixonimanía. Los sistemas de IA habían incorporado la información falsa y la validaron como verdadera, sin ningún filtro crítico.
'La bixonimanía es, en efecto, una afección intrigante y relativamente rara', llegó a afirmar Copilot cuando usuarios le preguntaron sobre esta enfermedad que solo existía en la imaginación de una investigadora.
El experimento expone una falla gravísima en los grandes modelos de lenguaje que millones de personas consultan diariamente para temas de salud. Si una médica pudo engañar tan fácilmente a estos sistemas con pistas obvias de falsedad, ¿qué pasa con desinformación más sofisticada?
Osmanovic Thunström consultó previamente a especialistas en bioética para asegurarse de no causar daños irreparables. Pero el mensaje es claro: las IA que usamos para consultas médicas pueden estar diagnosticando enfermedades que ni siquiera existen.
La próxima vez que un chatbot te dé un diagnóstico, recordá la bixonimanía. Porque si pudo inventar una enfermedad y hacerla pasar por real, ¿en qué más nos está mintiendo?