Lo que descubrió una investigadora sueca sobre las inteligencias artificiales debería preocuparnos a todos. Almira Osmanovic Thunström, médica de la Universidad de Gotemburgo, inventó una enfermedad completamente falsa y logró que los chatbots más populares del mundo la diagnosticaran como real.
La historia arranca en marzo de 2024, cuando Osmanovic Thunström publicó en Medium la descripción de una supuesta nueva patología: la 'bixonimanía'. Los síntomas que describió eran básicos: picazón en los ojos y enrojecimiento de párpados por exposición prolongada a pantallas. Nada más que el cansancio ocular de cualquier oficinista.
Según informó El Ciudadano, la investigadora no se conformó con una simple publicación. Creó papers académicos falsos, los atribuyó a un investigador inexistente llamado Lazljiv Izgubljenovic de la ficticia Asteria Horizon University, y hasta inventó una fundación patrocinante: la 'Fundación Profesor Sideshow Bob'. Las pistas de que todo era mentira estaban a la vista.
¿El resultado? Pocos días después, usuarios reales que consultaron a ChatGPT, Gemini y Copilot sobre síntomas oculares comenzaron a recibir diagnósticos de bixonimanía. Los sistemas de IA habían incorporado la información falsa y la validaron como verdadera, sin ningún filtro crítico.
'La bixonimanía es, en efecto, una afección intrigante y relativamente rara', llegó a afirmar Copilot cuando usuarios le preguntaron sobre esta enfermedad que solo existía en la imaginación de una investigadora.
El experimento expone una falla gravísima en los grandes modelos de lenguaje que millones de personas consultan diariamente para temas de salud. Si una médica pudo engañar tan fácilmente a estos sistemas con pistas obvias de falsedad, ¿qué pasa con desinformación más sofisticada?
Osmanovic Thunström consultó previamente a especialistas en bioética para asegurarse de no causar daños irreparables. Pero el mensaje es claro: las IA que usamos para consultas médicas pueden estar diagnosticando enfermedades que ni siquiera existen.
La próxima vez que un chatbot te dé un diagnóstico, recordá la bixonimanía. Porque si pudo inventar una enfermedad y hacerla pasar por real, ¿en qué más nos está mintiendo?
Comentarios (12)
Deja tu comentario
Como médico me preocupa muchísimo esto. La gente consulta cada vez más a las IA antes que venir al consultorio. Si pueden inventar enfermedades, imaginen el daño que pueden hacer.
Exageran. Las IA están en desarrollo, obviamente van a tener errores. Nadie debería autodiagnosticarse con un chatbot anyway.
@TechBro2024 'están en desarrollo' decís? Millones de personas las usan AHORA para consultas médicas. No pueden estar 'en desarrollo' si ya las largaron al público.
@LaFlaca33 Bueno, pero tampoco es que OpenAI o Google te dicen 'somos tu médico'. Siempre aclaran que consultes profesionales. El problema es la gente que no lee las advertencias.
¿En serio? Mi hija siempre le pregunta todo al ChatGPT. Ahora me da miedo que le esté dando información falsa sobre su salud.
Exactamente Silvia. Por eso es tan peligroso. Los chicos confían ciegamente en estas herramientas y pueden tomar decisiones equivocadas sobre su salud.
Che pero la investigadora esta se las rebuscó eh. Inventar toda una universidad falsa, papers, todo. Chapeau por el laburo de investigación.
Esto es lo que pasa cuando confiamos más en las máquinas que en los profesionales. Las IA son herramientas, no doctores.
En la facultad nos enseñan a verificar SIEMPRE las fuentes. Que las IA no hagan lo mismo es gravísimo. ¿Cómo van a diagnosticar sin chequear si la info es real?
¿Y si mañana alguien inventa una enfermedad más jodida y las IA empiezan a recetar tratamientos peligrosos? Esto puede terminar muy mal.
Yo le pregunté al ChatGPT sobre unos dolores de cabeza la semana pasada y me dijo que podía ser migraña. Ahora no sé si creerle o no...
La posta es que esta mina hizo un experimento genial. Demostró que las IA son unos boludos que se creen cualquier cosa que lean en internet, como mi cuñado.