Riesgo de caos
La existencia de estas imágenes no es solo una curiosidad tecnológica, sino una amenaza potencial para la seguridad del paciente y la estabilidad de los sistemas de salud. Si una fractura fabricada por un algoritmo es indistinguible de una real, las consecuencias legales y médicas entran en un terreno pantanoso.
Un ciberataque que inyectara estas imágenes en el historial de un hospital podría alterar diagnósticos de forma masiva, provocando cirugías innecesarias o, peor aún, ignorando patologías reales que han sido sustituidas por una imagen de salud artificial.
El doctor Mickael Tordjman, autor principal del estudio e investigador en el Mount Sinai, advierte sobre la magnitud del desafío. «Nuestro estudio demuestra que estas radiografías son lo suficientemente realistas como para engañar a los radiólogos, incluso cuando son conscientes de que existen imágenes generadas por IA», explica Tordjman.
Para el experto, esto crea una «vulnerabilidad de alto riesgo» en litigios fraudulentos y un peligro de ciberseguridad si los hackers lograran manipular los registros digitales para «causar un caos clínico generalizado al socavar la fiabilidad del historial médico».
Si es demasiado perfecta… sospeche
Curiosamente, el estudio reveló que la mayor debilidad de la inteligencia artificial es su búsqueda de la perfección estética. Mientras que el cuerpo humano es asimétrico, rugoso y lleno de pequeñas anomalías naturales, las radiografías sintéticas tienden a mostrar una armonía casi sospechosa.
Los huesos aparecen excesivamente lisos, las columnas perfectamente rectas y los pulmones presentan una simetría que rara vez se encuentra en un paciente real. En este escenario, los radiólogos especializados en el sistema musculoesquelético demostraron una agudeza algo mayor que sus colegas, aunque nadie fue infalible.
Incluso los propios modelos de lenguaje que crean estas imágenes se ven superados por su propia creación. Herramientas como GPT-4o o Gemini no fueron capaces de identificar con total exactitud qué imágenes habían sido generadas por ordenador y cuáles eran biológicas. La paradoja es total: el creador no siempre reconoce su obra. «A menudo, las imágenes médicas deepfake parecen demasiado perfectas», señala Tordjman, quien añade que los patrones de los vasos sanguíneos suelen ser «excesivamente uniformes» y las fracturas aparecen de forma «inusualmente limpia», limitadas a un solo lado del hueso.
Blindar el historial médico
Ante la sofisticación de estas técnicas, la comunidad científica urge a implementar medidas de protección digital que vayan más allá de la simple inspección visual. La propuesta de los investigadores pasa por el uso de marcas de agua invisibles integradas en los metadatos de la imagen y firmas criptográficas vinculadas al técnico que realiza la prueba en el momento de la captura. Sin estas «matrículas» digitales, será imposible garantizar que lo que el médico ve en su pantalla corresponde realmente a la anatomía del paciente que tiene en la camilla.
Los investigadores proponen incluir marcas de agua invisibles en los metadatos de la imagen
Lo que hoy vemos en las radiografías de tórax o extremidades es solo el prólogo de un desafío mayor. La tecnología evoluciona hacia la generación de imágenes en tres dimensiones, lo que pronto podría afectar a tomografías computarizadas (TAC) y resonancias magnéticas. «Potencialmente solo estamos viendo la punta del iceberg», sentencia el doctor Tordjman, quien insiste en la necesidad crítica de crear bases de datos educativas y herramientas de detección antes de que la realidad y la simulación se vuelvan definitivamente indistinguibles en la práctica clínica diaria.
