España avanza en sus planes para regular los sistemas de inteligencia artificial (IA) con el objetivo de garantizar un uso supervisado y confiable de esta tecnología. El Consejo de Ministros aprobó el proyecto de Ley Orgánica para el Buen Uso y Gobernanza de la Inteligencia Artificial, una iniciativa que busca establecer la transparencia obligatoria de los algoritmos, responsabilizar a los directivos de las empresas por el uso de herramientas prohibidas y fijar multas millonarias para quienes incumplan la normativa.
Óscar López, titular del Ministerio para la Transformación Digital y de la Función Pública, señaló en rueda de prensa que el marco regulatorio, remitido al Congreso de los Diputados para su revisión, pretende proteger los derechos humanos frente al avance tecnológico. El funcionario aseguró que “España es un país líder mundial en el desarrollo y la adopción de la IA, pero también es el líder mundial en regulación. Cuando hablamos de un modelo de IA confiable, que proteja los derechos de los ciudadanos, somos el país más avanzado del mundo”.
La responsabilidad penal no recaería únicamente en los usuarios que emplean herramientas de IA para generar imágenes sensibles, “sino que también podría haber responsabilidad dentro de las plataformas".
La propuesta adapta la legislación española a las disposiciones del Reglamento de Inteligencia Artificial (RIA) de la Unión Europea, vigente desde agosto de 2024. Sin embargo, incorpora varias novedades adicionales.
La iniciativa retoma el sistema de clasificación de los sistemas de IA según su potencial de riesgo, establecido en el RIA. Este mecanismo prohíbe aquellos modelos y aplicaciones que representan un peligro inaceptable para la seguridad o la salud de las personas. En esta categoría se encuentran, entre otros, los sistemas que utilizan técnicas subliminales para manipular decisiones; aquellos que explotan vulnerabilidades relacionadas con la edad, discapacidad o situación socioeconómica para alterar de manera sustancial el comportamiento de las personas y provocarles perjuicios considerables; las herramientas que emplean datos biométricos para clasificar usuarios, y las aplicaciones que califican a las personas con base en sus comportamientos sociales o rasgos personales.
El proyecto español también prohíbe la introducción en el mercado, la operación y el uso de sistemas de IA capaces de generar deepfakes sexuales, así como aquellos que puedan utilizarse para modificar contenido de abuso infantil. Esta disposición no estaba contemplada inicialmente en el RIA. No obstante, a principios de este mes, la Unión Europea acordó incorporarla al texto simplificado de la normativa digital comunitaria en la que trabaja, a petición de España y Francia.
Los sistemas de IA no prohibidos estarán sujetos a una serie de obligaciones para garantizar su permanencia en el mercado europeo. Entre ellas se encuentra la supervisión permanente de los algoritmos por parte de la Agencia de Supervisión de Inteligencia Artificial, la Agencia Española de Protección de Datos y el Consejo General del Poder Judicial.
Las empresas que desarrollen o comercialicen algoritmos de IA deberán presentar informes periódicos para actualizar su clasificación. La medida busca atender modelos o aplicaciones que aún no están disponibles o no fueron considerados inicialmente en la norma, con el fin de determinar si su uso puede mantenerse libre, estar sujeto a restricciones específicas o incluso ser prohibido.
Ley de IA: Sanciones millonarias
La normativa española también adopta el régimen de sanciones previsto en el RIA. De esta forma, las infracciones se clasificarán en muy graves, graves y leves. En los casos más severos, los responsables podrán enfrentar multas de hasta 35 millones de euros o el 7% del volumen global de su negocio, mientras que las faltas más leves podrían derivar en sanciones de hasta 500 000 euros o el 0.5% de la facturación anual. De manera específica, en el caso del uso de sistemas de IA prohibidos, la ley responsabiliza no solo a las entidades infractoras, sino también a los directivos de las mismas.
De acuerdo con el Ministerio para la Transformación Digital y de la Función Pública, la legislación “proporciona flexibilidad para las autoridades en la aplicación de las sanciones, adaptándolas a la gravedad, intencionalidad o reincidencia. Además, se incorporan mecanismos que priorizan la corrección frente a la penalización, como las reducciones de sanción por pronto pago o la adopción de medidas correctoras, así como la consideración específica del tamaño empresarial para proteger a PyMES y startups”.
