La Unión Europea se encuentra a la vanguardia de la regulación de la IA y ha propuesto un Reglamento Europeo sobre Inteligencia Artificial para abordar los desafíos relacionados con la complejidad, la imprevisibilidad y el comportamiento autónomo de ciertos sistemas de IA. Esta propuesta busca establecer normas armonizadas en la Unión Europea y se aplica a proveedores que comercialicen sistemas de IA en la UE, independientemente de su ubicación, así como a usuarios en la UE y a proveedores y usuarios en países fuera de la UE cuando la información generada se utilice en territorio europeo.

La propuesta de Reglamento también ofrece una definición de la IA que pretende mantener su relevancia a lo largo del tiempo, definiéndola como «el software que se desarrolla empleando una o varias de las técnicas y estrategias que figuran en el anexo I del Reglamento y que puede generar información de salida, como contenidos, predicciones, recomendaciones o decisiones, para un conjunto definido de objetivos humanos».

El Reglamento Europeo de Inteligencia Artificial aborda varias cuestiones clave, entre las que se incluyen:

1. Categorización de sistemas de IA: Clasifica los sistemas de IA en categorías como IA explícitamente prohibida, IA de alto riesgo, IA de riesgo limitado y sistemas de IA no peligrosos. Los sistemas inaceptablemente peligrosos, como aquellos diseñados para manipular el comportamiento humano, estarán prohibidos. Los sistemas de alto riesgo estarán sujetos a requisitos estrictos de transparencia, supervisión, responsabilidad y certificación.
2. Obligaciones para los sistemas de IA de alto riesgo: Los proveedores de sistemas de IA de alto riesgo deberán llevar a cabo evaluaciones de riesgo, seguir estándares técnicos, garantizar la trazabilidad de los resultados y contar con planes de contingencia. Se requiere una evaluación de conformidad antes de la comercialización y el mantenimiento de registros detallados de los datos de entrenamiento utilizados.
3. Protección de los derechos fundamentales de los usuarios: El proyecto de ley enfatiza la necesidad de proteger y respetar principios como la legalidad, la transparencia y la no discriminación. Se prohíbe el uso de IA para la vigilancia masiva y la puntuación del comportamiento humano, y se establecen excepciones para el uso de sistemas de reconocimiento biométrico o facial en espacios públicos. Los sistemas de IA deben ser transparentes y proporcionar explicaciones claras de su funcionamiento.
4. Fomento de la innovación y la investigación ética: A pesar de las restricciones, el proyecto de ley busca promover la innovación y la investigación en IA ética, facilitando el acceso a datos de alta calidad y promoviendo la colaboración entre instituciones académicas. Se crearán programas de financiación para proyectos de IA ética.

La supervisión y aplicación del Reglamento de IA implicarán la cooperación entre la autoridad europea, el Comité Europeo de Inteligencia Artificial y las autoridades de los Estados Miembros. En España, la Autoridad nacional supervisora será la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), con facultades sancionadoras. Las sanciones por incumplimiento varían según la gravedad de la infracción, pudiendo llegar a hasta 30 millones de euros o el 6% del volumen de negocio anual mundial en el caso de infracciones graves.

En resumen, el Reglamento Europeo de Inteligencia Artificial busca establecer un marco regulador sólido y ético para el uso de la IA en la Unión Europea, con el objetivo de equilibrar la innovación y el crecimiento económico con la protección de datos y consumidores. Además, se espera que influya en las prácticas y regulaciones en otros países, como lo demuestra la iniciativa del G7 para establecer estándares internacionales en la regulación de la IA.

Desde Type of Legal ofrecemos asesoramiento a las empresas en materia de derecho digital.