Una guía por la legislación de la UE sobre la inteligencia artificial: hitos, historia y objetivos futuros

Breve historia de la legislación sobre IA en la UE
Los esfuerzos legislativos de la UE en materia de IA comenzaron en serio a finales de la década de 2010, con el objetivo de fomentar la innovación y, al mismo tiempo, salvaguardar los derechos y la seguridad de los ciudadanos. Entre los hitos más importantes se incluyen:

• Abril de 2018: La Comisión Europea presentó la Estrategia Europea sobre Inteligencia Artificial, centrada en potenciar las inversiones públicas y privadas en IA, prepararse para las transformaciones socioeconómicas y garantizar un marco ético y jurídico adecuado.
• Diciembre de 2018: Aprobación del Plan Coordinado sobre Inteligencia Artificial, que fomenta la colaboración entre los Estados miembros para maximizar el impacto de las inversiones en IA tanto a nivel de la UE como a nivel nacional.
• Abril de 2019: El Grupo de Expertos de Alto Nivel sobre IA publicó las Directrices éticas para una IA fiable, en las que se recogen principios como la transparencia, la rendición de cuentas y la supervisión humana.
• Febrero de 2020: Publicación del Libro Blanco sobre la Inteligencia Artificial por parte de la Comisión Europea, en el que se proponen opciones políticas para facilitar un desarrollo fiable y seguro de la IA en Europa.
• Abril de 2021: Presentación de la propuesta de Ley de Inteligencia Artificial (Ley de IA), cuyo objetivo es establecer un marco jurídico para la IA que concilie la innovación con la protección de los derechos fundamentales.

Entender la Ley de Inteligencia Artificial
La propuesta de Ley de IA constituye una norma legislativa histórica destinada a regular las tecnologías de IA en función de sus riesgos potenciales. Adopta un enfoque basado en el riesgo, clasificando los sistemas de IA para garantizar unos niveles adecuados de regulación sin frenar la innovación.

En lo más alto de la jerarquía se encuentran los sistemas de IA que suponen un «riesgo inaceptable». Estos están totalmente prohibidos debido a su potencial para amenazar la seguridad, los medios de vida o los derechos fundamentales. Entre ellos se incluyen los sistemas que manipulan el comportamiento humano para eludir el libre albedrío de los usuarios o que permiten a los gobiernos establecer un sistema de puntuación social.

A continuación se encuentran las aplicaciones de IA de «alto riesgo», que están sujetas a obligaciones estrictas antes de poder comercializarse. Estos sistemas se utilizan habitualmente en sectores críticos como la sanidad, el transporte y las fuerzas del orden. Estas normas incluyen la realización de evaluaciones de riesgos, la garantía de conjuntos de datos de alta calidad, el mantenimiento de registros de actividades y la posibilidad de supervisión humana.

Los sistemas de «riesgo limitado» son aquellos que están sujetos a obligaciones específicas en materia de transparencia. Por ejemplo, los chatbots deben informar a los usuarios de que están interactuando con una máquina, con el fin de garantizar el consentimiento informado.

Por último, es posible desarrollar y utilizar sistemas de IA de «riesgo mínimo», que se ajustan a la legislación vigente sin necesidad de requisitos legales adicionales.

La Ley de IA en relación con el RGPD, la NIS2 y la DORA
La Ley de IA no existe de forma aislada, sino que complementa y se entrelaza con otros marcos normativos importantes de la UE, lo que crea un entorno coherente para la gobernanza tecnológica.

El Reglamento General de Protección de Datos (RGPD), en vigor desde mayo de 2018, constituye la base de la protección de datos y la privacidad en la UE. La Ley de IA se basa en los principios del RGPD al abordar la calidad de los datos y la gobernanza en los sistemas de IA. Ambas normativas hacen hincapié en la protección de los datos personales, la transparencia y los derechos de las personas. Por ejemplo, los sistemas de IA deben garantizar la minimización de datos y el tratamiento lícito, de conformidad con los requisitos del RGPD.

La Directiva sobre seguridad de las redes y la información 2 (NIS2) tiene por objeto reforzar la ciberseguridad en toda la UE, abarcando sectores críticos y servicios esenciales. La Ley de IA se alinea con la NIS2 al garantizar que los sistemas de IA, en particular los de alto riesgo, sean seguros y resistentes frente a las ciberamenazas. Esta coherencia es fundamental, ya que los sistemas de IA podrían convertirse en objetivos o herramientas para ciberataques, lo que podría poner en peligro la seguridad y la privacidad.

La Ley de Resiliencia Operativa Digital (DORA) se centra en la capacidad del sector financiero para resistir y recuperarse de las interrupciones relacionadas con las tecnologías de la información y la comunicación (TIC). La Ley de Inteligencia Artificial complementa a la DORA al garantizar que los sistemas de inteligencia artificial utilizados en el sector financiero sean fiables y seguros. Juntas, promueven la resiliencia operativa, haciendo hincapié en la gestión de riesgos, la notificación de incidentes y una supervisión rigurosa.

Al armonizar la Ley de IA con el RGPD, la NIS2 y la DORA, la UE crea un marco normativo unificado que aborda la protección de datos, la ciberseguridad y la resiliencia operativa, fomentando así un ecosistema fiable para el desarrollo y la implantación de la IA.

Objetivos de la nueva legislación sobre IA
La legislación de la UE sobre IA aspira a alcanzar varios objetivos clave. Uno de los principales es la protección de los derechos fundamentales y la seguridad, garantizando que los sistemas de IA se desarrollen y utilicen de forma que se respeten principios como la no discriminación, la privacidad y la protección de datos.

Otro de los objetivos fundamentales es promover una IA fiable. Mediante el establecimiento de normas y estándares claros, la legislación pretende reforzar la confianza de los ciudadanos en las tecnologías de IA, lo cual es fundamental para su adopción y aceptación. La UE también quiere fomentar la innovación mediante la creación de un mercado único para aplicaciones de IA legales, seguras y fiables. El objetivo es limitar la fragmentación del mercado y proporcionar seguridad jurídica a las empresas y a los innovadores.

Es fundamental garantizar la transparencia y la rendición de cuentas. La legislación establece medidas de transparencia, como informar de cuándo las personas interactúan con sistemas de IA, y garantizar que dichos sistemas sean auditables y rindan cuentas. Esta transparencia tiene por objeto empoderar a los usuarios y mantener la confianza del público en las tecnologías de IA.

Repercusiones para las empresas
Para las empresas que operan en la UE o que tratan datos de ciudadanos de la UE, la Ley de IA plantea tanto retos como oportunidades. Las empresas deberán evaluar sus sistemas de IA para determinar su categoría de riesgo y garantizar que cumplen con las obligaciones pertinentes. Esto puede implicar ajustes significativos en sus procesos de desarrollo e implementación.

Los requisitos de cumplimiento podrían implicar inversiones necesarias en nuevos sistemas y procesos, especialmente para aquellas empresas que implementen sistemas de IA de alto riesgo. Sin embargo, una normativa clara puede proporcionar un entorno estable para la innovación, fomentando la inversión en tecnologías de IA que sean conformes a la normativa y fiables. Dado que la UE suele sentar precedentes en materia de normas reguladoras (como se ha visto con el RGPD), las empresas se beneficiarán de ajustarse a la normativa de la UE, lo que podría suponer una ventaja competitiva en los mercados mundiales.

Legislación similar fuera de la UE
El reconocimiento del profundo impacto de la IA no se limita a Europa; a nivel mundial, los países están desarrollando sus propios marcos normativos para regular la IA, lo que refleja una tendencia mundial hacia una gobernanza responsable de la IA.

En Estados Unidos se ha adoptado un enfoque sectorial, en el que diversos organismos federales han publicado directrices específicas para sus respectivos ámbitos. Se ha propuesto la Ley de Responsabilidad Algorítmica (Algorithmic Accountability Act) para exigir a las empresas que evalúen los impactos de los sistemas de decisión automatizados y mitiguen cualquier riesgo. Aunque aún no se ha promulgado, esta legislación pone de manifiesto una creciente concienciación sobre la necesidad de supervisar la inteligencia artificial.

Tras el Brexit, el Reino Unido está elaborando su estrategia en materia de inteligencia artificial, centrándose en una normativa que favorezca la innovación. El Reino Unido tiene previsto introducir un marco normativo que fomente la innovación y, al mismo tiempo, aborde los riesgos asociados a la inteligencia artificial. Este enfoque pretende equilibrar la posición del Reino Unido como líder en el desarrollo de la inteligencia artificial con la necesidad de salvaguardar los intereses públicos.

En China, el Gobierno ha puesto en marcha una normativa sobre la inteligencia artificial, centrada especialmente en la seguridad de los datos y el uso ético de esta tecnología. El enfoque de China combina una estricta supervisión gubernamental con un impulso enérgico hacia el liderazgo tecnológico en materia de inteligencia artificial. La normativa hace hincapié en la necesidad de que la inteligencia artificial se ajuste a los valores sociales y a los intereses de seguridad nacional.

En Canadá, el Gobierno ha presentado el proyecto de Ley de Inteligencia Artificial y Datos (AIDA), cuyo objetivo es regular los sistemas de IA de gran impacto y garantizar que se desarrollen y se implementen de forma responsable. La ley obligaría a las organizaciones a adoptar medidas para mitigar los riesgos y establecer mecanismos de supervisión.

En Australia, el Gobierno ha publicado el Marco Ético de la IA, que establece una serie de principios voluntarios destinados a orientar a las empresas y a las administraciones públicas en el diseño, el desarrollo y la implantación de la IA. Aunque no es jurídicamente vinculante, refleja el compromiso de Australia de garantizar que las tecnologías de IA sean seguras y fiables.

En Japón, el Gobierno ha promovido los Principios Sociales de la IA Centrada en el Ser Humano, centrándose en aspectos como los derechos humanos, la privacidad y el fomento de la innovación. El enfoque de Japón hace hincapié en la coexistencia armoniosa entre los seres humanos y la IA, con el objetivo de fomentar la confianza y la aceptación por parte de la ciudadanía.

En Brasil, el Gobierno está estudiando el Marco Jurídico para la Inteligencia Artificial, cuyo objetivo es establecer principios, derechos y obligaciones para el desarrollo y la aplicación de la IA. Dicho marco se centra en promover la innovación, garantizando al mismo tiempo el respeto de las normas éticas y los derechos fundamentales.

En Sudáfrica, en el marco del creciente interés del continente africano por la inteligencia artificial, el Gobierno ha comenzado a estudiar el potencial de esta tecnología y las medidas normativas necesarias. La Comisión Presidencial sobre la Cuarta Revolución Industrial ha recomendado elaborar un marco normativo y legislativo integral para la inteligencia artificial, centrado en el crecimiento inclusivo y las consideraciones éticas.

Estas iniciativas proceden de todos los continentes y ponen de relieve un movimiento global encaminado a establecer marcos normativos que concilien la innovación con las consideraciones éticas y la gestión de riesgos. El enfoque de cada país refleja su contexto socioeconómico, sus tradiciones jurídicas y sus prioridades estratégicas específicas, lo que contribuye a crear un panorama global diverso en materia de gobernanza de la IA.

Perspectivas de futuro
La Ley de IA sigue en fase de debate y está sujeta a modificaciones. Debe ser aprobada tanto por el Parlamento Europeo como por el Consejo antes de entrar en vigor. Una vez adoptada, un período de transición permitirá a las partes interesadas adaptarse a la nueva normativa. La integración con el RGPD, la NIS2 y la DORA pone de relieve el enfoque holístico de la UE en materia de regulación, garantizando que los sistemas de IA no solo sean innovadores, sino también seguros, transparentes y respetuosos con los derechos individuales.

Puntos clave
 

• La UE está a la vanguardia en la elaboración de una legislación integral sobre la inteligencia artificial con la propuesta de Ley de Inteligencia Artificial.
• La Ley de IA complementa otras normativas como el RGPD, la NIS2 y la DORA, creando un marco coherente para la protección de datos, la ciberseguridad y la resiliencia operativa.
• Un enfoque basado en el riesgo clasifica los sistemas de IA en cuatro categorías: riesgo inaceptable, alto, limitado y mínimo.
• La legislación tiene por objeto proteger los derechos fundamentales, fomentar la confianza, impulsar la innovación y garantizar la transparencia.
• Las empresas deben prepararse para cumplir con las nuevas obligaciones, que pueden afectar a sus estrategias de desarrollo y despliegue.
• A nivel mundial se están llevando a cabo iniciativas normativas similares, lo que refleja un reconocimiento universal de la necesidad de una gobernanza responsable de la IA.
• Mantenerse informado y participar en el proceso legislativo es fundamental para las organizaciones afectadas por estos cambios.
   

Al comprender la historia y los objetivos de la legislación de la UE en materia de IA, así como su relación con otros marcos normativos, las empresas pueden desenvolverse con eficacia en el nuevo entorno normativo y contribuir al desarrollo de tecnologías de IA que sean innovadoras y, al mismo tiempo, estén en consonancia con los valores de la sociedad.

Para obtener más información sobre lo que supondrá para usted el marco normativo de la UE en materia de IA, póngase en contacto con uno de nuestros expertos especializados. Le ayudaremos a preparar su empresa para los cambios descritos anteriormente y a utilizar la IA de forma legal y éticamente responsable.