Um guia pela legislação da UE sobre IA: marcos, história e objetivos futuros

Uma breve história da legislação sobre IA na UE
Os esforços legislativos da UE em matéria de IA tiveram início de forma mais intensa no final da década de 2010 e tinham como objetivo fomentar a inovação, ao mesmo tempo em que salvaguardavam os direitos e a segurança dos cidadãos. Os principais marcos incluem:

• Abril de 2018: A Comissão Europeia divulgou a Estratégia Europeia para a Inteligência Artificial, com foco em ampliar os investimentos públicos e privados em IA, preparar-se para as transformações socioeconômicas e garantir um marco ético e jurídico adequado.
• Dezembro de 2018: Aprovação do Plano Coordenado sobre Inteligência Artificial, que incentiva a colaboração entre os Estados-Membros para maximizar o impacto dos investimentos em IA, tanto no âmbito da UE quanto no âmbito nacional.
• Abril de 2019: O Grupo de Especialistas de Alto Nível sobre IA publicou as Diretrizes Éticas para uma IA Confiável, delineando princípios como transparência, prestação de contas e supervisão humana.
• Fevereiro de 2020: Divulgação do Livro Branco sobre Inteligência Artificial pela Comissão Europeia, propondo opções de políticas para possibilitar o desenvolvimento confiável e seguro da IA na Europa.
• Abril de 2021: Apresentação da proposta da Lei de Inteligência Artificial (Lei de IA), com o objetivo de estabelecer um marco jurídico para a IA que equilibre a inovação com a proteção dos direitos fundamentais.

Entendendo a Lei de Inteligência Artificial
A proposta de Lei de IA representa um marco legislativo que visa regulamentar as tecnologias de IA com base em seus riscos potenciais. Ela adota uma abordagem baseada no risco, classificando os sistemas de IA para garantir níveis adequados de regulamentação sem inibir a inovação.

No topo da hierarquia estão os sistemas de IA que representam um “risco inaceitável”. Esses sistemas são totalmente proibidos devido ao seu potencial de ameaçar a segurança, os meios de subsistência ou os direitos fundamentais. Isso inclui sistemas que manipulam o comportamento humano para contornar o livre arbítrio dos usuários ou que permitem a atribuição de pontuação social por parte dos governos.

Em seguida, vêm as aplicações de IA de “alto risco”, que estão sujeitas a obrigações rigorosas antes de poderem ser comercializadas. Esses sistemas são normalmente utilizados em setores críticos, como saúde, transporte e aplicação da lei. Essas normas incluem a realização de avaliações de risco, a garantia de conjuntos de dados de alta qualidade, a manutenção de registros de atividades e a previsão de supervisão humana.

Os sistemas de “risco limitado” são aqueles que estão sujeitos a obrigações específicas de transparência. Por exemplo, os chatbots devem informar aos usuários que estão interagindo com uma máquina, a fim de garantir o consentimento informado.

Por fim, é possível desenvolver e utilizar sistemas de IA de “risco mínimo”, que se enquadram na legislação vigente sem a necessidade de requisitos legais adicionais.

A Lei de IA em relação ao RGPD, à NIS2 e à DORA
A Lei de IA não existe isoladamente; ela complementa e se articula com outros marcos regulatórios importantes da UE, o que cria um ambiente coeso para a governança tecnológica.

O Regulamento Geral sobre a Proteção de Dados (RGPD), em vigor desde maio de 2018, é o alicerce da proteção de dados e da privacidade na UE. A Lei de IA se baseia nos princípios do RGPD ao abordar a qualidade e a governança dos dados em sistemas de IA. Ambos os regulamentos enfatizam a proteção de dados pessoais, a transparência e os direitos dos indivíduos. Por exemplo, os sistemas de IA devem garantir a minimização de dados e o tratamento lícito, em conformidade com os requisitos do RGPD.

A Diretiva sobre Segurança de Redes e Informações 2 (NIS2) tem como objetivo reforçar a segurança cibernética em toda a UE, abrangendo setores críticos e serviços essenciais. A Lei de IA se alinha à NIS2 ao garantir que os sistemas de IA, especialmente aqueles de alto risco, sejam seguros e resilientes contra ameaças cibernéticas. Essa sinergia é crucial, pois os sistemas de IA podem se tornar alvos ou ferramentas para ataques cibernéticos, comprometendo potencialmente a segurança e a privacidade.

A Lei de Resiliência Operacional Digital (DORA) tem como foco a capacidade do setor financeiro de resistir a interrupções relacionadas às TIC e se recuperar delas. A Lei de IA complementa a DORA, garantindo que os sistemas de IA utilizados no setor financeiro sejam confiáveis e seguros. Juntas, elas promovem a resiliência operacional, com ênfase na gestão de riscos, na notificação de incidentes e em uma supervisão robusta.

Ao alinhar a Lei de IA com o GDPR, a NIS2 e a DORA, a UE cria um ambiente regulatório unificado que aborda a proteção de dados, a segurança cibernética e a resiliência operacional, promovendo um ecossistema confiável para o desenvolvimento e a implantação da IA.

Objetivos da nova legislação sobre IA
A legislação da UE sobre IA visa alcançar vários objetivos-chave. Um dos principais objetivos é a proteção dos direitos fundamentais e da segurança, garantindo que os sistemas de IA sejam desenvolvidos e utilizados de forma a respeitar princípios como a não discriminação, a privacidade e a proteção de dados.

Promover uma IA confiável é outro objetivo central. Ao estabelecer regras e normas claras, a legislação busca aumentar a confiança do público nas tecnologias de IA, o que é fundamental para que elas sejam adotadas e aceitas. A UE também deseja fomentar a inovação por meio da criação de um mercado único para aplicações de IA legais, seguras e confiáveis. O objetivo é limitar a fragmentação do mercado e proporcionar segurança jurídica para empresas e inovadores.

É fundamental garantir a transparência e a prestação de contas. A legislação exige medidas de transparência, como a divulgação de quando os indivíduos estão interagindo com sistemas de IA, e a garantia de que os sistemas sejam auditáveis e prestem contas. Essa abertura tem como objetivo capacitar os usuários e manter a confiança do público nas tecnologias de IA.

Impacto nas empresas
Para as empresas que operam na UE ou que lidam com dados de cidadãos da UE, a Lei de IA apresenta tanto desafios quanto oportunidades. As empresas precisarão avaliar seus sistemas de IA para determinar sua categoria de risco e garantir que estejam em conformidade com as obrigações pertinentes. Isso pode envolver ajustes significativos em seus processos de desenvolvimento e implantação.

Os requisitos de conformidade podem implicar investimentos necessários em novos sistemas e processos, especialmente para aqueles que implementam sistemas de IA de alto risco. No entanto, regulamentações claras podem proporcionar um ambiente estável para a inovação, incentivando o investimento em tecnologias de IA que sejam conformes e confiáveis. Como a UE frequentemente estabelece precedentes em padrões regulatórios (como visto com o GDPR), as empresas se beneficiarão ao se alinharem às regulamentações da UE, podendo obter uma vantagem competitiva nos mercados globais.

Legislação semelhante fora da UE
O reconhecimento do profundo impacto da IA não se limita à Europa; em nível global, os países estão desenvolvendo seus próprios marcos normativos para regulamentar a IA, refletindo uma tendência mundial em direção a uma governança responsável da IA.

Nos Estados Unidos, foi adotada uma abordagem setorial, com diversas agências federais emitindo diretrizes específicas para suas áreas de atuação. A Lei de Responsabilidade Algorítmica (Algorithmic Accountability Act) foi proposta para exigir que as empresas avaliem os impactos dos sistemas de decisão automatizados e mitiguem quaisquer riscos. Embora ainda não tenha sido promulgada, essa legislação reflete uma crescente conscientização sobre a necessidade de supervisão da IA.

O Reino Unido, após o Brexit, está elaborando sua estratégia de IA com foco em uma regulamentação favorável à inovação. O Reino Unido planeja introduzir um marco regulatório que incentive a inovação e, ao mesmo tempo, aborde os riscos associados à IA. Essa abordagem busca equilibrar a posição do Reino Unido como líder no desenvolvimento da IA com a necessidade de salvaguardar os interesses públicos.

Na China, o governo implementou regulamentações sobre IA, com foco especial na segurança de dados e no uso ético da IA. A abordagem da China combina uma supervisão governamental rigorosa com um esforço agressivo para alcançar a liderança tecnológica em IA. As regulamentações enfatizam a necessidade de a IA estar alinhada com os valores sociais e os interesses de segurança nacional.

No Canadá, o governo propôs a Lei de Inteligência Artificial e Dados (AIDA), com o objetivo de regulamentar sistemas de IA de alto impacto e garantir que sejam desenvolvidos e implantados de forma responsável. A lei exigiria que as organizações adotassem medidas para mitigar riscos e estabelecessem mecanismos de supervisão.

Na Austrália, o governo divulgou o Marco Ético para a IA, que estabelece princípios voluntários para orientar empresas e órgãos governamentais na concepção, no desenvolvimento e na implementação da IA. Embora não seja juridicamente vinculativo, ele reflete o compromisso da Austrália em garantir que as tecnologias de IA sejam seguras, protegidas e confiáveis.

No Japão, o governo tem promovido os Princípios Sociais da IA Centrada no Ser Humano, com foco em princípios como direitos humanos, privacidade e promoção da inovação. A abordagem do Japão enfatiza a coexistência harmoniosa entre seres humanos e IA, com o objetivo de fomentar a confiança e a aceitação do público.

No Brasil, o governo está analisando o Marco Legal da Inteligência Artificial, que visa estabelecer princípios, direitos e deveres para o desenvolvimento e a aplicação da IA. O marco tem como foco promover a inovação, garantindo, ao mesmo tempo, o respeito aos padrões éticos e aos direitos fundamentais.

Na África do Sul, no contexto do crescente interesse do continente africano pela IA, o governo começou a explorar o potencial da IA e as medidas regulatórias necessárias. A Comissão Presidencial sobre a Quarta Revolução Industrial recomendou o desenvolvimento de um marco normativo e legislativo abrangente para a IA, com foco no crescimento inclusivo e em considerações éticas.

Essas iniciativas provêm de todos os continentes e destacam um movimento global no sentido de estabelecer estruturas regulatórias que equilibrem a inovação com considerações éticas e a gestão de riscos. A abordagem de cada país reflete seu contexto socioeconômico específico, suas tradições jurídicas e suas prioridades estratégicas, contribuindo para um panorama global diversificado da governança da IA.

Perspectivas futuras
A Lei da IA ainda está em discussão e sujeita a emendas. Ela deve ser aprovada tanto pelo Parlamento Europeu quanto pelo Conselho antes de se tornar lei. Uma vez adotada, um período de transição permitirá que as partes interessadas se adaptem às novas regulamentações. A integração com o GDPR, a NIS2 e a DORA ressalta a abordagem holística da UE em matéria de regulamentação, garantindo que os sistemas de IA não sejam apenas inovadores, mas também seguros, transparentes e respeitosos dos direitos individuais.

Pontos principais
 

• A UE está na vanguarda da criação de uma legislação abrangente sobre IA com a proposta de Lei da IA.
• A Lei de IA complementa outras regulamentações, como o GDPR, a NIS2 e a DORA, criando um quadro coeso para a proteção de dados, a segurança cibernética e a resiliência operacional.
• Uma abordagem baseada no risco classifica os sistemas de IA em risco inaceitável, alto, limitado e mínimo.
• A legislação visa proteger os direitos fundamentais, promover a confiança, estimular a inovação e garantir a transparência.
• As empresas devem se preparar para cumprir novas obrigações, o que pode afetar as estratégias de desenvolvimento e implantação.
• Iniciativas regulatórias semelhantes estão em andamento em todo o mundo, refletindo um reconhecimento global da necessidade de uma governança responsável da IA.
• Manter-se informado e envolvido com o processo legislativo é fundamental para as organizações afetadas por essas mudanças.
   

Ao compreender a história e os objetivos da legislação da UE sobre IA e sua relação com outros marcos regulatórios, as empresas podem lidar com o novo ambiente regulatório de maneira eficaz e contribuir para o desenvolvimento de tecnologias de IA que sejam inovadoras e, ao mesmo tempo, estejam alinhadas com os valores da sociedade.

Para saber mais sobre o que o quadro regulatório da UE para IA significará para você, entre em contato com um de nossos especialistas. Nós o ajudaremos a preparar sua empresa para as mudanças descritas acima e a utilizar a IA de maneira legal e eticamente responsável.