O Parlamento Europeu acaba de aprovar (13/03) sua regulamentação da Inteligência Artificial (IA), o Artificial Intelligence Act (AI Act), um marco histórico no tema. A regulamentação estabelece um framework de grande relevância em termos de governança dessa tecnologia tão inovadora, buscando garantir um equilíbrio entre a salvaguarda dos direitos fundamentais e o fomento da inovação, e foi aprovada após intensas negociações e amplamente endossada com 523 votos a favor.
Como já antecipado, o texto traz uma abordagem baseada no risco do uso de sistemas de IA (diferentemente da proposta anterior baseada no risco dos sistemas em si). Há limites expressos e salvaguardas adicionais que devem ser adotadas quando do uso de sistemas de IA.
Alinhado aos Princípios sobre IA da OCDE, o AI Act define IA como “um sistema baseado em máquina projetado para operar com diferentes níveis de autonomia, que pode exibir adaptabilidade após a implantação e que, para objetivos explícitos ou implícitos, infere, a partir da entrada que recebe, como gerar saídas, tais como previsões, conteúdo, recomendações ou decisões que podem influenciar ambientes físicos ou virtuais”, .
Além disso, o AI Act expressamente bane alguns usos de sistemas de IA, como para raspagem indiscriminada de imagens faciais da internet ou de filmagens de CCTV para criar bancos de dados de reconhecimento facial, assim como o reconhecimento de emoções no local de trabalho e nas escolas, pontuação social, policiamento preditivo baseado exclusivamente em perfis pessoais, pontuação social e o uso de IA que manipule comportamentos humanos ou explore vulnerabilidades dos usuários.
No entanto, o texto faz algumas exceções específicas, permitindo o uso de sistemas de identificação biométrica em situações claramente definidas e com salvaguardas rigorosas, tais como a busca por pessoas desaparecidas ou a prevenção de ataques terroristas, sempre sob autorização judicial ou administrativa prévia.
Para sistemas de IA considerados de alto risco, o AI Act estabelece obrigações claras, exigindo a avaliação e mitigação de riscos, manutenção de registros de uso, transparência, precisão e supervisão humana. Estes sistemas, que incluem infraestrutura crítica, educação, emprego, serviços essenciais privados e públicos, entre outros, devem garantir que os direitos dos cidadãos sejam respeitados, inclusive oferecendo a possibilidade de reclamações e explicações significativas sobre as decisões tomadas com base em IA.
A maior inovação do texto final AI Act está no endereçamento de sistemas de IA propósito geral (lembrando que a versão anterior do projeto de regulamentação era voltada a sistemas de IA específicas), impondo requisitos de transparência, incluindo a conformidade com as leis de direitos autorais da UE e a publicação de resumos detalhados do conteúdo usado para treinamento.
Para fomentar a inovação e apoiar as pequenas e médias empresas (PMEs), serão estabelecidos “sandbox” regulatórios e testes em condições reais a nível nacional, acessíveis a PMEs e startups, para desenvolver e treinar IA inovadora antes de sua colocação no mercado.
Com a adoção do AI Act, a União Europeia mais uma veza dá um passo na vanguarda da regulação da tecnologia centrada no ser humano e nos riscos do uso de sistemas de IA, reforçando o respeito a valores e direitos fundamentais que formam a base de suas sociedades.
Para ler mais, o CMS preparou um excelente material contextualizando essa importante regulação - disponível em inglês aqui.
A íntegra do texto do AI Act também pode ser acessado no site do Parlamento Europeu aqui.
