Com o objetivo de transformar a Europa no centro global […]
Com o objetivo de transformar a Europa no centro global de Inteligência Artificial (IA) confiável, a Comissão Europeia propôs, no final de abril, novas regras e ações para garantir a segurança e os direitos fundamentais das pessoas e das empresas e, ao mesmo tempo, reforçar a aceitação, o investimento e a inovação da IA em toda a UE. Regras específicas para máquinas e equipamentos também foram propostas, a fim de aumentar a confiança dos usuários na nova geração de produtos.
“Com essas regras históricas, a União Europeia está liderando o desenvolvimento de novas normas globais para garantir que a IA seja confiável. Ao definir os padrões, podemos preparar o caminho para a tecnologia ética em todo o mundo e garantir que a UE permaneça competitiva ao longo do caminho. Preparadas para o futuro e propícias à inovação, as nossas regras intervêm onde for estritamente necessário: quando a segurança e os direitos fundamentais dos cidadãos da UE estão em jogo”, afirmou Margrethe Vestager, vice-presidente executiva da Comissão Europeia.
A justificativa considera que, embora a maioria dos sistemas de IA apresentem risco baixo ou nenhum, certos sistemas criam riscos que precisam ser tratados para evitar resultados indesejáveis. Por exemplo, a opacidade de muitos algoritmos pode criar incerteza e dificultar a aplicação efetiva da legislação existente sobre segurança e direitos fundamentais, argumenta a Comissão Europeia.
As novas regras seguem uma abordagem baseada nos níveis de riscos:
Um Comitê Europeu de Inteligência Artificial deverá ser criado para facilitar a implementação das regras, bem como impulsionar o desenvolvimento de normas para IA. Além disso, códigos de conduta voluntários são propostos para IA de alto risco, assim como áreas restritas regulatórias para facilitar a inovação responsável. As autoridades nacionais competentes de fiscalização do mercado deverão supervisionar o cumprimento das novas regras. E são previstas sanções, incluindo multas que podem chegar a 30 milhões de euros ou 6% do total do volume de negócios anual mundial do ano financeiro anterior (o que for mais alto) para infrações a práticas proibidas ou não conformidade relacionada a requisitos de dados. Considerando que as instituições, agências ou organismos da UE devem dar o exemplo, elas também estarão sujeitas às regras e a possíveis sanções. A Autoridade Europeia para a Proteção de Dados terá o poder de impor multas a eles.
Identificação biométrica e reconhecimento facial
Todos os sistemas remotos de identificação biométrica são considerados de alto risco e sujeitos a requisitos rígidos na proposta da Comissão Europeia. O uso ao vivo em espaços acessíveis ao público para fins de aplicação da lei é proibido, em princípio. Exceções restritas são consideradas como quando estritamente necessário para procurar uma criança desaparecida, para prevenir uma ameaça terrorista específica e iminente ou para detectar, localizar, identificar ou processar um perpetrador ou suspeito de um crime grave. Ainda assim, tal uso estará sujeito à autorização de um órgão judicial ou outro órgão independente e aos limites adequados de tempo, alcance geográfico e bases de dados pesquisadas.
A Comissão Europeia ressalta que a identificação biométrica pode ser utilizada para autenticação do usuário, ou seja, para desbloquear um smartphone ou para verificação da identidade de uma pessoa em relação aos seus documentos de viagem (correspondência um-para-um), por exemplo. E, também, pode ser usada remotamente, para identificar pessoas em uma multidão, onde, por exemplo, a imagem de uma pessoa é verificada em um banco de dados (correspondência um-para-muitos).
“A precisão dos sistemas de reconhecimento facial pode variar significativamente com base em uma ampla gama de fatores, como qualidade da câmera, luz, distância, banco de dados, algoritmo e etnia, idade ou sexo do sujeito”, destaca o documento. Mesmo reconhecendo que os sistemas estão cada vez mais avançados e com baixas taxas de erro, a Comissão Europeia alerta que: “embora uma taxa de precisão de 99% possa parecer boa em geral, é consideravelmente arriscado quando o resultado leva à suspeita de uma pessoa inocente. Mesmo uma taxa de erro de 0,1% é muito se diz respeito a dezenas de milhares de pessoas”.
O Parlamento Europeu e os Estados-Membros terão de aprovar as propostas da Comissão que, se aprovadas, serão aplicáveis em toda a União Europeia. Paralelamente, a Comissão continuará a colaborar com os Estados-Membros para implementar as ações anunciadas no Plano Coordenado, o qual descreve as mudanças políticas e investimentos necessários para fortalecer a posição de liderança da Europa no desenvolvimento de IA centrada no ser humano, sustentável, segura, inclusiva e confiável.
Fonte: Comissão Europeia