A decisão de retirar a classificação de risco do Marco Legal da Inteligência Artificial (IA) no Brasil foi considerada um retrocesso significativo, um erro grave e uma ameaça ao uso responsável da tecnologia no país. Essa posição é defendida pela Coalizão Direitos na Rede, que divulgou um manifesto expressando sua profunda preocupação com as declarações do Deputado Federal Aguinaldo Ribeiro (PP-PB), relator do Projeto de Lei nº 2338/2023. Ribeiro indicou que pretende remover do texto final a classificação dos sistemas de IA conforme o nível de risco associado às suas aplicações.
De acordo com a Coalizão, a inclusão de um rol de riscos a direitos é essencial para que o atual texto do Projeto de Lei se torne um marco regulatório focado na experiência humana e em uma abordagem responsável da IA, com o potencial de proteger efetivamente os direitos no ambiente digital. O documento destaca que “sem a identificação clara de quais tecnologias e usos devem ser categorizados como alto risco ou risco excessivo, a legislação perderá sua eficácia normativa. Isso abrirá espaço para interpretações divergentes e deixará a definição do que deve ser regulado para futuras disputas, o que deveria ser estabelecido desde o início no marco legal”.
A proposta de alteração, feita de forma unilateral e sem diálogo, representa um retrocesso no texto legislativo e ignora o trabalho árduo realizado pela Comissão Temporária Interna do Senado Federal sobre Inteligência Artificial no Brasil (CTIA) e pela sociedade civil no debate sobre a criação de mecanismos de controle democrático para o uso dessas tecnologias no país. A Coalizão alerta que “é fundamental reconhecer que algumas tecnologias apresentam riscos maiores do que outras e, por isso, é necessário listá-las. O que o relator sugere agora, após quase três anos de discussão sobre este projeto de lei, resultará em uma legislação formal, mas que carecerá de aplicabilidade prática, favorecendo a inovação tecnológica sem considerar a defesa dos direitos fundamentais”.
O tema é particularmente sensível quando se trata do uso de reconhecimento facial, uma tecnologia que impacta diretamente princípios da administração pública, como legalidade, publicidade e eficiência, além da proteção de dados pessoais, conforme a Lei Geral de Proteção de Dados (LGPD), e direitos fundamentais, incluindo privacidade, igualdade e liberdade de reunião. A falta de governança apropriada, salvaguardas rigorosas, avaliações independentes e controle social abrangente pode resultar em discriminação, vigilância excessiva e uso ineficiente dos recursos públicos. “A coleta massiva de dados biométricos da população em tempo real necessária para a aplicação dessa tecnologia também expõe os cidadãos brasileiros a riscos de ingerências privadas e estrangeiras sobre seus dados pessoais e infraestruturas críticas, comprometendo nossa soberania e fragilizando nossa democracia”, alerta o documento.
Diante da resistência das autoridades públicas e legisladores brasileiros em considerar a proibição explícita de tecnologias de alto risco, o mínimo que se pode exigir para garantir os direitos da população é garantir que essas tecnologias estejam sujeitas a critérios rigorosos de governança. A definição de um rol de riscos na legislação é fundamental para estabelecer um modelo de governança e obrigações específicas durante o processo de desenvolvimento e implementação de sistemas de IA que possam impactar negativamente os direitos fundamentais da população brasileira.
O AI Act, que regula os sistemas de IA na União Europeia, classifica determinadas tecnologias como pertencentes ao rol de sistemas de alto risco. Entre elas estão a coleta biométrica em larga escala, tanto para identificação quanto para a classificação de pessoas; o controle e gerenciamento de infraestrutura crítica; o acesso à educação e treinamentos; o recrutamento e seleção de candidatos para vagas de trabalho; o monitoramento e decisões automatizadas em relação a relações de trabalho; a classificação de indivíduos por meio de scores de crédito, além de informações pessoais de saúde; alocação de benefícios em programas sociais, além de questões relacionadas ao controle de fronteiras, migração e asilo, e aplicações voltadas à segurança pública, atividades judiciárias e ao processo eleitoral, entre outras.
A nota oficial da Coalizão Direitos na Rede conclui ressaltando que “remover o rol de riscos da Regulação de IA indica a falta de uma visão clara para que as instâncias governamentais atuem em relação a esses sistemas, resultando em menor segurança jurídica e potenciais prejuízos nas relações internacionais do Brasil com outros mercados devido à ausência de padrões bem definidos. O argumento de que a existência do rol estagna o processo de inovação é enganoso, uma vez que essa lista é exemplificativa, e novos sistemas podem ser classificados através do trabalho do sistema de governança”.
Fonte: convergenciadigital.com.br
