Em documento enviado no dia 30.jun.2022 à Comissão de Juristas (CJSUBIA) que elabora o Marco Legal de Inteligência Artificial no Brasil, organizações de direitos digitais recomendam revisão urgente da proposta. A Coalizão Direitos na Rede (CDR), da qual a Transparência Brasil participa, indicou que a regulação da tecnologia precisa garantir transparência e proteção aos direitos fundamentais dos cidadãos.
Na análise das entidades, é necessário equilibrar interesse econômico e regras de restrição e fiscalização do uso de IA. Para isso, as recomendações da CDR incluem uma definição precisa do que é inteligência artificial e mineração de dados, de forma a fornecer informações claras a todos os brasileiros.
Juliana Sakai, diretora de operações da TB, concorda em alinhar o desenvolvimento da IA à proteção de direitos humanos, acesso à informação, e monitoramento da sociedade civil. “É urgente que a transparência algorítmica para governança de IA seja implementada diante dos crescentes casos de uso de tecnologias de reconhecimento facial, que apresentam vieses reconhecidamente racistas e têm sido aplicadas sem qualquer transparência”, argumenta.
Além de banir atividades de “riscos inaceitáveis”, como a discriminação racial em reconhecimento biométrico e facial, a regulação deve fazer mais, de acordo com a coalizão: ser antirracista. O desenvolvimento de armas autônomas, reconhecimento de emoções, crédito social (beneficiar ou restringir um indivíduo por meio de sistema de pontos baseado em sua conduta social ou personalidade), e o policiamento preditivo (análise de dados para monitoramento de situações suspeitas), são outros usos apontados no documento que devem ser banidos.
A pedido da CJSUBIA, as entidades enviaram suas contribuições para substituir os Projetos de Lei 5.051/2019, 21/2020, e 872/2021. O texto para o Marco Legal já aprovado na Câmara dos Deputados baseia-se nesses PLs, e é insuficiente, segundo a CDR, por tratar-se de um conjunto de diretrizes gerais sem meios eficazes de implementação.
Leia as contribuições da Coalizão Direitos na Rede na íntegra.