A Transparência Brasil defendeu a inclusão de dispositivos claros de transparência sobre o uso de inteligência artificial no PL 2.338/2023, para regulamentação da IA no país, em audiência da Comissão Temporária sobre Inteligência Artificial (CTIA) do Senado na última terça-feira (02.jul.2024). Para a organização, a regulação deve garantir a divulgação de informações e a proteção dos direitos das pessoas afetadas por decisões embasadas em sistemas de IA.
As sugestões da TB para aprimorar o projeto de lei foram também apresentadas por escrito ontem (03.jul.2024) ao relator do PL, o senador Eduardo Gomes (PL-TO), e ao senador Alessandro Vieira (MDB-SE), que convidou a organização para a audiência no Senado. O parecer do relator deve ser entregue ainda hoje (04.jul.2024), seguido da votação do projeto pela CTIA.
A analista sênior de transparência Bianca Berti representou a organização na audiência e pontuou que, atualmente, o poder público não se responsabiliza em organizar e disponibilizar informações relativas ao uso que faz de ferramentas de IA. Em levantamento de 2020 do projeto Transparência Algorítmica, a TB identificou que 47% dos sistemas de IA em uso pelo poder público não possuíam indicadores de eficácia da ferramenta.
De acordo com a TB, o PL de IA deve conter um rol de informações mínimas sobre os sistemas a serem divulgadas, abarcando do tipo de ferramenta às métricas de avaliação de desempenho da tecnologia. Berti ressaltou na audiência que devem ser publicizados os dados de todos os sistemas em uso pelo poder público, sem exceção, e de ferramentas de alto risco da iniciativa privada.
“Estamos muito acostumados a ouvir reclamações conectando a exigência de prestação de contas e transparência ao aumento desnecessário da burocracia, mas no fundo isso é uma desculpa de quem não quer prestar contas à sociedade de forma geral”, afirmou a analista.
A TB ressaltou que é imprescindível a inclusão da sociedade civil na composição do SIA, o Sistema Nacional de Regulação e Governança de Inteligência Artificial, proposto no PL como instância para supervisionar e orientar o uso das tecnologias. Ao relator do texto, a organização defendeu a incorporação de emenda proposta pelo senador Alessandro Vieira para incluir a sociedade civil no SIA.
Assista a íntegra da participação da TB na audiência aqui.
IA na segurança pública
Na audiência da CTIA, Berti afirmou que tecnologias de reconhecimento facial para fins de segurança pública deveriam ser vedadas no país, devido aos impactos negativos sobre direitos fundamentais dos cidadãos, e de discriminação racial e de gênero.
“Não queremos importar tecnologias desenvolvidas em contextos de violação de direitos. Da mesma forma, não podemos aceitar e incorporar a violação a direitos como única forma de desenvolver tecnologias competitivas”, declarou a analista da TB.
Em projeto sobre a contratação de ferramentas de vigilância pelas secretarias de Segurança Pública de quatro estados brasileiros, a TB analisa os procedimentos do poder público para proteger os titulares de dados pessoais coletados com a finalidade de investigação e repressão de crimes.