Publicado originalmente em inglês no site da Global Partners Digital (GPD) em 19.out.2023
Por GPD, Fundación Karisma, Institute for Development of Freedom of Information (IDFI), Transparencia Brasil e Nigeria Network of NGOs (NNNGO)
O Comitê para Inteligência Artificial do Conselho da Europa (CAI, na sigla em inglês) está desenvolvendo o primeiro tratado do mundo sobre IA – um esforço ambicioso que, ao estabelecer normas sobre governança de IA globalmente, pode ter impactos amplos sobre vários direitos humanos.
A lista de participantes nas plenárias do CAI reflete um esforço multiatores para desenvolver um instrumento legal sobre IA que seja vinculante, ou seja, cuja adoção seja obrigatória para todos que aderirem a ele. Uma análise mais próxima, entretanto, revela que a composição do colegiado é quase inteiramente europeia e norte-americana. Os únicos outros países ativamente envolvidos são Israel e Japão. Embora haja a expectativa de que alguns países da Maioria Global possam se integrar ao grupo em breve, até o momento não há países observadores da América do Sul, África ou Sudeste Asiático. Organizações observadoras, compostas de atores da sociedade civil e do setor privado, são quase todas sediadas na Europa e na América do Norte.
Essa disparidade na representação talvez não surpreenda, já que o Conselho da Europa é uma organização regional. Mas é preocupante, especialmente considerando que o próprio CAI deixou claro que esse instrumento legal se pretende global, atrativo para tantos países quanto possível de todas as regiões do mundo.
Não é a primeira vez que o Conselho da Europa busca abordar formas emergentes de tecnologias por meio de acordos legais vinculantes. No início dos anos 2000, criou a Convenção de Budapeste, o primeiro tratado internacional sobre cibercrime e que agora tem 68 estados-parte – incluindo países de todos os continentes, à exceção da Antártica. O tratado sobre IA do Conselho da Europa pode ter uma trajetória similar, ou mesmo ter uma adoção mais ampla, e por isso deve ser verdadeiramente inclusivo e diverso desde a concepção. É por essa razão que organizações não-observadoras de fora do Norte Global estão cada vez mais acompanhando o processo informalmente, particularmente a Fundación Karisma, o Institute for Development of Freedom of Information (IDFI), a Transparência Brasil e a Nigeria Network of NGOs (NNNGO). As quatro organizações contribuíram com este texto e estão alertas para as consequências do tratado.
Um modelo para todos produzido pelo Norte?
A mais recente versão da convenção, a “Proposta Consolidada para a Convenção sobre Inteligência Artificial, Direitos Humanos, Democracia e o Estado de Direito” representa um avanço positivo em relação a propostas anteriores, e atende a algumas das preocupações externadas por organizações observadores no CAI. Acerta em vários pontos ao assegurar que se fundamenta em bases já estabelecidas para direitos humanos e em normas emergentes para a governança de IA. Estados que adotem a convenção terão de traduzir e implementar suas determinações e requisitos sobre avaliações de impacto, transparência, prestação de contas, assim como medidas que assegurem a possibilidade de reparação, entre outros.
A questão é que regiões e países deixados de fora do processo podem acabar sujeitas ao tratado – seja de forma vinculante como estados-parte ou mais informalmente, já que esse instrumento provavelmente influenciará outros esforços locais ou regionais para governança de IA – apesar de não terem voz sobre o resultado. Isso pode levar a um modelo que não atende adequadamente a realidades locais, e só serve às necessidades do Norte Global.
É fundamental que qualquer instrumento global sobre IA seja aplicável a todas as regiões, particularmente conforme os desafios que emergem do desenho, desenvolvimento e aplicação de tecnologias de IA são sentidos ao redor do mundo, e tecnologias desenhadas e controladas por empresas sediadas no Norte Global são oferecidas para e rapidamente adotadas por países da Maioria Global. Os riscos que alguns sistemas de IA em particular podem representar para direitos humanos só vão se agravar ainda mais na ausência de estruturas adequadas e melhores práticas internacionais que guiem uma relação justa e transparente com desenho, desenvolvimento e aplicação de IA e sua supervisão mundo afora.
A necessidade de um fundamento claro na legislação internacional
Não são preocupações meramente abstratas. A proposta atual de Convenção não a fundamenta adequadamente na legislação internacional e, em alguns aspectos, é demasiadamente concessiva a arcabouços legais e interpretações locais. Essa tem sido uma preocupação central de observadores no CAI, que já apontaram que a convenção não deveria se limitar a estabelecer requisitos para serem implementados pelos estados-parte de acordo com sua legislação nacional, pois isso prejudica o propósito central do tratado, de estabelecer um arcabouço comum.
Esse ponto fica evidente ao longo da proposta, como no Artigo 5, segundo o qual “Cada Parte deve tomar as medidas necessárias para assegurar que todas as atividades (…) são compatíveis com direitos humanos e obrigações de não-discriminação relevantes adotados [pela Parte] por meio de leis internacionais, ou determinadas por lei local.” Embora haja um benefício em assegurar flexibilidade na convenção, a abordagem “uma coisa ou outra” entre as legislações internacionais e locais precisa ser resoluta, e deveria firmar inequivocamente a primazia da legislação internacional de direitos humanos sobre a legislação nacional. Isso é imperativo para assegurar que interpretações locais não sejam usadas para burlar obrigações e salvaguardas, particularmente em estados menos comprometidos com a proteção dos direitos humanos e do estado de direito.
A questão é especialmente relevante em áreas nas quais falta especificidade ao texto. O Artigo 2 sobre a abordagem baseada em riscos, por exemplo, dispõe que “Para que os princípios e obrigações definidas nesta Convenção sejam totalmente implementadas, cada Parte deve manter e tomar medidas graduais e diferenciadas em seu sistema legal”. Esta determinação não define claramente qual deve ser a abordagem específica e é totalmente dependente das leis de cada estado-parte. Similarmente, o Artigo 7 sobre transparência e fiscalização requer que os estados-parte “tomem medidas apropriadas”, mas falha em dar referências adicionais sobre o que isso significa ou deveria ser na prática. Se é para a Convenção ser aplicada globalmente, é importante que padrões de qualidade, integridade e segurançações sejam melhor definidos nela em relação à legislação internacional de direitos humanos.
Necessidade de mais foco em salvaguardas para a força de trabalho e o meio ambiente
Além dessas falhas, a proposta de Convenção se destaca pela ausência de determinações que tratem das condições de trabalho daqueles envolvidos no desenho, desenvolvimento e aplicação de sistemas de IA. Há preocupações crescentes de que a indústria de IA segue um caminho semelhante às de eletrônica ou moda, que são notórias por terceirizar a produção para a Maioria Global, onde a força de trabalho é frequentemente sujeita à exploração e a condições de trabalho insalubres (como na moderação de conteúdo), e onde os modelos de produção contribuem para mudanças climáticas e outros impactos ambientais negativos. O texto chega a fazer breves considerações na área ambiental (Artigos 15 e 19, por exemplo), mas o CAI deveria incluir determinações que salvaguardem trabalhadores e considerem integralmente os impactos mais amplos em países que não estão na América do Norte ou Europa.
De modo geral, as determinações existentes não consideram a questão da equidade na apropriação de valor a partir dos benefícios da IA. Ao contrário de empresas no Norte Global, que se beneficiam da retroalimentação de melhorias para tecnologias de IA, países da Maioria Global muitas vezes fornecem a mão-de-obra e os fluxos de dados necessários para sistemas de IA sem receber uma parcela equalitária dos benefícios econômicos ou proteções significativas.
Diretrizes insuficientes para implementação efetiva
Ademais, a proposta de Convenção falha em considerar adequadamente o quanto todos os potenciais estados-parte estarão aptos a adotar estruturas legais e institucionais para oferecer controle e implementação efetivos do tratado. O texto atual determina, por exemplo, que cada parte crie ou designe um ou mais mecanismos efetivos para monitorar e supervisionar a adoção das obrigações, e cada signatário deve assegurar que tais mecanismos exerçam seus deveres de forma imparcial e independente e tenham os poderes, especialização e recursos necessários para cumprir suas tarefas efetivamente. Essas obrigações podem ser difíceis de implementar por países fora do Norte Global com recursos mais limitados, ou para aqueles que não dispõem de órgãos independentes com capacidade ou especialização adequados. Desse modo, alguns estados podem simplesmente não ser convidados a aderir à convenção, conforme estabelece o Artigo 30 da proposta. Se eles ainda assim forem convidados, a adesão pode ser mais simbólica do que significativa, com interpretações divergentes e controle mais robusto em alguns países do que em outros.
Esse é o motivo pelo qual é imperativo que o tratado coloque uma ênfase maior na cooperação internacional, compartilhamento de informações, e apoio dedicado à implementação consistente do tratado, como foi feito com a Convenção de Budapeste – que, por exemplo, estabelece que o Comitê Europeu para Questões Criminais (CDPC, na sigla em inglês) seja periodicamente informado sobre consultas e esforços por parte dos estados para trocar informações sobre ações significativas nos campos legal, de políticas ou tecnológico.
Embora a proposta estabeleça em seu Artigo 23 que a Conferência das Partes deve realizar consultas periódicas para avaliar questões relativas à interpretação e aplicação da Convenção, bem como facilitar a troca de informações sobre ações significativas nos campos legal, de políticas ou tecnológico que sejam relevantes para a implementação, ela não define uma entidade do Conselho da Europa para ser responsável por conduzir as consultas e as medidas necessárias ou para ter um papel significativo na supervisão. Além do texto em si, uma ação complementar possível seria algo nos moldes do Octopus Project (Projeto Polvo), que não é estabelecido na Convenção de Budapeste, mas sim realizada por meio de contribuições voluntárias de estados-parte e observadores. O projeto dá apoio à adesão e à implementação da Convenção de Budapeste, promovendo a cooperação e a capacitação.
Um chamado conjunto para contribuições da Maioria Global
Há, portanto, uma necessidade premente de que o CAI revise mais a fundo a proposta de Convenção para assegurar que o texto seja verdadeiramente global por natureza, garanta proteções aos direitos humanos, e atenda a realidades locais fora da Europa e da América do Norte. Como as negociações continuam ao longo do próximos meses, incentivamos os estados de regiões sub-representadas a se envolverem ativamente no processo e realizar consultas qualificadas com atores da sociedade civil local. Também encorajamos o próprio CAI a possibilitar maior engajamento e cooperação com organizações da sociedade civil, incluindo as que não são observadoras e têm sede em estados da Maioria Global.