Ana Mielke: “A gente precisa desnaturalizar a hegemonia intelectual das big techs como únicas e exclusivas produtoras de conhecimento e tecnologia”

 

Ana Mielke questionou se cabe às big techs serem as determinadoras de nossa democracia.

Foto: Filipe Augusto Peres

Em fala realizada durante o 8º Blog Prog, jornalista do Intervozes destacou que desenvolver tecnologias públicas de IA é uma questão de soberania

Em uma fala na mesa de debates “Os desafios da inteligência artificial”, realizada durante o 8º Encontro Nacional de Comunicadores e Ativistas Digitais no último dia 5 de julho, organizado pelo Centro de Estudos de Mídia Alternativa Barão de Itararé, Ana Mielke, do Coletivo Intervozes criticou a pouca representatividade de universidades e instituições públicas de pesquisa na produção de tecnologias de Inteligência Artificial.

A jornalista destacou que a maioria das organizações que depositaram patentes no campo da IA são empresas privadas.

“[...] apenas entre os anos de 2011 e 2017 o número de patentes no campo da Inteligência Artificial cresceu em uma proporção 6,5 vezes [...], só que a maior parte das organizações, entidades que depositaram patentes, 26 entre os 30, foram empresas privadas. Apenas 4 são universidades ou instituições de pesquisa e científica de caráter público”.

Ana chamou atenção para a influência do projeto neoliberal nos países em desenvolvimento, o qual contribuiu para a privatização de serviços essenciais e a diminuição do papel do Estado na garantia de direitos fundamentais à população

“[...] a história da inserção do projeto neoliberal nos país em desenvolvimento, em especial no pós consenso de Washington, em 1989. No Brasil, a gente viveu isso com bastante vigor durante os governos FHC na década de 90, inclusive com a privatização da Telebrás e a concessão dos serviços de telefonia para a iniciativa privada. [...] O estado deixou de ser provedor de alguns direitos essenciais à população e passou a mediar interesses entre as empresas privadas, as quais passaram a operar e a prover estes serviços públicos e os consumidores”

E enfatizou a importância de lutar contra a hegemonia das big techs, estas como únicas produtoras de tecnologia e conhecimento. Neste sentido, Mielke ressaltou a importância de promover a soberania e a construção tecnológica própria.

“[...] A gente precisa desnaturalizar a hegemonia intelectual das big techs como únicas e exclusivas produtoras de conhecimento e tecnologia. Este é um primeiro desafio que está colocada para a gente, tanto no debate da regulação das plataformas quanto no debate da Inteligência Artificial”.

“O segundo desafio [...] é a gente pensar as tecnologias também a partir desse lugar de produção. Nós não somos apenas consumidores de tecnologias. E se este é o lugar do Brasil, ele se reproduz quando a gente fala de uso de Inteligência Artificial.”

“[...]É pra gente pensar. Inteligência Artificial é só um nome fantasia, o que a gente está falando, na verdade, é de soberania, de construção tecnológica de disputa de poder num cenário internacional. E sendo as empresas de tecnologia as maiores, os maiores conglomerados, quem dominam a economia do mundo, é pra gente refletir se a gente quer, de fato, que sejam elas as mediadoras, por exemplo, da nossa esfera  pública, que sejam elas, por exemplo, as determinadoras da nossa democracia, porque elas estão na Saúde coletando dados de usuários. Elas estão na Educação com a plataformização da Educação, estão na Segurança Pública. Ontem, o Smart Sampa foi inaugurado, aqui, pelo prefeito de São Paulo”.

A representante do Coletivo Intervozes destacou a presença das tecnologias de inteligência artificial em diversos setores, como educação, saúde e segurança pública, e alertou para os riscos de vigilância e violação da privacidade dos cidadãos. A jornalista também fez um chamamento para a mobilização em torno do Projeto de Lei 2338, que busca regulamentar o uso da inteligência artificial no Brasil, mas sofreu alterações que favorecem o lobby das empresas de tecnologia.

Entre os pontos preocupantes do PL 2338, Mielke mencionou a retirada da supervisão humana sobre as decisões da inteligência artificial, a inclusão do reconhecimento facial para fins de segurança pública e a possibilidade de uso da biometria a longa distância. Ana Mielke destacou a importância de proteger dados sensíveis da população e convocou para a assinatura de uma carta pública e um tuitaço em defesa dos pontos positivos e críticas aos pontos negativos do projeto.

Coalizão Direitos na Rede Lança Carta Aberta Defendendo uma Legislação Brasileira de IA que Proteja Direitos Fundamentais

Em um movimento significativo para a regulamentação da Inteligência Artificial (IA) no Brasil, a Coalizão Direitos na Rede, junto com diversas organizações e indivíduos, lançou uma carta aberta nesta segunda-feira, 8 de julho, defendendo uma legislação que proteja os direitos fundamentais dos brasileiros. A carta enfatizou a urgência de uma abordagem embasada em direitos humanos para regular os sistemas de IA no país.

Os signatários da carta reconhecem os benefícios potenciais da IA para a sociedade, especialmente na promoção dos 17 Objetivos de Desenvolvimento Sustentável (ODS) da ONU. No entanto, alertam que a falta de regras vinculativas para o desenvolvimento e uso da IA pode exacerbar riscos evitáveis e conhecidos. 

"A IA, de um lado, já facilita algumas atividades e, de outro, também gera danos e violações concretos, ao reforçar práticas discriminatórias, excluir grupos historicamente marginalizados do acesso a bens e serviços essenciais, apoiar a desinformação, minar processos democráticos, incrementar a vigilância, exacerbar as alterações climáticas, acelerar o epistemicídio de indígenas e línguas e culturas locais, e intensificando a insegurança no emprego", destaca a carta.

Para garantir que a IA promova inovação de forma ética e responsável, a carta defende a necessidade de estabelecer regras mínimas que salvaguardem os direitos dos indivíduos afetados, definam as obrigações dos agentes de IA, e incluam medidas de governança e um quadro regulamentar de supervisão e transparência.

 "Uma regulamentação eficaz que proteja os direitos é uma condição indispensável para o florescimento de produtos e serviços de IA responsáveis que melhorem o potencial humano e o Estado de direito democrático", afirmam os signatários.

O Projeto de Lei 2338/2023 é mencionado como um bom guia para a regulação da IA no Brasil, embora ainda haja espaço para melhorias. A carta sugere que essa abordagem facilitara o diálogo entre as legislações dos diferentes países, reduzindo o esforço das organizações para se adaptarem ao contexto brasileiro. Além disso, a regulamentação da IA baseada em direitos ajudaria a posicionar o Brasil como pioneiro no fornecimento e adoção de tecnologias responsáveis.

Os signatários desmascaram mitos e falsas soluções que visam impedir a regulamentação da IA, argumentando que não há conflito entre regulação e inovação.

 "Regulamentação vs. Inovação : Não há conflito entre regulação e inovação; ambos podem e devem coexistir, como se vê no Código Brasileiro de Defesa do Consumidor e na Lei Geral de Proteção de Dados", citam. 

A Carta também criticou o argumento de que a IA é uma tecnologia desconhecida e incontrolável para fins regulatórios, ressaltando que estudos sobre o tema acumulam oito décadas de experimentação e análise de impactos sociais.

Grandes empresas de tecnologia fazem lobby para impedir votação do Projeto de Lei 2338/2023

A carta chama atenção para o lobby das grandes empresas de tecnologia, que tem se mobilizado para impedir a votação do Projeto de Lei 2338/2023. 

"O lobby da indústria é enorme, incluindo viagens internacionais e eventos privados organizados por big techs para os senadores mais envolvidos no debate", denunciam.

Entre as melhorias propostas para o projeto de lei, estão a proibição explícita de sistemas de armas autônomas, a criação de medidas de governança específicas para IA de uso geral e generativa, e a garantia de participação social nos processos de governança. A carta também destaca a necessidade de classificar certos usos da IA, como o reconhecimento facial para segurança pública, como riscos inaceitáveis devido ao seu potencial discriminatório.

Os signatários concluem manifestando apoio ao avanço do processo legislativo do Projeto de Lei 2338/2023 na Comissão de IA (CTIA) e no plenário do Senado, desde que as melhorias propostas sejam incluídas. No final, a Carta convoca a sociedade civil a que adira às melhorias preenchendo o formulário enviado pela Rede de Coalização. 

"Se você quiser aderir a esta carta em defesa (crítica) do PL 2338/2023 e pela clara necessidade de regulação protetiva de direitos fundamentais no Brasil, preencha este formulário", conclui a carta.