Enquanto vários países defendem limitações ao uso da tecnologia, o mercado se vê diante de um dilema entre a personalização das ofertas e a proteção da privacidade

 

Tiago Cordeiro

 

A partir de março deste ano, as empresas chinesas vão ser proibidas de utilizar os dados dos clientes para oferecer diferentes preços de acordo com o perfil de cada consumidor. Essa era uma prática comum no mercado. Afinal, a utilização de analytics permite mapear, de maneira personalizada e com uma grande riqueza de detalhes, a melhor oferta para cada caso.

No caso da China, a amplitude do uso da tecnologia vinha provocando uma série de situações de discriminação, como apontaram, em 2020, pesquisadores da Universidade Fundan, uma instituição pública de Shangai. Depois de avaliar mais de 800 viagens utilizando aplicativos, eles concluíram que até mesmo o modelo de smartphone utilizado pelo cliente era levado em consideração na composição do valor final da corrida.

A reação do governo foi severa. E a proibição não se aplica apenas ao comércio de produtos e serviços. Ela altera também o uso de inteligência artificial (IA) para as recomendações de posts e vídeos em redes sociais. “Algumas tendências não saudáveis e alguns sinais de desordem têm ocorrido com o rápido desenvolvimento da economia digital em nosso país”, reclamou, recentemente, Xi Jinping, presidente do país desde 2013.

As restrições ao uso de machine learning e analytics nos negócios do país são rigorosas, a ponto de serem, aparentemente, muito difíceis de serem colocadas em prática pelas organizações. Há relatos de empresas que, temendo punições diante da nova lei, têm solicitado aos clientes que não permaneçam logados em suas contas de e-commerce por mais do que alguns minutos — uma forma de tentar evitar que os sistemas de IA já instalados forneçam automaticamente insights e promoções que o governo local possa considerar abusivos.

“A regulação da machine learning passa por um terreno que permeia a privacidade dos indivíduos e a regulação das grandes empresas de tecnologia. A China, ao banir algoritmos que personalizem estratégias comerciais baseadas em informações pessoais, é um exemplo desse contexto”, diz André Filipe de Moraes Batista, professor e coordenador técnico do Centro de Ciência de Dados do Insper.

 

Inovação x privacidade

A China não está sozinha nesse debate a respeito da necessidade de regulação do uso da IA, e dos termos em que esse controle deveria ser exercido. “Estamos num duelo entre a personalização das ofertas, dominada por big techs, e a proteção da privacidade dos usuários, condenando qualquer abuso contra a individualidade dos cidadãos”, diz o professor do Insper. O impacto dessas decisões, lembra ele, vai além da vida das pessoas. “Também afeta até mesmo as relações comerciais, que são cada vez mais digitais.”

A União Europeia vem, a sua maneira, buscando soluções para a questão. Desde 2018, a Comissão Europeia adota uma série de recomendações para o uso de IA. Em 2021, avançou na discussão e chegou a uma proposta de regulação mais detalhada. A estratégia é diferente da chinesa.

“A Comissão tem por objetivo lidar com os riscos gerados por usos específicos da IA a partir de um conjunto de regras complementares, proporcionais e flexíveis, capazes de garantir que a Europa assuma um papel de liderança global, ao apresentar um padrão de excelência na regulação”, afirmam os reguladores.

O objetivo, portanto, é dialogar com o mercado, sem inviabilizar a evolução da tecnologia, mas garantindo a segurança dos cidadãos. Para isso, os algoritmos seriam categorizados de acordo com o risco, em quatro níveis, partindo do “mínimo” e chegando ao “inaceitável”. E essa classificação seria comunicada aos usuários de cada aplicativo ou site. Uma lei, aprovada e implementada de fato, ainda está a alguns anos de ser aprovada.

 

Proposta no Brasil

Em geral, os Estados Unidos não se mostram dispostos a regulamentar a tecnologia e forma rigorosa. No Brasil, em setembro, a Câmara dos Deputados aprovou o Projeto de Lei 21/20, que estabelece fundamentos e princípios para o desenvolvimento e a aplicação da inteligência artificial no Brasil.

A proposta, que agora segue para o Senado, estabelece um marco legal do desenvolvimento e uso da IA pelo poder público, por empresas, por entidades diversas — e também por pessoas físicas. Define quais órgãos de controle ligados à União deverão monitorar a gestão do risco dos sistemas de inteligência artificial no caso concreto, avaliando os riscos de sua aplicação e as medidas de mitigação, além de estabelecer direitos, deveres e responsabilidades e reconhecer instituições de autorregulação.

Enquanto isso, uma série de outros países, incluindo Paquistão, Japão e Emirados Árabes Unidos, avançam em seus próprios projetos de regulamentação da IA. Em alguns casos, como o dos paquistaneses, os reguladores têm sugerido que pretendem observar os resultados da lei da China, que não só começa a ter efeito antes de qualquer outra firmada por países desenvolvidos, como também transforma o país em um grande laboratório aberto de 1,4 bilhão de habitantes.

Mas é possível conciliar inovação com respeito à privacidade? “Inerente a toda estratégia de regulação de machine learning, entra em cena a necessidade de transparência”, responde o professor Batista.

“A visão de que modelos de aprendizagem de máquinas são caixas-pretas é ultrapassada. São modelos matemáticos bem conhecidos, e cada vez mais surgem técnicas e estratégias que buscam subsidiar a transparência no processo de aprendizagem”. Nesse contexto, argumenta ele, “controles e elementos de transparência são fundamentais para que possamos equilibrar os benefícios das técnicas de machine learning com a proteção e preservação dos cidadãos”.