virgilio_almeida_edit.jpgO futuro digital e as desigualdades do presente
O mundo avança aceleradamente para um futuro digital, no qual software, robôs, inteligência artificial, algoritmos e dados irão fazer cada vez mais parte da economia e do dia-a-dia da sociedade. Esses avanços trarão eficiência, produtividade, facilidades e novas oportunidades. Esses mesmos avanços podem, porém, vir acompanhados de novas formas de discriminação, concentração de riqueza e aumento da desigualdade.
Em um país como o Brasil, marcado por uma persistente desigualdade, as consequências negativas desse processo de mudanças podem ser ainda mais dramáticas. Por isso, políticas e investimentos públicos na direção da transformação digital do país deverão ser guiados por um princípio fundamental: não levar para o futuro as desigualdades do presente! Vejamos o porquê.
Nos Estados Unidos, a desigualdade econômica cresceu nos últimos 20 anos, com a estagnação da renda das famílias de classe média, ao mesmo tempo que houve aumento na riqueza no topo da pirâmide social. As tecnologias digitais tiveram um papel significativo nessa concentração de riquezas, embora outros fatores, como globalização, liberalização da regulação econômica e crescimento dos oligopólios tenham também contribuído nessa direção. Por um lado, as tecnologias digitais podem catalisar o crescimento, com efeitos de longo alcance sobre a produtividade, o emprego e a renda dos trabalhadores bem qualificados. Por outro lado, essas tecnologias podem também substituir ou deslocar os trabalhadores de pouca qualificação para tarefas menos valorizadas, com reflexos diretos nos salários e nas taxas de desemprego.
Há várias dimensões para a construção de um futuro digital inclusivo e democrático, que dizem respeito à infraestrutura, tecnologia, capacitação, governança e acesso às facilidades digitais. As tecnologias digitais não são necessariamente neutras. Como também não são necessariamente neutros os algoritmos. A partir de sequências de instruções, fórmulas e grandes massas de dados, os algoritmos determinam, por exemplo o que uma pessoa vê nas mídias sociais ou se um solicitante vai ou não receber o visto de entrada em determinado país. Os algoritmos fazem parte de todos os serviços e aplicações que compõem o mundo digital.
Um estudo sobre o Google, publicado por pesquisadores nos Estados Unidos, mostrou que anúncios para vagas de emprego de nível executivo com boa remuneração provavelmente seriam dirigidos mais para homens do que para mulheres, indicando uma perpetuação da discriminação de gênero também no mundo online.
Políticas públicas devem garantir acesso equânime às oportunidades e benefícios que os serviços digitais oferecem
A possibilidade de classificação e segmentação de cidadãos a partir de suas informações pessoais é uma realidade com diversas aplicações, sendo que uma das mais claras e visíveis – até mesmo pelos seus efeitos concretos – é a atribuição de uma avaliação, de um “score, ao cidadão. Esta prática, que geralmente se verifica em sistemas de “credit score, ou avaliação de crédito, é utilizada em diversos países para fins de maior higidez no sistema financeiro, podendo muitas vezes trazer benefícios ao consumidor quando legitimamente utilizado. Seus mecanismos, no entanto, podem ser facilmente escalados para atividades e finalidades que não tenham a ver com a financeira, abarcando recônditos da vida de um cidadão que podem ser de natureza pessoal.
Nos Estados Unidos, por sua vez, encontra-se em operação um ambicioso programa de previsão de reincidência entre condenados por crimes. Alguns tribunais americanos fazem uso de algoritmos para avaliar riscos de reincidência. O programa tem recebido críticas de vários setores. As principais são o fato de que esses algoritmos são considerados segredos comerciais, opacos, e portanto não são do conhecimento público os fatores levados em consideração no cálculo do risco e na sugestão da sentença aplicada a cada condenado. Além disso, um estudo de um grupo de jornalistas investigativos mostrou que réus negros eram muito mais propensos que os acusados brancos a serem incorretamente julgados a um risco maior de reincidência.
Há também o exemplo chinês de um sistema público que atribui a cada cidadão um escore baseado não somente em atividades financeiras, mas que leva também em conta fatores como uma conduta considerada adequada do ponto de vista político. Este sistema não somente tende a harmonizar claramente certos comportamentos de caráter pessoal, discriminando atitudes consideradas inadequadas, como também, ao estabelecer um sistema de sanções e proibições para o cidadão que possua um escore pessoal baixo. Isso acaba por vincular diversas expressões de opinião e outras liberdades fundamentais a um sistema de incentivos e prêmios que mais parece um jogo do que o reflexo do exercício de liberdades individuais.
No Brasil, em recente estudo realizado pelo Instituto de Tecnologia e Sociedade do Rio (ITS-Rio), verifica-se a necessidade da construção de sistemas mais robustos e inclusivos de escores de crédito, que sejam acompanhados de maiores garantias para os cidadãos sobre seus próprios dados, para que sejam minoradas as possibilidades de utilização destes instrumentos para discriminação.
Estas garantias atuariam basicamente sobre a transparência dos dados utilizados e a metodologia para o seu tratamento, com o controle do cidadão sobre seus dados e com mecanismos que impeçam a utilização destes métodos com finalidades discriminatórias. As plataformas de serviços digitais, sejam elas públicas ou privadas como Google, Facebook, Apple ou Twitter devem necessariamente evitar a discriminação, que é uma causa subjacente e fundamental da desigualdade sócio-econômica. São necessárias portanto políticas públicas que busquem garantir acesso equânime às oportunidades e benefícios que os serviços digitais oferecem, pois esses estarão cada vez mais presentes na vida do cidadão brasileiro
O artigo também pode ser conferido aqui.