Em 25/5, foi realizada a 37ª edição do Webinário da Academia Brasileira de Ciências, que reuniu cientistas políticos e da computação para discutir o tema “Algoritmos comandam a sociedade e precisam de controle”. Para isso, a ABC convidou os webinaristas Jeanna Matthews, professora de ciência da computação na Universidade Clarkson, nos Estados Unidos; e os professores associados do Departamento de Ciência Política da Universidade Federal de Minas Gerais (UFMG) Fernando Filgueiras e Ricardo Fabrino Mendonça. O evento foi moderado pelo presidente da Academia, Luiz Davidovich, e pelo diretor da ABC Virgílio Almeida.

Com a adoção da tecnologia digital e da digitalização de muitas dimensões da sociedade, os algoritmos e a inteligência artificial foram integrados na vida de muitas pessoas. Na abertura do webinário, Virgílio Almeida introduziu o importante papel que os algoritmos têm desempenhado na manutenção e no funcionamento do ambiente online, bem como no aumento da produtividade, da competitividade de empresas e na tomada de decisão. 

Segundo Almeida, a implantação da inteligência artificial na governança dos processos de empresas e governos está substituindo o julgamento humano, o que gera problemas inéditos, especialmente pela dificuldade de responsabilização de atores envolvidos e pela produção de resultados discriminatórios de modo automático. “As consequências sociais da incorporação da tomada de decisão pelos algoritmos de inteligência artificial podem afetar a proteção dos direitos civis e humanos que não foram conceitualizados ou avaliados de forma adequada”, afirmou o diretor da ABC. 

Em vista disso, Almeida defendeu a atuação assídua de cientistas políticos, economistas, sociólogos e outros pesquisadores da área das ciências humanas e sociais na orientação deste cenário, que tende a ficar cada vez mais próximo. O diretor argumentou em favor da ciência, da tecnologia, dos cientistas e da sociedade, e reafirmou a notoriedade deste webinário na promoção do debate sobre o tema. “Conforme cresce o poder da inteligência artificial, nossos valores se tornam cada vez mais importantes. Cabe a cada um de nós pensar profundamente sobre que tipo de sociedade queremos no futuro”, declarou Almeida. 

Responsabilidade algorítmica e segurança na tomada de decisões

A professora de ciência da computação da Universidade Clarkson Jeanna Matthews iniciou sua apresentação fazendo um questionamento: “O que podemos fazer para dominar algoritmos e plataformas, ao invés de sermos dominados por eles?”. Matthews afirmou que, para muitas pessoas, a pior consequência do descontrole desses sistemas computacionais é a publicidade totalmente direcionada e a utilização de dados de forma mal-intencionada. “No entanto, algumas dessas coisas são de fato pequenas se comparadas com o que realmente tem acontecido, como grandes decisões sendo tomadas sobre nossas vidas e a manipulação de nossas opiniões e ações”, explicou. 

Segundo Matthews, a forma pela qual as decisões são tomadas na sociedade atual vem sendo alterada com a introdução dos algoritmos. “Não é tomar as mesmas decisões de antes, porém mais rapidamente e de forma mais eficiente. É fazer um tipo de decisão completamente diferente”, apontou a professora. Isso ocorre uma vez que as decisões são tomadas automaticamente pelo sistema e podem comportar erros e parcialidades, seja em razão de conjuntos distorcidos de dados ou pela incorporação de preconceitos conscientes ou inconscientes dos desenvolvedores desses algoritmos. 

Matthews explicou que muitas pessoas consideram erroneamente que decisões tomadas por computadores seriam essencialmente mais lógicas e imparciais, portanto possuiriam menor margem para erros. “Esses sistemas computacionais foram construídos por humanos, então esses programas estão introduzindo os mesmos erros ou parcialidades da mesma forma que um indivíduo faria”, esclareceu. Para além disso, esses sistemas de inteligência artificial e de machine-learning apontados como futuristas e progressivos são, na verdade, conservadores, dado que incorporam dados passados para a utilização no futuro. E isso ocorre mesmo se projetados explicitamente para ignorar atributos como religião, raça ou gênero em tomadas de decisão sobre indivíduos. “Se deixarmos isso ser o guia para o futuro, teremos alguns problemas óbvios com as parcialidades guiando decisões futuras”, informou a professora.

Por isso, Matthews defendeu a promoção de discussões acerca dos direitos dos indivíduos no mundo dos algoritmos e da inteligência artificial. “O indivíduo precisa ver os dados utilizados sobre ele, pois muitas vezes esses dados são incorretos ou falsos e apessoa tem que poder exigir que sejam deletados; ver e entender as decisões tomadas sobre ele, obter uma explicação; e saber quem está pagando para influenciá-lo”, afirmou ela. Matthews também ressalta a necessária adoção de legislações e regulações que exijam investimentos, pelas empresas, para a proteção de direitos humanos, por meio do financiamento de equipes incentivadas a acharem erros, violações de direitos individuais ou parcialidades. Para ela, a resposta para o primeiro questionamento consiste exatamente na responsabilidade algorítmica, na transparência e em explicações claras sobre todo o processo. 

Algoritmos como instituições na sociedade contemporânea

Em sua fala, o professor de ciência política da UFMG Fernando Filgueiras abordou a perspectiva de encarar o crescente papel exercido pelos algoritmos nas sociedades contemporâneas como instituições fundamentais que organizam a capacidade de ação coletiva dos indivíduos. Nessa visão, os algoritmos são analisados a partir da teoria institucional, desenvolvida na ciência política ao longo das décadas de 70 e 80, na qual procura-se explicar o comportamento humano a partir do papel que as instituições exercem na estruturação dos parâmetros das interações sociais. “Conceitualmente falando, instituições são normas formais ou informais que organizam as ações, atitudes, formas de pensar e de agir coletivamente”, esclareceu Filgueiras. 

Segundo o professor, a teoria institucional pode oferecer uma série de insights para se pensar a questão dos algoritmos e o papel deles na sociedade. De acordo com essa linha de pensamento, é possível compreender os algoritmos como instituições exatamente por inserirem uma série de normas que definirão o comportamento individual, como a forma de se comunicar, os papéis na sociedade e a estrutura de políticas e serviços públicos prestados pelo governo. 

Os inputs dos algoritmos – os dados – operam com classificações, definições de perfis, combinação, predição e simulação, nas quais é possível observar uma dinâmica de poder. “Ao definir um perfil como A ou B, ele está fazendo uma alocação de indivíduos conforme essas categorias, que expressa que tipo de papel eles vão ocupar na sociedade”, exemplificou Filgueiras. Os resultados produzidos pelos algoritmos estruturam decisões que afetam toda a sociedade, com impactos coletivos muito importantes, como moldar comportamentos individuais, mudar a dinâmica de ação coletiva e as escolhas sociais, definir as posições na sociedade e especificar o que é permitido ou proibido. “Os algoritmos não têm um impacto apenas individual nas nossas vidas cotidianas, mas também um impacto na sociedade e na sua estruturação como um todo”, ressaltou.

Filgueiras referiu-se, também, à dimensão política que os algoritmos assumem, uma vez que essa inserção de normas para o comportamento tem forte influência na organização de uma nova dinâmica política das sociedades contemporâneas. “Eles não querem apenas aprender o que os indivíduos desejam, eles querem, também, definir comportamentos e alterar a forma de socialização”, concluiu. 

A corrida global e a competitividade entre os países para o desenvolvimento de tecnologias de inteligência artificial tem sido extremamente assimétrica. Ao citar as estratégias nacionais, Filgueiras afirmou que elas convergem em alguns pontos, sobretudo as voltadas para o fortalecimento e ampliação das fontes de financiamento, pesquisa e desenvolvimento, e a criação de centros de excelência em inteligência artificial. No entanto, as condições políticas e institucionais têm influenciado a forma como o desenho dessas políticas se torna efetivo ou não. “No caso do Brasil, ao que tudo indica, nós teremos uma série de dificuldades, apesar de já termos muita coisa em andamento, como centros de excelência em diversas localizações. Mas o contexto de instabilidade política dificulta a cooperação internacional e as políticas públicas”, concluiu. 

Artifícios de estruturação de decisões 

Dando continuidade à abordagem de Filgueiras, o professor Ricardo Fabrino Mendonça dissertou sobre a necessidade de se pensar os algoritmos como artifícios que estruturam nossa capacidade de decisão a partir de algumas dicotomias. O primeiro aspecto a ser considerado, segundo ele, é a oposição entre animismo e instrumentalismo. “Nós partimos do pressuposto de que os algoritmos não tem uma vida própria. Por outro lado, eles não são instrumentos à disposição de seres humanos que podem fazer o que bem quiserem com eles”, explicou Mendonça. 

De acordo com o pesquisador, por mais que os algoritmos sejam parte da dimensão estrutural da vida contemporânea, uma vez que definem condições e limitações, eles não apagam a capacidade de ação humana, no sentido de que seres humanos reinventam, ressignificam e mudam as interações dos algoritmos. 

Mendonça ressaltou que entender os algoritmos como instituições requer compreender os valores neles inscritos e a forma como eles intervêm na realidade. Em concordância com a fala da professora Jeanna Matthews, Mendonça afirmou que os algoritmos não podem ser pensados como cadeias lógicas, mas sim como inscrições de relações sociais em padrões de tomada de decisão, que procuram aprender com o passado, para atuar no presente e projetar o futuro. “Assim como instituições, algoritmos tem história, constroem-se ao longo do tempo em diálogo com valores, com preconceitos, com perspectivas, com visões de mundo e se constroem dentro de certos contextos”, esclareceu.

Esse sistema estrutural dos algoritmos, de acordo com Mendonça, pode estabelecer uma dependência de trajetória, no sentido da repetição de decisões ou de implicações de decisões feitas em determinado momento. “Ainda que projetados para lidar com a incerteza e que possam ser flexíveis para se adaptar continuamente a partir de novos dados oriundos de comportamentos de usuários, algoritmos são uma corporificação dessa ideia de dependência de trajetória, ao projetar passos subsequentes que eles ajudam a construir, de alguma forma, em uma profecia auto realizável”, concluiu o professor. 

Assista aqui à transmissão em português.

Assista aqui à transmissão com tradução simultânea em inglês.