Confira a entrevista do diretor da ABC Virgilio Almeida para o Instituto Humanitas (IHU) da Universidade Vale dos Sinos (Unisinos), publicada no dia 17/8/22.

A dimensão transcendental dos algoritmos é que seu alcance ultrapassa os meios e os espaços de interação. Elas têm implicações concretas na vida humana e social. “Nessas interações, os algoritmos têm condições de influenciar, manipular o comportamento das pessoas. Por exemplo: ao exibir notícias e posts, podem alterar o comportamento das pessoas sobre política, preconceitos etc.”, pondera Virgilio Almeida, em entrevista por e-mail ao Instituto Humanitas Unisinos- IHU. “É fundamental que pesquisadores de ciências humanas e sociais entendam como esses algoritmos/plataformas influenciam ou modificam o comportamento das pessoas”, complementa.

O professor alerta que o uso político de algoritmos é um mecanismo de poder, sobretudo quando utilizado para espalhar desinformação. Porém, tal dimensão não se restringe a isso. “Nos EUA, vários tribunais usam algoritmos em funções como dosimetria da sentença ou na concessão ou não de liberdade condicional. Estudos conduzidos por pesquisadores e organizações não governamentais mostraram que algoritmos têm vieses que calculam o risco de reincidência maior para negros”, destaca.

Todos esses usos nos levam a encruzilhadas éticas muito profundas. “Imagine um algoritmo usado para automatizar diagnósticos de saúde. Embora não sabendo como explicar a recomendação do algoritmo, deve o profissional de saúde seguir a decisão deste?”, questiona.

Confira a entrevista.

IHU – Qual a origem dos algoritmos e como revolucionam a engenharia da computação?

Virgilio Almeida A noção de algoritmo é um conceito fundamental da ciência da computação. Ele pode ser descrito como uma sequência finita de instruções ou etapas bem definidas para resolver um determinado problema, tarefa ou cálculo. O termo algoritmo deriva do nome do matemático persa do século IX Muhammad Ibn Musa al’-Khwarizmi, que produziu um procedimento formal bem definido para derivar regras de cálculo.

IHU – Como podemos compreender os algoritmos desde a perspectiva de que são mais do que fruto da engenharia de computação?

Virgilio Almeida A definição acima mostra que os algoritmos são sequências de instruções para resolver um determinado problema. Na computação, os algoritmos são a essência do software, que os computadores executam para solução de problemas.

IHU – Podemos afirmar que os algoritmos se constituem como atores que exibem padrões de comportamento particulares na interação com humanos?

Virgilio Almeida Nos últimos anos, ocorreu um progresso notável no design de algoritmos. O desenvolvimento de algoritmos avançados está associado à evolução da capacidade de computação e à proliferação de big data. Em vez de especificar regras e rotas passo a passo que os algoritmos tradicionais seguem, os algoritmos de aprendizado de máquina são softwares que aprendem a partir de exemplos, dados e experiência. Eles fazem parte de uma família de métodos de inteligência artificial (IA) que incluem aprendizado profundo e aprendizado por reforço. Os algoritmos de aprendizado de máquina impulsionam softwares modernos incorporados em assistentes pessoais virtuais, carros autônomos, mecanismos de recomendação, ferramentas de reconhecimento de imagem e voz e serviços de tradução de idiomas.

Por exemplo, nas plataformas de redes sociais, os “posts’’ que você vê são escolhidos por um algoritmo que aprende o que “você gosta” baseado nos “likes’’ que você dá, no que seus amigos/as veem e postam; enfim, o algoritmo aprende tudo isso com o objetivo de manter você mais tempo na plataforma, ou seja, faz isso para aumentar seu engajamento.

(…)

IHU – Quais os desafios para se caracterizar o comportamento humano nas relações com não-humanos tanto no plano individual quanto coletivo?

Virgilio Almeida Essa é uma relação nova, humanos interagindo com não-humanos onde existem os algoritmos que podem influenciar os humanos (como mostrado nos exemplos acima) e estes podem também influenciar o comportamento dos algoritmos. Podem influenciar os algoritmos através de modificações no código dos softwares que os implementam, e podem influenciar através dos datasets (arquivos) usados para treiná-los.

(…)

IHU – Quais os desafios para se caracterizar o comportamento humano nas relações com não-humanos tanto no plano individual quanto coletivo?

Virgilio Almeida Essa é uma relação nova, humanos interagindo com não-humanos onde existem os algoritmos que podem influenciar os humanos (como mostrado nos exemplos acima) e estes podem também influenciar o comportamento dos algoritmos. Podem influenciar os algoritmos através de modificações no código dos softwares que os implementam, e podem influenciar através dos datasets (arquivos) usados para treiná-los.

(…)

IHU – Que dilemas éticos estão em jogo quando nos colocamos diante desses robôs que invadem nosso cotidiano, desde a mais simples interação com dispositivos como Siri e Alexa até carros autônomos, robôs que atuam em cirurgias e dispositivos que controlam o sono ou atividade física?

Virgilio Almeida São muitos os dilemas éticos. Por exemplo, deve um assistente pessoal inteligente (algoritmos) como Alexa identificar o estado emocional de uma pessoa e fazer sugestões?

Imagine um algoritmo usado para automatizar diagnósticos de saúde. Embora não sabendo como explicar a recomendação do algoritmo, deve o profissional de saúde seguir a decisão deste? Os algoritmos trabalham com dados das pessoas, mas são apenas fragmentos da vida delas. Deve então o algoritmo tomar uma decisão que afeta a vida de pessoas? Por exemplo, definir se a pessoa é apta ou não para um emprego para o qual ela se candidata? Devem a Siri e Alexa inferir sobre a personalidade de uma pessoa a partir de trechos de conversas desta com o dispositivo? Deve um algoritmo inferir sobre a orientação sexual de uma pessoa e passar a apresentar notícias e propagandas para uma certa orientação?

(…)

IHU – Nas últimas semanas, muitas cidades brasileiras começaram a receber a tecnologia 5G. Quais os impactos sociais desse novo modo de conexão à Internet?

Virgilio Almeida Não tenho acompanhado essa questão de 5G, pois trata-se da velocidade/capacidade das redes de comunicação, que aumenta tremendamente. Uma possível consequência é que essas redes aumentarão ainda mais a interações das pessoas com os algoritmos.

IHU – Enquanto falamos em cidades inteligentes e hiperconectadas, vivemos uma verdadeira catástrofe ambiental. Quais os desafios para equalizar o desenvolvimento tecnológico e o desaceleramento do aquecimento global?

Virgilio Almeida O avanço das tecnologias digitais nas cidades fica visível no aumento das câmeras de vigilância, do controle do transporte por aplicativos, no controle da distribuidora de energia, no policiamento etc.

Os algoritmos são essenciais para se otimizar o uso de recursos numa cidade e serão cada vez mais utilizados para minimizar o desperdício, a emissão de gases de efeitos estufa etc. Além disso, as plataformas digitais, operadas por algoritmos, como zoommeet e outras contribuem tremendamente para reduzir viagens, circulação de veículos e pessoas através do trabalho remoto. Por isso elas têm papel importante nas questões ambientais. Os serviços 5G irão tornar esses serviços de plataforma ainda mais atraentes para educação, saúde e entretenimento.

IHU – Como o senhor analisa a chamada geração de “nativos digitais”? Que humanidade e que tipos de sociabilidades podemos estar gerando a partir da revolução tecnológica do século XXI?

Virgilio Almeida Pois é, para os nativos digitais as interações online são naturais e facilmente usadas. As linguagens de uso dos ambientes digitais fazem parte dessa geração. Valores como privacidade são vistos de maneira diferente quando comparados a gerações mais analógicas (digamos assim em contraposição ao digital). Além disso, o trabalho remoto fica cada vez mais natural. Os nativos digitais são ligados aos seus grupos através de ambientes de rede, os mais novos usam mais TikTok, Snapchat e Instagram, via celulares. Atualmente vários alunos do DCC/UFMG que se formam trabalham para empresas avançadas nos EUA, Europa e Austrália sem sair de Belo Horizonte.

Já para as gerações acima dos 50 anos, é claro que é muito mais difícil e custoso adaptar as relações no mundo digital, sejam profissionais ou pessoais. Em termos de redes, esses acima de 50 usam mais o Facebook, e os desktops e notebooks são a forma mais usual de acessar redes. O YouTube é uma plataforma comum aos dois grupos.

 

Leia a entrevista completa no site da IHU-Unisinos.