Há mais de meio milhão de motoristas ativos no Uber no Brasil e nenhum deles tem supervisores humanos. São todos gerenciados por algoritmos. De uma maneira simplificada, os algoritmos podem ser vistos como regras do negócio codificadas em software. O que significa ter um algoritmo como chefe? São perguntas como essa que vão ser cada vez mais colocadas frente ao acelerado avanço da inteligência artificial e automação.
Como relata a pesquisadora Alex Rosenblat, em seu livro recém-lançado nos Estados Unidos (“Uberland: How Algorithms Are Rewriting the Rules of Work”), os algoritmos do Uber estão mudando a forma como as empresas operam e exercem controle sobre seus funcionários. São mudanças que afetam o ambiente de trabalho, onde tarefas e interações passam a ser decididas e controladas pelos algoritmos dos aplicativos e das plataformas tecnológicas, como o Uber.
Dentre os depoimentos coletados pela pesquisadora junto a motoristas de aplicativos nos EUA e Canadá, alguns deles são reveladores das novas relações criadas num ambiente de trabalho, onde tudo é monitorado, automatizado e controlado por algoritmos. O valor da corrida é calculado pelo algoritmo, que ajusta o preço em tempo real, em função da demanda, como, por exemplo, nos horários de pico ou em uma área da cidade onde a procura por transporte é alta.
O algoritmo acompanha cada motorista e coleta uma variedade de dados sobre o desempenho individual, como taxas de aceitação de viagens, taxas de cancelamento, horas gastas conectadas ao aplicativo e viagens concluídas. A partir dos dados, o algoritmo calcula a pontuação do motorista e, dependendo da avaliação, o algoritmo pode fazer ameaças de “desativação”, ou seja, demissão.
O uso de inteligência artificial e robótica tem sido fundamental para a liderança global da Amazon no comércio eletrônico, automatizando desde os centros de logística até todo o processo de venda e relacionamento com consumidores. Há algum tempo, a Amazon vem desenvolvendo ferramentas gerenciais baseadas em inteligência artificial para automatizar processos de recrutamento de pessoal. A ferramenta analisa os currículos e atribui aos candidatos a emprego pontuações que podem variar de uma a cinco estrelas.
Segundo reportagem recente da agência Reuters, a Amazon percebeu que seu novo sistema não classificava candidatos para empregos de desenvolvedores de software de maneira neutra em termos de gênero. Ou seja, verificou-se nos algoritmos de inteligência artificial um viés discriminatório em relação às mulheres. Dados recentes de uma pesquisa nos EUA mostra que cerca de 55% dos gerentes de recursos humanos planejam usar ferramentas de inteligência artificial como parte regular de seu trabalho nos próximos cinco anos. Isso torna mais preocupante ainda a possibilidade de um viés discriminatório das novas tecnologias.
Esses dois relatos chamam a atenção para a crescente presença dos algoritmos no dia-a-dia, estão no centro das tecnologias que moldam a sociedade e mudam a forma como governos e empresas operam. Plataformas algorítmicas como Google, Facebook, Waze, Whatsapp e Twitter controlam o acesso global à informação, comunicação e conhecimento. Essas tecnologias desempenham um papel cada vez maior na produção e disseminação de notícias e informações, através de algoritmos que selecionam e priorizam conteúdos. Sistemas de segurança, operações bancárias, decisões de saúde e até decisões judiciais são exemplos de aplicações que se baseiam em algoritmos de inteligência artificial.
Os algoritmos aumentam a eficiência, reduzem custos e possibilitam empresas e governos oferecerem serviços rápidos e convenientes em larga escala. Entretanto, há grupos sociais mais vulneráveis, que podem ser negativamente afetados pelos processos automáticos de decisão algorítmica, que em muitos casos, substituem completamente a tomada de decisão por humanos.
Apesar dessa centralidade na tomada de decisões, o papel e o impacto dos algoritmos são, em grande medida, incompreensíveis para o público. Um dos principais desafios na avaliação desses impactos na sociedade é a sua inerente opacidade aos seres humanos. Os algoritmos são “caixas pretas” para a sociedade.
Suas decisões, principalmente aquelas baseadas em tecnologias de inteligência artificial, dependem dos dados disponibilizados para os algoritmos. Se esses dados estiverem incorretos ou não representarem as diversidades sociais, econômicas, étnicas e culturais, pode-se ter decisões enviesadas, discriminatórias ou inadequadas.
As recentes eleições no país mostraram que as tecnologias digitais avançam muito mais rápido que governo e instituições. Avançam silenciosamente, sem uma clara percepção da sociedade. O papel do Whatsapp, Twitter, YouTube e Facebook na disseminação de informação e desinformação nas eleições presidenciais deixou isso evidente. É hora portanto de abrir o debate na sociedade brasileira sobre o papel, o impacto e a responsabilidade das plataformas que implementam as novas tecnologias digitais.
Frente ao avanço tecnológico que o Brasil necessariamente terá de buscar, novas questões precisam ser discutidas. A robótica e a inteligência artificial estão transformando a natureza do trabalho, afetando cidadãos e sociedade. Como preparar a força de trabalho do país para esse novo tempo, onde a automação irá ter um papel preponderante? Quais políticas públicas devem ser formuladas para garantir a inclusão e a proteção social frente ao avanço inexorável da automação?
Esses são alguns desafios importantes, que devem fazer parte da discussão da agenda de futuro do país.
Virgilio Almeida é membro titular da Academia Brasileira de Ciências (ABC), professor Associado ao Berkman Klein Center na Universidade de Harvard e ex-secretário de informática no Ministério da Ciência, Tecnologia e Inovação (2011-2015).
