A rápida evolução da inteligência artificial (IA) está transformando a forma como a sociedade produz conhecimento, organiza a economia e toma decisões. Ao mesmo tempo em que abre oportunidades inéditas para o desenvolvimento humano, a tecnologia também levanta preocupações sobre segurança, desigualdade, governança e soberania tecnológica. A questão central já não é apenas o que a IA será capaz de fazer, mas como a sociedade escolherá orientar seu desenvolvimento.
Este foi o resumo do cenário apresentado pelo Acadêmico Virgilio Almeida, professor do Departamento de Ciência da Computação da Universidade Federal de Minas Gerais (UFMG) e do Centro Berkman Klein da Universidade de Harvard, EUA. No dia 9 de junho, ele foi um dos palestrantes do primeiro dos três dias da reunião anual da Rede Latino-Americana de Agências de Inovação (RELAI), promovida pela Financiadora de Estudos e Projetos (Finep), que assumiu a presidência da rede. O encontro reuniu representantes de agências de inovação de vários países e do Banco Interamericano de Desenvolvimento (BID) para debater cooperação internacional, inteligência artificial e sustentabilidade.
A apresentação de Almeida abordou “A inteligência artificial (IA) e o papel das agências: entre o apoio ao ecossistema e a atualização de competências”. Logo de início, ele citou o professor de Harvard Edward Wilson, biólogo, naturalista e ecologista. Sobre os humanos da atualidade, disse Wilson: “Temos emoções da idade da pedra, instituições medievais e tecnologia divina”. A respeito da tecnologia, acrescentou que “estamos vendo as coisas indo além do controle da nossa imaginação”.
O cenário global da inteligência artificial: avanços rápidos, desafios de grande relevância
Virgílio Almeida reconhece que a Inteligência Artificial (IA) poderá, em breve, superar as capacidades humanas em muitas tarefas de grande importância. Os potenciais benefícios são expressivos: avanços na saúde, aceleração das descobertas científicas, aumento da produtividade, melhoria da educação e fortalecimento das estratégias de proteção ambiental. Contudo, os riscos também são significativos, incluindo a ampliação das desigualdades, a disseminação de desinformação, o fortalecimento de mecanismos de vigilância, a facilitação de crimes cibernéticos e a concentração de poder em governos e grandes empresas de tecnologia.
Uma janela limitada para compreender a IA
Um dos desafios mais preocupantes destacados por Almeida é que os sistemas de IA estão se tornando mais poderosos em um ritmo superior à capacidade humana de compreender seu funcionamento interno. Embora seja possível medir o desempenho desses sistemas, muitas vezes ainda não se entende claramente como eles constroem representações internas ou chegam a determinadas decisões.
Essa lacuna entre desempenho e compreensão científica preocupa a comunidade acadêmica. Há o receio de que a sociedade disponha de apenas uma janela limitada para desenvolver uma ciência da IA capaz de explicar seus mecanismos antes que os sistemas se tornem complexos demais para serem plenamente compreendidos, controlados e governados.
O desafio dos modelos de fronteira
Os chamados modelos de fronteira — os mais avançados atualmente em desenvolvimento — apresentam capacidades cada vez mais sofisticadas de raciocínio, planejamento e comportamentos emergentes. À medida que esses sistemas aumentam em escala, complexidade e autonomia, sua interpretabilidade pode se tornar ainda mais difícil.
Segundo o pesquisador – que é membro titular da Academia Brasileira de Ciências e da Academia Nacional de Engenharia dos Estados Unidos -, um entendimento mecanístico mais profundo será essencial para garantir a segurança desses sistemas. Sem essa compreensão, torna-se mais difícil prever falhas, detectar comportamentos enganosos, assegurar o alinhamento com valores humanos e estabelecer mecanismos eficazes de governança.
Quando os objetivos da máquina entram em conflito com os valores humanos
Outro tema central do debate é o chamado desalinhamento algorítmico. Esse fenômeno ocorre quando um sistema de IA é otimizado para atingir determinado objetivo, mas a forma como o executa produz resultados incompatíveis com os interesses ou valores humanos.
Na prática, uma IA pode alcançar a meta para a qual foi programada e, ainda assim, gerar consequências indesejadas. Entre os riscos associados Virgílio Almeida destacou a amplificação de preconceitos, decisões injustas, manipulação de comportamentos, disseminação de informações falsas e impactos negativos sobre grupos vulneráveis.
Por essa razão, o alinhamento entre sistemas de IA e objetivos sociais tornou-se um dos principais temas da agenda internacional de governança tecnológica.
Governança equilibrada e foco no interesse público
Diante desse cenário, o Acadêmico defendeu que a governança da inteligência artificial busque um equilíbrio entre inovação e proteção social. “Uma regulação insuficiente pode permitir abusos e ampliar riscos, enquanto regras excessivamente restritivas podem dificultar avanços científicos e tecnológicos”, apontou.
A construção desse equilíbrio exige a participação conjunta de governos, academia, setor produtivo e sociedade civil. para Almeida, o desenvolvimento da IA não deve ser guiado exclusivamente pelo valor econômico, mas também por benefícios sociais mensuráveis, como sistemas de saúde mais eficientes, educação de melhor qualidade, avanços científicos e ambientes informacionais mais confiáveis.
Um novo papel para as agências de fomento
A velocidade com que a inteligência artificial evolui está colocando em xeque os modelos tradicionais de financiamento à pesquisa. Almeida ressaltou que as agências de fomento precisam assumir um papel mais estratégico, indo além do simples financiamento de projetos científicos.
Essas instituições são chamadas a contribuir ativamente para orientar o desenvolvimento da IA em direção ao bem público, alinhando investimentos às prioridades nacionais e regionais, como educação, saúde, produtividade, serviços públicos e adaptação às mudanças climáticas.
Além de apoiar oportunidades de inovação, as agências devem fomentar pesquisas voltadas para a compreensão dos riscos da IA, incluindo seus impactos sobre o mercado de trabalho, a concentração de poder econômico e tecnológico, a desinformação, a segurança cibernética e o uso militar dessas tecnologias.
Para isso, será necessário “tornar os mecanismos de financiamento mais ágeis, reduzindo o tempo entre a submissão de propostas e a implementação dos projetos, além de incentivar a colaboração entre universidades, empresas, startups, governos e organizações da sociedade civil”, apontou VIrgilio Almeida.
Formação de talentos e infraestrutura para a era da IA
Outro ponto destacado pelo Acadêmico foi a necessidade de fortalecer a capacidade científica e tecnológica da região. A formação de pesquisadores, engenheiros e profissionais capacitados para trabalhar com inteligência artificial deve tornar-se um objetivo central das políticas de ciência e inovação.
Os especialistas recomendam que programas de pesquisa integrem atividades de educação e treinamento, ampliando a formação de recursos humanos ao mesmo tempo em que promovem avanços tecnológicos.
Também será necessário investir em infraestrutura digital compartilhada, incluindo capacidade computacional, bases de dados de qualidade e plataformas abertas de pesquisa. “Sem esses recursos, a participação plena dos países latino-americanos na revolução da IA poderá ficar comprometida”, alertou Almeida.
Pesquisa para enfrentar os desafios da América Latina
As prioridades de pesquisa em inteligência artificial para a região devem estar conectadas aos desafios sociais, econômicos e ambientais da América Latina.
Entre os temas considerados estratégicos, Almeida destacou o uso da IA para acelerar o alcance dos Objetivos de Desenvolvimento Sustentável (ODS), a compreensão dos impactos da tecnologia sobre comportamentos individuais e coletivos, e o desenvolvimento de estratégias capazes de reduzir desigualdades e mitigar danos sociais.
Também ganha destaque o estudo dos efeitos da IA generativa e dos grandes modelos de linguagem sobre os ecossistemas de informação, os processos democráticos, a cultura e a circulação do conhecimento.
Pesquisa como fundamento da soberania tecnológica
A discussão sobre inteligência artificial está cada vez mais associada ao conceito de soberania tecnológica. Virgilio Almeida afirmou: “A América Latina precisa reduzir sua dependência de tecnologias desenvolvidas no exterior e fortalecer sua capacidade própria de pesquisa, inovação e desenvolvimento.”
Isso exige investimentos consistentes em talentos, dados, infraestrutura computacional e produção científica local. Exige também que os sistemas de IA sejam desenvolvidos de acordo com as necessidades, prioridades e valores das sociedades latino-americanas.
Nesse esforço, a cooperação regional é vista como um elemento estratégico para ampliar a autonomia tecnológica e fortalecer a capacidade de negociação da região em um cenário global cada vez mais competitivo.
O futuro ainda está em aberto
A mensagem final de Almeida é clara: a inteligência artificial não é apenas mais uma ferramenta digital. Trata-se de uma tecnologia estratégica, capaz de moldar o desenvolvimento econômico, científico, social e político das próximas décadas.
Para a América Latina, construir uma trajetória própria em IA dependerá da capacidade de investir simultaneamente em pesquisa, inovação, formação de talentos e governança. Também dependerá da disposição de enfrentar os riscos associados à tecnologia com a mesma seriedade dedicada à exploração de suas oportunidades.
O futuro da inteligência artificial ainda está em aberto. Mas a janela para influenciar esse futuro está se estreitando rapidamente. Para o Acadêmico, “a região precisa agir agora para garantir que a IA contribua para um desenvolvimento mais sustentável, inclusivo e alinhado ao interesse público.”