Stuart Russell e Edgar Zanotto

A Conferência Magna do terceiro dia da Reunião Magna da Academia Brasileira de Ciências 2021 recebeu o cientista computacional Stuart Russell, professor da Universidade da Califórnia em Berkeley e fundador do Centro para Inteligência Artificial Humano-Compatível (CHAI). Russell é co-autor do mais popular livro sobre inteligência artificial (IA) no planeta: “Inteligencia Artificial: Uma abordagem moderna”, que possui quase 50 mil citações até o momento.

A apresentação foi realizada nesta quarta-feira, 13 de outubro, e contou com moderação do membro titular da ABC Edgar Zanotto.

O problema com o modelo tradicional de Inteligência Artificial

Para Russell, existe um problema com o modelo padrão de criação de IA, que programa máquinas para realizar um objetivo fixo, ao qual devem perseguir desconsiderando quaisquer outros fatores. “Por exemplo, os algorítmos das redes sociais são pensados para maximizar cliques. Para isso, na teoria eles deveriam aprender o que as pessoas querem, mas existe uma outra forma de atingir esse fim específico, que é manipular o comportamento das pessoas para torná-las mais previsíveis. Estamos vendo que, aparentemente, a solução mais prática nesse sentido é criar uma sociedade de extremistas”, analisou.

O palestrante acredita que a inteligência artificial caminha para ultrapassar os humanos em capacidade de tomar decisões, mas que, ao contrário do que previu o pai da informática moderna Alan Turing, isso não significa que as máquinas necessariamente tomarão o poder. “Eu discordo de Turing, mas para que permaneçamos no controle precisamos entender que o modelo padrão é falho. O problema está no fato de que não conseguimos especificar objetivos completamente e corretamente no mundo real. Precisamos levar isso em conta e adotar um novo modelo”.

Inteligência artificial humano-compatível

Esse novo modelo que Russell defende passa por desenvolvermos IA que não persigam apenas um objetivo específico, mas que levem em conta os benefícios e malefícios gerais de suas ações, e, principalmente, reservem aos humanos a palavra final decisória. “É o problema clássico do botão de desligar. Uma máquina com objetivos fixos é desestimulada a se desligar, pois isso impossibilita que ela cumpra sua função. O princípio é que, sempre que confrontada com uma incerteza sobre as consequências de suas ações, a IA dê a possibilidade de interferência humana”, explicou.

Para Russell, esse princípio básico deve ser expandido e considerar múltiplos fatores, como a multiplicidade de preferências na população humana e a própria incapacidade humana de definir seus objetivos de forma totalmente racional. “Todo o nosso comportamento está embrenhado numa teia complexa de objetivos à curto, médio e longo prazo, influenciado por emoções e incertezas. Nossas preferências não seguem uma estrutura matemática simples.”

O palestrante defende a autonomia humana como parte central desse novo modelo pois acredita que este é um dos nossos principais objetivos. “De certa forma, a autonomia não é mais um fator entre muitos, mas um ‘contra-fator’, no sentido em que, não importa o que aconteça, sempre nos reservamos essa opção”, avalia.

Russell terminou sua apresentação destacando o potencial que a IA tem de melhorar a vida humana, e deixou uma mensagem para os desenvolvedores de IA: “esta não é apenas uma questão de ética computacional, mas programar IAs melhores, que cumpram melhor nossos objetivos da forma como nós esperamos”.

Debate

Ao fim da palestra, o espaço foi aberto para comentários dos participantes. Os temas principais abordados foram os seguintes:

Inteligência Artificial e Direitos Humanos

Respondendo a uma pergunta sobre como impedir que o potencial imenso da IA seja usado para fins maléficos, Russell foi otimista. “Eu acredito que, contanto que expliquemos as coisas de forma clara, a maior parte das pessoas almeja o melhor para a humanidade. Este parece ser o caso da União Europeia. Estive envolvido no processo legislativo da nova regulamentação de IA, e, na maioria das áreas, estamos vendo avanços significativos”.

Entretanto, em um tema particular considera que não se têm regulamentação suficiente: armas autônomas. Russel, que faz parte de um movimento internacional para banir esses armamentos, avalia que essa tecnologia está sendo desenvolvida muito rápido sem a devida atenção. “Quando levamos esse problema aos embaixadores, eles sempre dizem que não precisamos nos preocupar pois é algo que ainda não alcançamos – exceto que elas já existem e já estão matando pessoas. A regulamentação que estão aprovando na UE é fraca nesse ponto, pois impedem apenas coisas de ficção científica, tudo além disso é aceito”, avaliou.

Potencial da Inteligência Artificial de atingir consenso

O palestrante foi questionado também sobre a capacidade que a IA tem de conseguir consenso entre a sociedade sobre como melhor perseguir objetivos coletivos. Russell respondeu que já existe tecnologia para isso, falta coordenação e negociação. “No momento, o mecanismo que usamos para decisões em larga escala se chama eleição. O que fazemos nas eleições é enviar uma fração de informação sobre nossas preferências para ser computada. Sistemas de IA poderiam construir uma estrutura muito mais rica, densa e frequente de troca de informação sobre preferências e soluções”.

 

Assista a Conferência Magna do terceiro dia da Reuniâo Magna da ABC em português.

Assista a Conferência Magna do terceiro dia da Reuniâo Magna da ABC em inglês.