O sociólogo Nick Couldry trabalha na London School of Economics and Political Science, no Reino Unido. Seu trabalho é voltado principalmente para estudos de mídia e comunicações, cultura e poder, e teoria social. Ele apresentou uma Conferência Magna intitulada “IA como Mito e Colonialismo de Dados” na Reunião Magna da ABC 2024, no dia 7 de maio.
Couldry descreve a inteligência artificial (IA) como uma evolução da computação. “Não é inteligência, nem é artificial, porque depende do trabalho humano para treiná-la. É apenas probabilística, não é criativa”. E vai além: afirma que é uma descrição equivocada, que cria um reconhecimento equivocado. “No mínimo, é um exagero de marketing que serve aos interesses de algumas grandes corporações de tecnologia.”
Couldry defende que as práticas e discursos que chamamos de “IA” representam uma redefinição fundamental do conhecimento e de suas relações de poder. “E se impõe com a nossa participação, que incorporamos a IA na vida cotidiana sem entender o que está em jogo”, alertou.
Nossa ordem socioeconômica está sendo transformada através da IA, aponta Couldry, transformando a vasta capacidade de computação expandida em algo que chamamos de “inteligência”, mas são os resultados matemáticos de vasta e direcionada computação interativa que é… eficaz. “Mas não pode explicar por que é eficaz!” Ele citou Vint Cerf, que diz que a IA generativa gera previsões cujo único critério de eficácia é “credibilidade gramatical”. Couldry alerta que “confundir” os resultados da IA com conhecimento é cometer um erro de categoria profundo. “Se os resultados da IA, por mais eficazes que sejam como hipóteses, não podem explicar por que são plausíveis, então a IA é fundamentalmente diferente da inteligência humana”, observou.
E essa é uma questão importante, de acordo com Couldry, porque nossa percepção da IA pode reconfigurar o que chamamos de “conhecimento” e como ele estará incorporado à vida social. O que a IA entrega é uma produção acelerada de resultados ‘suficientemente bons’. E isso é uma mudança na construção social do conhecimento”, afirmou.
As consequências podem ser impactantes para a liberdade social, se esse poder cognitivo for continuamente aplicado e ocorra um aumento da “espionagem em massa” através da IA em grande escala. E podem impactar também nas instituições de conhecimento de todos os tipos: como, e em que termos, elas podem confiar no conhecimento baseado na experiência humana se ele se torna um ativo financeiro?
Assim, Couldry considera que vivemos uma nova fase nas relações entre colonialismo e capitalismo, que é o colonialismo de dados, uma ordem emergente para a apropriação da vida humana, de modo que os dados possam ser continuamente extraídos dela, com valor agregado. “O colonialismo de dados prepara o terreno para um novo modo de produção capitalista e organização socioeconômica, enquanto coexiste com o legado neocolonial. É uma continuação da tentativa do Ocidente de impor uma única versão de racionalidade ao mundo”, explicou o sociólogo.
Para o palestrante, estamos reimaginando o conhecimento em prol do poder computacional comercial massivo controlado, enquanto imaginamos os limites inerentes à computação. “E essa visão de conhecimento produz ignorância”, pontuou.
E Couldry propõe uma tomada de posição. “Se o ‘risco existencial’ da IA reside nas transformações sociais que se desdobram em torno dela, o papel das ciências sociais não deveria ser a aceitação, mas sim a crítica da IA.”
