No senso comum, a inteligência artificial é vista como conveniente, eficiente e inevitável. No entanto, sob a superfície de chatbots e assistentes virtuais, essa tecnologia pode estar alimentando um novo sentimento autoritário global. Em diferentes contextos políticos , o uso da IA perseguiria o mesmo horizonte: automatizar o monitoramento, expandir a repressão, centralizar o poder e, principalmente, isentar os humanos da responsabilidade. Estaríamos diante de uma nova ordem política que busca naturalizar o destino técnico.
Imagem gerada por IA generativa usando argumentos: IA, idelogoia e autoritarismoEsta reflexão crítica está no artigo “AI Authoritarianism: Towards an Analytical Framework”, publicado no periódico Transactions of the Institute of British Geographers da John Wiley & Sons Ltd. Os pesquisadores Thomas Dekeyser (Universidade de Southampton), Casey R. Lynch (Universidade de Girona) e Sophia Maalsen (Universidade de Sydney) propõem que a IA não está apenas estendendo o autoritarismo, mas está remodelando-o.
“Nosso argumento é que a IA altera o que é o autoritarismo, como ele é conduzido e o que ele é capaz de realizar. Sugerimos que a IA modifica qualidades centrais do autoritarismo, incluindo a centralização do poder, a supressão da dissidência, o culto a um líder humano e a impossibilidade de responsabilização.”
A desumanização seletiva
Diferente do termo “artificial” o artigo argumenta que as IAs seriam desumanas por automatizarem as decisões. Também seriam seletivas porque apenas algumas pessoas conseguem influenciar o rumo dessas tecnologias.
Essa autonomia técnica, contudo, é distribuída de forma desigual. Enquanto a maioria da população vê seu trabalho e sua capacidade de decisão substituídos por IAs, uma elite privilegiada de líderes políticos e CEOs corporativos tem sua agência amplificada exponencialmente. O autoritarismo da IA centraliza o poder ao colocar o controle nas mãos daqueles que detêm as chaves da infraestrutura. Em última instância, provoca uma elitização profunda dentro das desigualdades já existentes.
“O autoritarismo da IA aprofunda a centralização autoritária do poder, colocando-o naturalmente nas mãos de poucos escolhidos: políticos, empresas e gestores que veem seus poderes amplificados”.
O culto à inteligência e a obscuridade da máquina
O autoritarismo algorítmico sustentaria-se sobre o que os autores chamam de “culto à inteligência”: uma crença obsessiva e restritiva na inteligência das máquinas. Esse culto tem raízes sombrias na eugenia do século XIX, que buscava hierarquizar indivíduos com base em métricas cognitivas consideradas universais.
Hoje, líderes do Vale do Silício resgatam a ideia e se apressam para apresentar a Inteligência Artificial Geral como algo “semelhante a um deus” ou uma superinteligência inevitável. Ao elevar a inteligência de máquina a condição de única medida de valor e verdade, qualquer dissidência política ou recusa ética é convenientemente desqualificada como ignorância ou estupidez. O profetismo tecnológico serve para despolitizar o debate: se a IA é onisciente, contestá-la torna-se irracional.
A escalabilidade e a dificuldade de auditoria
A infraestrutura da IA, composta por vastos data centers e diferentes modelos de linguagem, introduz uma escala de processamento que ultrapassaria a capacidade humana de análise. Esse fenômeno gera o “naturalismo artificial”: a aceitação de que as normas produzidas pela IA são verdades objetivas e inquestionáveis simplesmente porque derivam de conjuntos de dados imensos demais para serem auditados.
Essa escala serve como uma blindagem contra a responsabilidade. Ao ofuscar as decisões humanas e os vieses que informam a construção dos bancos de dados, o sistema tornaria-se tecnicamente inexplicável. Quando uma decisão autoritária é derivada dos dados, a capacidade de cidadãos e instituições de contestar o poder é limitada, naturalizando a hegemonia maquínica sob o manto da complexidade técnica.
“A desumanização, o culto à inteligência e a escalabilidade são centrais para o funcionamento e a ideologia da IA, com implicações cruciais para a teoria e a prática do autoritarismo.” escrevem os autores.
Nas três seções subsequentes, eles mostram como essas características únicas da IA se manifestam de formas interconectadas em diferentes planos do autoritarismo. Focam, primeiro, no tecnomaterial (código), depois no ideológico (Vale do Silício) e, por fim, no cotidiano (governo local).
A supressão da diferença
Historicamente, o autoritarismo lidava com a diferença: o dissidente, o manifestante, o marginalizado. A IA, no entanto, introduziria a lógica da integração maquínica (ou supressão) da diferença. Baseada em princípios cibernéticos de retroalimentação, a IA utilizaria a própria resistência para se fortalecer.
Ações recentes ilustram essa imbricação violenta: o uso da IA pelas Forças de Defesa de Israel para identificar e alvejar palestinos em Gaza demonstra como a tecnologia automatiza a produção da diferença e da morte em escala (tema já abordado no PlanoB em outro texto: Dadificação da morte: um genocídio controlado por IAs e comandado por Israel).
Outro exemplo, no plano civil: a empresa Palantir colabora com o governo dos EUA para construir um banco de dados sobre migrantes, integrando informações de diversas agências federais para fins de deportação.
Nesse sistema, uma declaração anti-regime não é apagada, mas transformada em dados para treinar modelos de reconhecimento de padrões de dissidência. A resistência tornaria-se insumo produtivo para o sistema de controle, refinando algoritmos de vigilância. Os autores levantam a questão: como poderia haver resistência a algo que se alimenta da sua própria oposição?
Ideologias do Vale do Silício
O Vale do Silício funciona como o laboratório ideológico dessa nova era. O estudo destaca como a Ideologia Californiana, que mesclou peculiarmente anarquismo hippie e liberalismo econômico, manifesta-se no chamado “trescreal”, acrônimo que resume o transumanismo, extropianismo, singularitarianismo, cosmismo, racionalismo, altruísmo efetivo e longoprazismo.
Este conjunto de crenças apregoa desde “aprimorar” os seres humanos, remodelar os valores e até criar uma inteligência externa, tudo por meio da tecnologia. E vai além: o racionalismo e o altruísmo efetivo reivindicam “suprimir” as deficiências morais e consideraria correto o ato de enriquecer sem limites para as pessoas que supostamente “fazem o bem”. Por fim, o longoprazismo seria multiplicar a humanidade por outros planetas. Se isso lembrou ideias de bilionários da tecnologia, não é coincidência.
Essa mentalidade legitima concentrações abismais de riqueza e poder, sob o argumento de que somente CEOs superiores podem direcionar recursos para o “bem maior” da Inteligência Artificial Geral.
Essa visão também ocorre na esfera militar: contratos vultosos com a Palantir e a OpenAI culminaram na criação do “Destacamento 201 do Exército dos EUA”, em que executivos de tecnologia são comissionados como oficiais da reserva, fundindo interesses corporativos e poder estatal.
O autoritarismo no cotidiano
O autoritarismo da IA não é espetáculo apenas de regimes ditatoriais, ele infiltra-se no cotidiano por meio da governança urbana. Nas cidades, o poder desloca-se do “burocrata de nível de rua”, do planejador urbano que usa ética profissional e conhecimento local para negociar conflitos, para a “burocracia de tela”, isto é, decisões pré-determinadas, de limitado escrutínio e de difícil contestação.
No planejamento de cidades, como em experimentos na Austrália citados pelos autores, a IA elimina a margem de discricionariedade e a negociação coletiva. Ao transformar decisões urbanas inerentemente políticas e contextuais em fórmulas matemáticas opacas, a IA desqualifica o saber profissional e centraliza a autoridade nos designers de sistemas. Isso impede que a ética pessoal atue como um freio contra os excessos do poder, tornando a gestão urbana um processo puramente tecnocrático e inalcançável para o cidadão comum. Além disso, elimina a capacidade de discussão democrática por meio de instrumentos institucionais já arquitetados nas democracias modernas.
Nayib Bukele, presidente de El Salvador, é o resumo profético dessa tendência. Simultaneamente, ele suspende direitos constitucionais e expande o encarceramento em massa, enquanto também defende publicamente “dar à luz à superinteligência” e criar a “mente de Deus” para resolver os problemas da humanidade.
O quadro analítico de Dekeyser, Lynch e Maalsen alerta que a IA não é neutra e suas tendências autoritárias estão embutidas em seu design de centralização e opacidade. O desafio futuro não é apenas regular algoritmos, mas questionar se existe alguma IA que não seja, por definição, uma ferramenta de dominação. Rastrear essas tendências seria o primeiro passo para imaginar uma tecnologia que não exija, como tributo, a nossa própria capacidade de decisão política. Segundo eles, “refletir sobre a relação entre IA e autoritarismo pode nos ajudar a imaginar e avaliar criticamente as possibilidades de uma IA não autoritária ou mesmo antiautoritária”
Capitalismo de vigilância no Sul Global
A relação entre autoritalismo e IA empreendida pelos autores se enquadra no eixo de pesquisa que OplanoB (oplanob.com) classifica como “capitalismo de vigilância no Sul Global”, partindo da perspectiva que os diferentes tipos de poder (político, econômico, simbólico) se realizam na relação de exploração entre Norte e Sul. As ideologias são defendidas para que se abram caminhos – mesmo que autoritários – para a contínua extração de valor (de dados, de trabalho, de vidas) no Sul, a fim de continuar alimentando a máquina onipresente do Norte.
Para ler o artigo: https://doi.org/10.1111/tran.70048
Esta nota faz parte do projeto “Inteligência Artificial e Capitalismo de Vigilância no Sul Global”, realizado pelo Labjor - Unicamp | Laboratório de Estudos Avançados em Jornalismo. Conta com o apoio da Rede Latino-Americana de Estudos sobre Vigilância, Tecnologia e Sociedade (LAVITS) e da Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP), pelo Programa José Reis de Incentivo ao Jornalismo Científico (Mídia Ciência).