O leviatã é uma serpente marinha demoníaca, referenciada no Antigo Testamento. Também foi a criatura escolhida por Thomas Hobbes, no século XVII, para dar título a sua teoria pioneira sobre o contrato social. O Estado deveria ser uma entidade unificada e onipotente, que desperta medo nos humanos. Leviatã algorítimco é a expressão escolhida pelo sociólogo Ashwin Varghese para falar de sistemas de policiamento algoritimizados que encontrou em Kerala, Índia.
Kerala é um dos 28 estados que compõem a Índia e se destaca por ter o maior índice de desenvolvimento humano (IDH), além dos melhores indicadores de segurança pública.
Em 2019, a polícia de Kerala lançou um “recruta robô”, chamado de KP Bot .Mas ele não ganhou funções de patrulhamento avançado, como no filme Robocop. Suas tarefas eram circunscritas ao escritório da polícia e serviam para demonstrar a introdução de novas tecnologias aplicadas no policiamento pelo governo local.
Uma série de reformas tem buscado implantar tecnologias digitais para uma melhor governança administrativa, inclusive na área de segurança, em Kerala. Para além de digitalização de processos, recentemente a Inteligência Artificial foi incorporada como uma das iniciativas. Um novo software chamado iCOPS foi implantado para analisar o extenso volume de dados produzidos diariamente pelas polícias a fim de proporcionar a transição para um “policiamento inteligente”.
Esse cenário é analizado por Varghese, no artigo “E-Governance and Smart Policing in Kerala, India: Towards a Kerala Model of Algorithmic Governance?”, publicado no livro Policing and Intelligence in the Global Big Data Era.
O pesquisador faz uma profunda imersão nas transformações políticas e econômicas das últimas décadas que influenciaram documentos, planos e normas da segurança pública de Kerala. Ele observa como a tecnologia foi utilizada como uma promessa para afastar a ideia de viés, de partidarização, ou mesmo de corrupção na polícia. A gerência pelos “especialistas” refletiria o sonho das reformas neoliberais a partir da década de 1980.
“A transformação tecnológica das instituições estatais tem sido o sonho de reformas tecnocráticas e neoliberais, através das quais a tecnologia é percebida como isenta de preconceitos, apartidária e impulsionada pelos especialistas, tornando assim as instituições estatais mais ‘eficientes’. A governança algorítmica sob a promessa de ‘eficiência’ também oferece a possibilidade de reforma através de conhecimentos especializados, isolados das pressões democráticas.”
Apesar disso, o suposto processo de modernização do policiamento tem diferentes camadas de percepção entre os agentes de segurança, segundo as entrevistas realizadas pelo pesquisador. A adoção de ferramentas digitais mais elementares não geraram receios, mas a algortitimização e o uso da inteligência artificial levanta questões relacionadas à privacidade e à discriminação introduzida nas tecnologias.
“Embora a digitalização como incorporação de tecnologia moderna (computadores, telefones e outros dispositivos digitais) não seja vista como uma ameaça à privacidade e ao aumento da vigilância, a adoção de infraestruturas algorítmicas é cada vez mais vista como tendo a possibilidade de violar a privacidade, aumentando a discriminação e a marginalização.”
Varghese conclui que as atuais infraestruturas algorítmicas estatais aplicadas ao policiamento preditivo têm sido alvo de consideráveis críticas pela falta de responsabilização ou escrutínio claro. Se, por algum lado, os sistemas poderiam prover alguma automatização, por outro facilmente poderiam se tornar um leviatã algorítmico, que produz uma governança apolítica sobre as ações de segurança. Em última instância, a falta de uma maior transparência sobre os recursos, softwares, modelos e algoritmos, estaria criando uma caixa preta, validada como aparelho de Estado, com capacidade de coerção social.