O paradigma educacional tecno-utopista na Coreia do Sul

por Fabricio Solagna em 11 de setembro de 2024, Comentários desativados em O paradigma educacional tecno-utopista na Coreia do Sul

A pandemia de COVID-19 acelerou o processo de digitalização em diversas áreas e abriu uma avenida para as big techs. A educação foi uma área bastante impactada com as ideias tecno-solucionistas, envernizadas como salvação para o atraso do Sul em relação ao Norte, conjugadas com vigilância e datificação.

Este cenário na Coreia do Sul é estudado pela pesquisadora Saemi Nadine Jung, da Escola de Comunicação da Universidade Simon em Vancouver, no Canadá, cujo trabalho foi publicado em artigo na International Journal of Communication, importante revista acadêmica multidisciplinar, com foco em assuntos relacionados à comunicação. Ela realizou uma pesquisa de 2021 a 2023 sobre as políticas educacionais geradas principalmente em resposta à pandemia, lançadas sob o guarda-chuva de “Korea New Deal”.

A intenção do estudo não foi fazer uma avaliação qualitativa das políticas, mas enfatizar como o trabalho de definição de uma agenda verticalizada em torno do uso tecnologia na educação foi impulsionada e justificada por mitos de modernização e progresso tecnológico, emulando políticas do ocidente.

Ao revisar os planos produzidos pelo Ministério da Educação, Jung demonstra como os documentos sul-coreanos são dominados por um enquadramento explicitamente neoliberal, que sugere aos indivíduos “investir em uma vida empreendedora”, por exemplo, e que, ao mesmo tempo, recupera palavras-chave do pós-guerra. Assim, ela afirma que há um deslocamento dos valores da educação para promover “o crescimento individual e da criatividade” e para mobilizar “talentos digitais” para “resolver desafios internacionais”, a despeito de valorizar a formação do pensamento crítico.

Outra parte da análise da pesquisa se dedica a estudar uma peça publicitária em formato de vídeo no canal oficial do governo no Youtube sobre o aniversário do New Deal coreano. Nela, é anunciada o novo modelo de escola futurista chamada “Escola Verde Inteligente do Futuro”, que se utiliza de inteligência artificial, reconhecimento facial e tecnologias algorítmicas para análise preditiva de desempenho. Questões de privacidade e autonomia das crianças são desconsideradas, ao passo escola que é retratada como um espaço utópico “onde coisas mágicas acontecem”, segundo a pesquisadora.

Com referências que evocam Harry Potter e de Hogwarts, as escolas fictícias se diferenciariam por oferecer tecnologias de aprendizagem personalizada. Esta personalização é calcada em profunda datificação para avaliação algorítmica, o que leva à conclusão da pesquisa que “o discurso de reforma educacional liderado pelo Estado é muito similar aos discursos encontrados na indústria tecnológica”.

Aqui no Brasil também houve um extenso estudo sobre o impacto atual das tecnologias na educação, publicado pelo Comitê Gestor da Internet no Brasil (CGI.br). O livro está disponível para download e também é possível solicitar a versão impressa: Educação em um cenário de plataformizaçãoe de economia de dados. O material foi fruto de um grupo de trabalho que analisou as plataformas na educação remota e traz um olhar sobre os desdobramentos do período da pandemia até o momento.

Para ler o artigo: https://ijoc.org/index.php/ijoc/article/view/21145


Esta nota faz parte do projeto “Inteligência Artificial e Capitalismo de Vigilância no Sul Global”, financiado pela Rede Latino-Americana de Estudos sobre Vigilância, Tecnologia e Sociedade e realizado pelo Labjor – Unicamp | Laboratório de Estudos Avançados em Jornalismo

Novo projeto: Inteligência Artificial e Capitalismo de Vigilância no Sul Global

por Fabricio Solagna em 11 de setembro de 2024, Comentários desativados em Novo projeto: Inteligência Artificial e Capitalismo de Vigilância no Sul Global

Olá pessoal, a partir de hoje começamos a publicar notas e texto de um novo projeto, chamado “Inteligência Artificial e Capitalismo de Vigilância no Sul Global”. Serão notas curtas, de jornalismo científico, baseadas em uma busca por dezenas de revistas científicas brasileiras e internacionais.

Imagem gerada por IA generativa usando palavras chave: IA e Sul Global

Queremos trazer questões que interlaçam as tecnologias de inteligência artificial e o modelo de negócios conhecido como capitalismo de vigilância. Optamos aqui pelo conceito trabalhado por Shashana Zuboff, mas expressões como capitalismo de plataformas ou mesmo economia de dados tratam basicamente do mesmo fenômeno.

A partir desses temas, buscamos uma perspectiva localizada a partir do Sul Global. Isso significa ressaltar como mercados e trabalhadores do Sul Global são parte inerente de um modelo econômico baseado em exploração e expropriação. Ao mesmo tempo, sublinhamos como esses processos só podem acontecer com o auxílio de parceiros capitalistas locais. E, nessa dinâmica geral, também nos interessam as resistências, alternativas e perspectivas simbólicas que partem do Sul Global.

Sul Global não é entendido aqui como uma categoria necessariamente geográfica, em que países se dividem em blocos homogêneos e sempre consistentes. Procuramos usar o termo como uma marca de exclusão e opressão históricas que afetam populações, grupos e regiões. Assim, há populações identificadas com o Sul Global vivendo nos países ocidentais, da mesma forma que o Norte Global deriva sua força dos laços políticos e simbólicos que estabelece com certos grupos vivendo no Sul.

Esta iniciativa busca, portanto, derivar uma linha editorial de produção de jornalismo científico de um olhar sociologicamente informado sobre uma bibliografia das ciências humanas. É a partir dessa linha editorial que textos são escolhidos e que a angulagem jornalística é elaborada.

O projeto é financiado pela Rede Latino-Americana de Estudos sobre Vigilância, Tecnologia e Sociedade e será realizado pelo Labjor da Unicamp. Nele, vão trabalhar, o bolsista de pós-doc Fabricio Solagna e a estudante de especialização Maria Vitória Pereira de Jesus, supervisionados pelo pesquisador da Lavits e do Labjor/Unicamp, Rafael Evangelista.

Investimentos públicos, dados privatizados

por Camila Montagner em 3 de agosto de 2017, Comentários desativados em Investimentos públicos, dados privatizados

Como uma orquestra de atores privados e públicos, do interior de São Paulo até o Vale do Silício, monitora dados de deslocamento no transporte público ao mesmo tempo em que nega informações à sociedade civil

No discurso, o sistema de controle do transporte público seria tão azeitado que o município não precisaria nem alertar o consórcio de ônibus sobre um motorista que passou reto no seu ponto: núcleos de monitoramento nas duas empresas – uma pública e outra uma associação de concessionárias – seriam capazes de intervir na hora certa em nome do interesse da população. Na prática, enquanto reclamações dos cidadãos sobre a ineficiência do sistema se amontoam, entes desregulados pegam carona em contratos públicos para agirem em nome de interesses privados.

Confrontada com as reivindicações por um serviço de transporte público passível de controle social, a Transurc se nega a comentar os acordos que faz com atores privados e as vantagens que obtém com os subprodutos da operação da qual é concessionária. Ao mesmo tempo, dados que poderiam servir para a fiscalização cidadã são negados a uma entidade civil e liberados para a Google Transit.

Desde 2015 os ônibus públicos de Campinas contam com o sistema AVL (sigla em inglês para Localização Automática de Veículos), que envia informações de localização dos veículos a cada meio minuto para servidores na internet. Sistemas como esses podem ser utilizados por um conjunto diverso de atores. Por parte da administração, pode servir gerir o sistema público da cidade; pela pela população, para planejar suas viagens; já a sociedade civil poderia fiscalizar a prestação de serviços pelo consórcio de empresas de transportes, que só em 2016 recebeu R$ 95 milhões em subsídios. No entanto, não é o que acontece

O sistema AVL foi implantado com recursos da Empresas de Transporte Coletivo Urbano de Campinas (Transurc) por uma empresa contratada por ela, a Cittati. Na ocasião, foi divulgado pela Empresa Municipal de Desenvolvimento de Campinas (Emdec) que a implantação do sistema custou à Transurc R$ 4,7 milhões. Mas o equipamento faz parte de um acordo de comodato – continua pertencendo à Cittati, que recebe um pagamento mensal pela cessão.

O equipamento AVL, segundo o gerente de produto da Cittati, Igor Mosseri, foi configurado para o sistema da empresa de tecnologia. Mosseri diz que a disponibilização dos dados desse sistema para auditoria externa depende da autorização da Transurc, já que a empresa foi contratada diretamente pela associação. Já a Transurc alega que é uma associação privada, e se nega a comentar seus contratos com outras empresas.

Além do sistema AVL, a contratação da Cittati pela Transurc também inclui a operação do GOOL System – um software de monitoramento de frotas (e motoristas) em tempo real que promete aumentar a eficiência operacional das empresas de ônibus – e o CittaMobi, um aplicativo de celular que extrai a localização do usuário e calcula uma previsão de chegada do veículo do transporte público mais próximo que circula na linha escolhida.

Ainda que a Emdec não faça parte do contrato, o Núcleo de Monitoramento de Transporte (NUMT) foi montado dentro de sua sede, com o investimento de R$ 300 mil, também proveniente da Transurc. A operação do núcleo teve início em 2015, quando foi anunciada em conjunto com a implantação do AVL, em um release que afirma que “seis profissionais da Emdec acompanham a operação e o cumprimento das ordens de serviço pelas 206 linhas municipais”.

Segundo Mosseri, os dois núcleos de monitoramento – o que está instalado dentro da Transurc e o que está instalado na Emdec – operam versões diferentes do GOOL System. “Quando a Emdec cria um quadro horário, que é como a gente chama uma programação horária, ela vai falar: a linha tem esse tracejado e tem essas viagens. Ela pensa só nas viagens, não tem que pensar a que horas o motorista vai almoçar. A empresa [concessionária] que tem o motorista como funcionário que tem que pensar nisso, em como vai ser a programação. Há algumas diferenças”.

A partir das configurações do software, a Cittati – que é uma empresa de tecnologia que se propõe a “aumentar a eficiência e reduzir custos” da operação das concessionárias de ônibus – estaria impondo, em nome da Transurc, limites e condições de acesso às informações sobre o transporte público.

Pelo menos alguns desses limites se aplicam inclusive à Emdec. Segundo Mosseri, para ter acesso a informações de viagens realizadas há mais de seis meses, a Emdec precisa fazer uma solicitação para obter a liberação da Cittati. A Cittati, por sua vez, contratou pelo menos outras duas empresas de armazenamento para guardar essas informações – a Amazon, nos EUA, e a Equinix, em Alphaville.

Entre o segundo semestre de 2014 e o fim de 2015, 1,2 mil cargos de cobrador (aproximadamente 75% do total) foram extintos do sistema do transporte público municipal. Mesmo com a redução expressiva no número de funcionários na folha de pagamento, em janeiro de 2016 a tarifa subiu de R$ 3,50 para R$ 3,80, ainda que o ano tenha registrado um recorde no subsídio público. Desde janeiro de 2017 o valor pago pelo passageiro é de R$ 4,50.  Se a promessa de redução de custos de operação feita pela Cittati chegou a se concretizar, seu impacto não chegou aos cofres públicos nem ao usuário do serviço de transporte municipal.

Fiscalização bloqueada

Em 2015, o Tribunal de Contas do Estado (TCE) anulou a concorrência do transporte público campineiro realizada em 2005, com prazo de vigência de 15 anos. Na tentativa de estabelecer bases mais rigorosas para essa concessão, a Rede Minha Campinas criou a campanha “Quanto melhor a licitação, melhor o busão!”. A ideia era pressionar o secretário municipal de transportes a incluir na licitação critérios que permitissem o controle social. Uma das reivindicações do grupo é um sistema de dados abertos para monitoramento por GPS, algo que permitisse aos cidadãos saber a localização de todos os ônibus simultaneamente, em tempo real.

O co-fundador da Rede, André Bordignon, explica que o objetivo é verificar se os pontos da contratação pública são seguidos. “O ponto é fiscalizar se os 1,2 mil ônibus previstos em contrato estão rodando, considerando que tem mais no horário pico e tudo mais. Não forneceram esses dados alegando problema de segurança”.

A justificativa para negar a abertura dos dados do transporte público de Campinas contrasta com a postura de outras administrações municipais, como a de São Paulo, por exemplo, que possui uma base de dados aberta com informações em tempo real do transporte público. Isso possibilita até mesmo a criação de plataformas digitais de divulgação semelhantes ao próprio CittaMobi.

Facilidades para a Google Transit

Dados que poderiam servir para a fiscalização cidadã, negados a uma entidade civil, são, no entanto, liberados para a Google Transit, por meio de um acordo firmado em junho.

 

No release divulgado sobre a “parceria” consta que tanto a Emdec quanto a Transurc são parte da operação, como se formassem um consórcio. Ao ser procurada para se posicionar a respeito do assunto, a assessoria de comunicação da Transurc se recusou a comentar a relação com os parceiros e as vantagens que obtém com os subprodutos da operação da qual é concessionária. A Emdec também foi questionada, mas não respondeu até o fechamento da matéria; e o gerente de produto da Cittati não respondeu à solicitação sobre a contrapartida recebida da Google Transit .

“Faz bastante tempo que a gente vem trabalhando nessa parceria. A Google Transit, na verdade, procurou a Cittati. Eles têm muitos projetos de levar informação em larga escala. Só que eles têm muita dificuldade em chegar em uma informação mais local. A gente tem essa informação, algo que é muito difícil para eles. Temos um GPS dentro de cada carro, temos um sistema que engloba todas as regras de negócio daquele lugar que é operado pelas equipes das garagens. Cada garagem tem um sistema 24 horas para garantir que a informação seja constante. Esse nível de informação é muito valioso para eles”, diz Mosseri.

O formato cedido ao Google pela Cittati, segundo Mosseri, é o GTFS em tempo real, uma especificação que define um padrão de troca de informações de transporte. É também o formato disponibilizado pela São Paulo Transportes (SPTrans), que é responsável pela gestão do serviço público de ônibus paulistano operado por 16 consórcios, na interface de programação de aplicativos (API) do Olho Vivo, um sistema de monitoramento do transporte.

O formato GTFS em tempo real comporta o repasse de informações sobre atualizações de viagem como atrasos e cancelamentos; alertas de serviço em caso de alterações no funcionamento do sistema; e posições dos veículos, incluindo localização e nível de congestionamento. Ao fornecer informações de localização atreladas ao horário de geração desses dados, em tese, seria possível saber se nos horários de pico o número máximo de veículos previstos no contrato de concessão estaria realmente em circulação.

Em um site destinado aos seus “parceiros”, a Google Transit dá especificações e instruções com dicas de código e de programação para desenvolvedores formatarem seus dados para fornecer à empresa o que ela chama de “atualizações dinâmicas”.

Como o GTFS é, por princípio, um padrão estático, a sua extensão “tempo real”, segundo a Google Transit, foi formulada por “desenvolvedores do transporte público” em conjunto com a empresa americana. Apesar de não exibir a localização dos veículos para os usuários do aplicativo Google Maps, a empresa dirige aos seus potenciais fornecedores de dados o seguinte aviso: “recomendamos que você compartilhe esses dados, já que pretendemos adicionar esse recurso no futuro”. Procurada pela reportagem, a empresa não quis comentar sobre os termos de seu acordo com a Cittati.

Quando questionado sobre o formato cedido para o Google, Mosseri respondeu que “salvo engano, GTFS é o que a gente faz com o Google, mas não é aberto, é específico para o Google. Hoje ele consome GTFS, só que esse serviço não é aberto para os outros”. No site da Google Transit destinado aos parceiros não há menção a nenhum outro formato possível para fornecimento de informações além do GTFS estático e sua extensão para transferências de dados em tempo real.

Antes do acordo com a Google Transit, a Cittati tinha a vantagem de ser a única habilitada a fornecer uma previsão de chegada aos usuários do transporte público com base nos dados provenientes do sistema AVL (alguns aplicativos usam, por exemplo, a tabela de horários previstos para a realização das viagens). Com a parceria, a empresa divide a vantagem dessa exclusividade para o Google, que realiza um outro tipo de cálculo, a partir das informações de localização dos ônibus em tempo real, mas o histórico de viagens e horários de partida, por exemplo, continua nas mãos da empresa brasileira.

Essa informação, que poderia servir a propósitos de interesse público – como comparar o percentual de viagens previstas que foram de fato realizadas ao longo dos anos para identificar a necessidade de um corredor de ônibus em determinada região que atravessa um momento de intensificação de tráfego, por exemplo – hoje se encontra na mão de atores privados, que têm como principal interesse usar esse tipo de informação para alimentar atualizações de seus próprios softwares e realizar acordos privados opacos a partir dos subprodutos da operação de um serviço municipal.

Liberdade vantajosa

A Google Transit oferece atualmente na plataforma Google Maps um serviço parecido com aquele disponibilizado pelo próprio CittaMobi, ou seja, uma previsão de chegada do veículo mais próximo circulando na linha selecionada pelo usuário. A Cittati acaba funcionando como uma atravessadora que entrega as informações para a Google Transit, em um formato que foi reclamado e negado a uma entidade civil local.

A desregulamentação desses agentes permite que os mesmos se coloquem, quando convém, como executores do aprimoramento de um serviço público e, ao mesmo tempo, reivindiquem sigilo de negócios e reclamem sua natureza de ator privado para proteger seus próprios interesses.

A Cittati teve origem em uma garagem de concessionária do transporte público do Recife, e é uma empresa de tecnologia criada por um grupo de empresas de ônibus. Chegou a Campinas justamente porque um outro grupo empresarial – que atua em Guarulhos e contratou os seus serviços primeiramente para a cidade da região metropolina de São Paulo – também responde pela operação de coletivos do sistema de Campinas.

Assim como as informações fornecidas à Google Transit são consideradas algo “muito valioso”, a Cittati também é detentora de outros dados importantes. O cálculo da previsão de chegada no aplicativo CittaMobi, por exemplo, é feito mediante a cessão da localização do celular, e a extração dessa informação se dá independente de o usuário embarcar ou não. Além disso, os termos de uso estabelecem que todas as informações veiculadas no aplicativo – o que inclui as reclamações de usuários a respeito do serviço de transporte – são de propriedade da empresa.

A atuação de um agente desregulado como a Cittati, mantendo relações opacas com grandes empresas privadas como a Google Transit, a partir de um sistema com dados fechados a respeito de um serviço de transporte público de massa, dá a ela a titularidade sobre a rentável possibilidade de extrair, analisar e repassar dados sensíveis da parte significativa da população, que depende desse serviço para se locomover.

Cerca de 224 mil pessoas são transportadas por dia pelo sistema de transporte público de Campinas. Em 2016, a Emdec encomendou ao professor Miguel Juan Bacic, do Núcleo de Economia Social, Regional e Urbana (NESUR) da Unicamp um estudo que apontou três problemas na operação do transporte público da cidade. Um deles é a falta de clareza nos dados gerenciais econômicos das empresas, que não isola a atuação no transporte público do município das demais atividades empresariais das concessionárias – o que poderia ser resolvido com a constituição de uma sociedade de propósito específico.

Outros dois pontos dizem respeito especificamente aos fatores que comprometem a submissão do sistema de transporte coletivo a uma auditoria por parte do poder público: a primeira diz respeito ao fato de a bilhetagem também ser operada pela Transurc e a segunda aleta a necessidade de a Emdec desenvolver um software de gestão que permita acesso em tempo real a todas as informações gerenciais das operações do transporte coletivo realizadas pelas empresas concessionárias. A recomendação é que os parâmetros do contrato sejam revisados a cada três anos, mas a licitação que substituirá aquela anulada em 2015 pelo TCE ainda não foi concluída.

Camila Montagner é mestranda em divulgação científica e cultural pelo Labjor/Unicamp e jornalista da Rede Latino-Americana de Estudos sobre Vigilância, Tecnologia e Sociedade (LAVITS).

O candidato da internet

por T. C. Soares em 16 de novembro de 2016, Comentários desativados em O candidato da internet

Imagem: gaming after 40

Bom, parece que o Trump ganhou mesmo.

*

Uma referência meio comum nos fliperamas dos anos 80 era a fase da fábrica abandonada. Você andava com seu avatar por algum distrito industrial meio demolido e saia dando soco e voadora numas gangues, chutava uns tambores de combustível vazios, essas coisas.

A estética desse tipo de cenário tinha muito a ver com os filmes de ação da época. A distopia pós-industrial de obras como Robocop, ou Fuga de Nova Iorque, ou Mad Max. Esses filmes, e os fliperamas lançados depois deles, traziam nessa linguagem um tanto das pulsões que mexiam com as pessoas na vida real ali das décadas de 1970 e 1980. Nesse período, a economia global viveu uma reestruturação, com uma expansão do capital financeiro e reconfiguração do setor produtivo.

Com o aparecimento de novas arquiteturas de gerenciamento e de novas tecnologias, os anos 70 e 80 viram um redimensionamento da infraestrutura fabril e uma estagnação na absorção de trabalho. O que, na prática, resultava em fábricas abandonadas e demolidas, e em um monte de gente encarando um universo do trabalho em transição, instável, muito diferente dos “30 gloriosos”, do mundo mais ou menos de boa construído nas décadas seguintes à segunda guerra mundial.

Final Fight | Capcom | 1989

*

Essa reconfiguração da economia global teve, em seu centro, Ronald Reagan e Margareth Thatcher. Alçados respectivamente à liderança de EUA e Inglaterra na virada dos 1970 para os 1980, Reagan (do Partido Republicano americano) e Thatcher (do Partido Conservador britânico) lideraram o bloco capitalista guerra fria adentro até a queda do muro de Berlim, em 89. Ali a utopia do livre mercado deu o drible derradeiro no sonho do socialismo real soviético

No geral, o plano de Reagan e Thatcher foi tirar o capitalismo financeiro da jaula e permitir que ele se expandisse com o mínimo de interferência dos governos, conectando mercados pelo mundo e sedimentando uma nova arquitetura econômica global. Enfim, globalização.

*

As ideias que moviam o projeto de Reagan e Thatcher podem ser traçadas a um grupo multidisciplinar e internacional, uma rede que tinha como centro de gravidade, como grande elemento de elaboração e articulação, um economista austríaco chamado Friedrich Hayek.

Em 1944, quando lecionava na London School of Economics, Hayek publicou “O caminho para a servidão”. O livro, metade manifesto metade divulgação científica, foi sua tentativa de colaborar com o debate público num tempo em que o fascismo mobilizava resistências nos campos de batalha e no ringue das ideias. Como outros tantos intelectuais da época, Hayek se preocupava com o avanço do totalitarismo no tecido social do ocidente, e resolveu que aplicaria o corpo de sua pesquisa na elaboração de uma teoria geral do fascismo.

*

Hayek era um dos expoentes da escola austríaca de pensamento econômico, e acreditava que a economia funcionaria melhor se não houvesse qualquer grande interferência externa. Para ele, o fascismo seria uma espécie de degeneração causada pela interferência das forças do governo no motor econômico. Essencialmente, o mercado seria, segundo Hayek, uma manifestação natural e neutra do conjunto social, e teria a capacidade de alocar, universalmente, informação e recursos da melhor maneira possível. Mais que isso: se deixado em paz, em pleno funcionamento autônomo, o mercado teria, em sua gigantesca capacidade de processamento de informação, a capacidade, também, de se autorregular.

O problema para Hayek era que, se submetido a interferências que forçassem seu funcionamento numa lógica diferente daquela de alocação “natural” de recursos, o mercado deixaria de se manifestar como tal, e se transformaria numa burocracia trespassada por relações de força e arbítrio. Enfim, se conformaria num maquinário fascista. Como exemplos, hayek cita a Itália e a Alemanha, e manda ali umas indiretas pra União Soviética (afinal, Stalin, àquela altura da guerra, era um aliado dos ingleses contra os alemães).

*

“O caminho para a servidão” foi um fenômeno literário, e se tornou uma espécie de obra de introdução para o projeto de mundo elaborado em torno da ideia de livre mercado. O livro seria também o marco inicial de uma trajetória intelectual que levaria Hayek a se debruçar sobre áreas do conhecimento como a teoria da informação, a cibernética, a história das ideias, o direito, e as neurociências. Foi a partir da rede de contatos iniciada na publicação e divulgação da obra nos Estados Unidos que Hayek se aproximou do grupo da Escola de Chicago (para onde, logo em seguida, se transferiu), e deu o início, com a articulação de think tanks, à criação de espaços de elaboração e divulgação de seu projeto de uma nova sociedade baseada no livre mercado.

O projeto de Hayek, que recuperaria elementos da filosofia política presentes nas obras de autores liberais clássicos como Adam Smith e John Stuart Mill, propunha uma reelaboração do liberalismo britânico, com a construção de um novo mundo baseado na lógica do laissez faire. Na prática, sua viabilização passaria pelo estudo e adoção de novas plataformas científicas e tecnológicas, que tornariam possível a implementação de uma nova arquitetura política e social. Nesse mundo reinventado, seria mínima a participação das estruturas de Estado, e ficaria com o mercado o papel de organizador central da sociedade.

A lógica desse projeto (utópico a valer, na minha opinião), é que a liberdade individual seria superposta à noção de liberdade econômica, e que o grande processador de informações do mercado garantiria a todo mundo o direito de exercer plenamente sua autonomia individual. Dessa releitura do liberalismo britânico clássico (daí o termo “neoliberalismo”), surge boa parte da arquitetura do mundo em que a gente vive.

A maior parte, diria.

*

A internet, a grande malha tecnológica, midiática e econômica que cobre o mundo hoje, deve muito, muito mesmo, à ideia desse grande mercado global/computador universal proposto por Hayek. A mesma grande rede infraestrutural por onde passam os dados que compõem os vídeos de gatinho do youtube servem ao processamento dos fluxos de reservas nacionais. Das hashtags do Masterchef a ataques especulativos, tudo é processado, em alguma camada, pelo grande processador de informação do mercado.

Acontece que, embora de fato rolem sacadas nas ideias de Hayek sobre a eficiência do conhecimento nesse mercado-computador-gigante, a parte toda lá da autorregulação parece um pouco mais complicada.

*

Boa parte das décadas iniciais do século XX foram dedicadas à construção de mecanismos de defesa do tecido social contra as ideias e dinâmicas do fascismo. Coisas como o sistema de pesos e contrapesos da imprensa, a estrutura dos museus, ou os métodos narrativos do cinema devem muito aos esforços de pesquisadores das ciências sociais (em projetos acadêmicos, não raro, comissionados por governos). Do período entreguerras à guerra fria, esses grupos de pesquisa desenvolveram ideias e ferramentas que ajudassem a construir um discurso público que, ao mesmo tempo, garantisse a expressão autônoma, individual, e a elaboração de discursos coletivos mas não autoritários.

Desse empenho, surge boa parte da atual noção de debate público, e a noção meio generalizada a respeito da imprensa e dos meios culturais como mediadores essenciais, como um sistema a garantir que os debates da sociedade se mantenham dentro dos limites propostos pela democracia liberal. É aquela coisa do “dessa linha aqui a conversa não passa”.

Aí apareceu o Trump.

*

Um efeito dessa onipresença da malha econômica/informacional do mercado na vida de hoje é que, junto, isso traz um tanto das ideias que colocaram a coisa em movimento em primeiro lugar. Tipo a confusão entre liberdade econômica e liberdade existencial; ou a crença na economia como um mecanismo a se autorregular.

Quando a noção de autonomia econômica se sobrepõe à noção de liberdade individual, todas as métricas da existência começam a se confundir com métricas da economia. Então seu celular passa a contar seus passos, porque eles serão um dado importante para sua avaliação médica e para o cálculo de seu seguro-saúde. Você precisa fazer check-in nos espaços pelos quais circula, porque a verificação de seus hábitos ajudará a conformar sua personalidade pública e te dará descontos. E você se engaja nas redes sociais, porque suas ideias serão processadas com as ideias de todo mundo, e os números de seus comentários e de suas propostas serão o certificado de sua participação no debate público.

*

O ponto é que, como em outros episódios da história, esse deslocamento do debate público, deslizando dos espaços institucionalmente constituídos e indo para a malha do mercado/computador das redes sociais, não parece sinalizar a uma autorregulação, a um estado de equilíbrio. Ou, talvez, até chegue a um ponto de equilíbrio determinado por métricas e algoritmos, mas nada garante que esse equilíbrio seja o mesmo que, na primeira metade do século XX, as democracias do pós-guerra buscaram instituir como uma vacina contra o fascismo.

Numa dinâmica meio maluca de retroalimentação, as ideias de Trump foram galvanizadas pela malha informacional da internet, e informadas por novos elementos até então mantidos à margem de qualquer disputa cívica (tipo os nichos online dedicados a pautas da extrema direita), e absorvidas pelo grande mercado de ideias das redes sociais. E remixadas, processadas, metrificadas, e circuladas de novo até sua naturalização. E os espaços tradicionais, institucionalizados, de estabilização do conhecimento, pareceram totalmente descolados disso tudo. Pesquisas foram analisadas, e articulistas convocados, e todo mundo parece coçar a cabeça tentando entender como todos os prognósticos e checagens conseguiram se mostrar tão falhos após a abertura das urnas.

É verdade que projetos políticos agenciando preconceitos e temores nativistas não são uma invenção dos tempos contemporâneos. a história tem sua cota de experimentos autoritários nascidos da mobilização da raiva e da frustração borbulhando entre o pessoal deixado pra trás em transições econômicas. E, quando Trump apela à memória de tempos anteriores às fábricas destruídas pela expansão tecnofinanceira dos anos 80 (numa irônica — vinda de um presidenciável republicano — negação da era de ouro do reaganismo), ele certamente não está apenas encarnando uma manifestação das redes sociais. Mas ele não deixa de ser, ao mesmo tempo, o candidato que a internet construiu.

A escalada de Trump, da sua nomeação como candidato à presidência pelo Partido Republicano, até sua eleição, parece ter sido uma ruptura do debate público acordado no pós-guerra. Evento após evento, acadêmicos, analistas, jornalistas, todos pareciam completamente descolados da realidade a emergir das ideias e ações que moviam, internet adentro, a plataforma de Trump. Seus acenos a grupos da direita radical, a maneira completamente à vontade com que manipulava junto a seu eleitorado pulsões de nativismo, controle e força, são coisas que parecem ter adentrado o espaço de disputa de ideias, e então, dominado seu centro, sem conseguir mais do que incredulidade e negação nos espaços tradicionais de opinião pública. Como que recebidos com um misto de “não é possível” e “isso sumirá naturalmente”. Seria razoável acreditar que isso acabaria expulso alguma hora pelo sistema de pesos e contrapesos do debate público; mas parece que não estamos mais sob as regras do pós-guerra.

O discurso com mais likes é certamente o mais curtido. Mas isso não quer dizer muita coisa.

A estranha lógica do capitalismo de vigilância

por Rafael Evangelista em 25 de agosto de 2015, Comentários desativados em A estranha lógica do capitalismo de vigilância

Crescimento das grandes empresas de tecnologia da informação está em grande parte baseado em dados e informações produzidas por todos nós, coletivamente. A vigilância é o modo de operação desse novo capitalismo.

Em julho, fui convidado para uma mesa sobre direitos humanos e internet no Fórum da Internet, realizado pelo Comitê Gestor (CGI). Na ocasião defendi, entre outros pontos, que os grandes negócios da internet de hoje se baseiam em vigilância e, no limite, em uma violação cotidiana da privacidade dos usuários das diversas plataformas. Na mesa estava também um representante do Google, que rechaçou a afirmação, apontando que, tecnicamente, juridicamente, não se tratava de violação de privacidade, pois todos aceitamos termos de uso que autorizam as empresas a coletar dados.

Parte da audiência protestou, não reconhecendo esse caráter “voluntário” da adesão aos termos de uso. São longos, complexos, abusivos e feitos para não serem lidos. Usar ou não usar essas plataformas está longe de ser uma escolha livre das pessoas, somos levados a aceitar os termos não porque concordamos com eles, mas porque estar fora de muitas dessas redes sociais e plataformas da internet em parte significa isolar-se socialmente e mesmo profissionalmente.

Mas, para além dos termos de uso, esse debate nos permite discutir aspectos importantes do mercado atual de internet, mostrando como os dados trocados entre as pessoas na rede são o combustível que alimenta o motor de lucro das grandes empresas.

É lugar comum nos cursos de comunicação o professor perguntar aos alunos, logo quando ingressam, qual é o real produto vendido pelo jornal. Com misto de incredulidade e surpresa, ouvem que a mercadoria ali não é a notícia, mas o leitor. É ele, a mirada de seus olhos no papel, que será vendida ao anunciante. Da mesma forma, é a atenção de milhões de pessoas presas à tela da tevê que vai justificar os milhares de reais pagos pelos vendedores de produtos às emissoras que exploram o espectro eletromagnético e fazem televisão.

 

Até aí, sem muita novidade, na internet isso também acontece. “No Facebook o produto é você” é uma frase popular e igualmente verdadeira: quanto mais usuários na rede social, mais valor de mercado ganha a empresa. É aspecto da economia dos sistemas de informação, a escassez de atenção que se dá pelo excesso de produção informativa. Nosso tempo consumindo mídia se tornou um bem escasso, já que há tanta produção de mídia por aí.

Prender a atenção das pessoas é algo crucial e essa é uma das razões que fazem as redes sociais viverem mexendo nos algoritmos que determinam o que vemos e o que não vemos nos nossos feeds, nas nossas linhas do tempo. Num polêmico estudo, o Facebook alterou os posts que seriam vistos normalmente pelos usuários, para testar como variaria seu humor. “Para nós, é importante o impacto emocional do Facebook nas pessoas que o usam, por isso fizemos o estudo. Sentíamos que era importante avaliar se ver conteúdo positivo dos amigos os fazia continuar dentro, ou se o fato de que o que se contava era negativo os convidada a não visitar o Facebook. Não queríamos irritar ninguém”, escreveu um dos coautores do estudo

Ter contato com algo muito contrário ao que acreditamos nos causa cansaço, repulsa; algo muito semelhante à nossa opinião nos dá tédio, é repetição. Como um cassino que quer prender os jogadores o máximo de tempo em frente aos caça-níqueis, as redes querem os usuários deslizando os dedos na tela, buscando por incessantes novidades de seus “amigos”.

Contudo, a elogiada interatividade da internet, a troca em mão dupla das informações na rede, dá novas características a essa relação comercial da economia da atenção. Além de receberem informações, os usuários também as enviam, mesmo involuntariamente, e isso é incorporado pelas empresas numa espiral de valorização que vai além dos mecanismos tradicionais. Seus próprios dados de usuário não têm valor comercial para quem os produz, mas ao serem circulados pelas empresas tornam-se um produto com valor de mercado ou um insumo ao aprimoramento da publicidade. Ninguém em sã consciência pensaria em cobrar por um post no Facebook, ou pela visualização de uma foto no Instagram ou por uma piadinha no Twitter. Para o amigo que vê aquilo tem valor de uso, informa ou diverte. Mas, se o produtor tentasse cobrar por isso dificilmente encontraria compradores.  Já dados de navegação, lista de amigos, buscas na internet são de valor ainda menos evidente e impossíveis de serem colocados no mercado, por seus próprios produtores, em unidades comercializáveis. Porém, quando organizadas em grandes conjuntos, pelas plataformas que se tornam legalmente proprietárias dos dados que doamos ao assinarmos os famigerados termos de uso, essas informações viram algo muito bem pago.

Recentemente, o Facebook obteve direitos comerciais exclusivos sobre a maneira como os usuário estão conectados em uma rede. Basicamente, patenteou a possibilidade de uso comercial das listas de amigos. Uma das aplicações imediatas, registrada na patente, é o digital redlining, a prática de usar a informação sobre quem são seus amigos para conceder ou negar crédito. Como o Facebook não está no ramo de emprestar dinheiro, supõe-se que ele vá vender esse serviço a bancos, ou seja, lucrará com a informação sobre quem são os nossos amigos na rede.

Quando acusadas, durante o caso Snowden, de coletarem dados pessoais de seus usuários, os mesmos que acabaram sendo utilizados pela NSA, as empresas defenderam-se afirmando a anonimização, o que quer dizer que elas retirariam a ligação entre o dado de identificação e os dados produzidos pelos usuários. Porém, anonimizados ou não, os dados, manipulados como metadados (dados sobre dados), são úteis para tornarem a publicidade mais direcionada e efetiva e, por isso, com maior valor de mercado. Não apenas o fato de alguém marcar o seu time do coração com um like, ou dizer que assistiu o filme x ou y é algo incorporado, mas os comentários sobre a mais recente vitória do Palmeiras ou a menção feita a um amigo sobre o último show visto ajudam a melhorar a precisão da publicidade, que agora é individualizada. Tudo o que se faz ou diz nas redes, toda produção ou exibição de gosto pessoal, acaba servindo ao marketing ou à valorização de bens vendidos no mercado.

O mesmo vale para a navegação rastreada por cookies, aquelas pistas que vamos deixando dos sites acessados e que se tornam informação usada para direcionar a publicidade. Esta em geral nem será vista ali, por onde se passou, mas no site de um terceiro.

Ao ser lançado, o hoje hegemônico Gmail causou um certo incômodo público, já que seu modelo de negócio, a maneira escolhida para financiar o então inédito espaço de armazenamento oferecido ao usuário, passa por um bisbilhotar ativo do que se escrevem na mensagem. Ainda que por um robô, toda comunicação trocada via Gmail é lida e informa os bancos de dados do Google. A princípio, isso é utilizado para mostrar uma publicidade direcionada ao próprio usuário, mas nada impede que seja também usada como um termômetro do mercado. Pode servir para antecipar a produção de algum produto, cuja demanda potencial foi medida e estaria prestes a aumentar. Ou até mesmo orientar a compra de ações da empresa responsável por essa produção.

O usuário não precisa nem apertar da tecla “enter” de seu computador para ter a informação processada, como mostram as sugestões de complemento para as buscas feitas automaticamente pelo Google Search. O mesmo vale para textos no Facebook, que já usou a autocensura dos usuários, aquilo que eles escrevem mas acabam não enviando, como objeto de estudo. Seja em pesquisas, seja em melhoramento direto e automatizado do mecanismo de busca, essas entradas de dados dos usuários servem para melhorar – e valorizar comercialmente – as plataformas de busca e sociais.

Google, Facebook, Twitter e outros não produzem conteúdo, apenas intermedeiam trocas comunicativas e operam seleções personalizadas sobre o que é trocado. O objetivo é reter a atenção e, ao mesmo tempo, estimular mais produção de comunicação entre os usuários, que entretêm a si mesmos, seja com produção criativa própria, seja com seleção de material jornalístico, informativo, artístico ou de entretenimento encontrado na web pelas próprias pessoas.

O lucro, por sua vez, não está somente na intermediação, mas em um conjunto de práticas de rastreio, vigilância, armazenamento, processamento e apropriação privada de dados. São elas que permitem o melhoramento dos serviços das plataformas e a constituição de novos produtos informacionais, que servem a todo um conjunto de atores do mercado capitalista.

As empresas de tecnologia da informação estão hoje entre as maiores do mundo, junto com bancos e empresas de petróleo, e se sobressaem por sua lucratividade aliada ao baixo uso de mão de obra. Entender melhor a natureza do enriquecimento dessas empresas, buscando destrinchar no que se baseia esse crescimento é vital para enfrentar em lutas concretas as desigualdades que o capitalismo produz.

–
Veja também

Vieira, Miguel Said and Evangelista, Rafael de Almeida, A máquina de exploração mercantil da privacidade e suas conexões sociais (The Mercantile Privacy-Exploiting Machine and Its Social Connections) (May 12, 2015). 3rd International LAVITS Symposium, Rio de Janeiro, 2015. Available at SSRN: http://ssrn.com/abstract=2608251 or http://dx.doi.org/10.2139/ssrn.2608251

O Facebook, muito além do arco-íris

por Rafael Evangelista em 25 de agosto de 2015, Comentários desativados em O Facebook, muito além do arco-íris

Explosão das fotos coloridas foi excelente contra preconceitos — mas também pode ter servido a interesses comerciais e estudos de manipulação de informação. Na rede, somos cobaias de atores poderosos

Na última sexta-feira (26/6/15), as redes sociais foram invadidas pelas cores do arco-íris, em comemoração à decisão da Suprema Corte dos EUA de legalizar o casamento igualitário. As mais variadas imagens das sete cores foram usadas por milhões de pessoas no mundo todo, significando apoio e celebração à decisão dos EUA, mas também uma afirmação global contra o preconceito e a discriminação ligados à orientação sexual e de gênero.

A faísca para que o colorido se espalhasse como que por contágio parece ter vindo do Facebook. A ferramenta Celebrate Pride (celebre o orgulho), oferecida pela maior rede social do planeta, altera o avatar do usuário aplicando-lhe um filtro com as cores do arco-íris. Outras imagens com o mesmo tema foram utilizadas nos avatares sem o uso da ferramenta , mas a Celebrate Pride se sobressaiu, tornando-se a manifestação mais enfática. Até que um pesquisador do MIT* fez uma “brincadeira” e diversas revistas (uma das melhores matérias veio da The Atlantic) levantaram a pergunta: esse é mais um dos experimentos do Facebook sobre a psicologia da rede?

A dinâmica da polêmica do Caso Arco-Íris foi particularmente interessante. Primeiro surgiram pressões e acusações em cima dos usuários que não aderiram: não usar a imagem seria como não apoiar a luta de uma maneira geral e perder a oportunidade de fazer um enfrentamento político contra aqueles que pregam o ódio. Vieram as justificativas de que aquela seria uma lei dos EUA, as afirmações de que o Brasil já havia aprovado lei semelhante anos atrás e, mais tarde, a recusa em se tornar objeto de um experimento facebookiano. A tréplica, em geral, foi no sentido de apontar que o tempo todo estamos sendo alvo de experimentações, testes e captura de dados quando estamos nas redes sociais. Isso, inclusive, está no contrato de adesão que clicamos ao nos cadastrarmos nelas. A temperatura das acusações foi, claro, aumentando ao longo do debate.

Os dois lados têm suas razões e equívocos nas argumentações. De fato, as redes sociais se tornaram grandes plataformas de expressão de opinião na atualidade, sendo o tempo todo “sentidas” por políticos ao fazerem cálculos para satisfazerem suas bases eleitorais. Porém, categorizar o apoio ou rejeição ao casamento igualitário medindo-se apenas a adesão à campanha do Facebook é bastante primário.

 

Mas o mais interessante do caso fica muito além do mérito da questão específica das imagens coloridas Trata-se da grande assimetria que separa aqueles que controlam as redes sociais de seus meros usuários. Fala também dos perigos do ativismo político que se dedica cegamente à rede e mostra o quão vulneráveis à manipulação da informação nos tornamos. Afinal, experimentos do Facebook são uma realidade bem séria e distante da “conspiranoia” atribuída aqueles que lembram que os usuários são cobaias. (Vale ver estudos como este, por exemplo, que investiga a autocensura no Facebook e utiliza dados que os usuários nunca chegaram a publicar)

Embora não se possa afimar que Celebrate Pride tenha sido somente para uma experimentação, o Facebook não negou até o momento o interesse e o uso das informações produzidas durante o episódio. Uma das questões em alta, que interessam o Facebook, envolve avaliar como se dá o contágio de opiniões na rede. Vimos muito claramente que aqueles que não aderiram à campanha foram pressionados por seus “amigos” a emitirem algum sinal sobre o assunto. Mesmo quem não utilizou a ferramenta do Facebook foi levado a publicar algum tipo de justificativa ou um sinal de adesão à causa.

A dinâmica do contágio do Caso Arco-Íris vai além dos virais de gatinhos a que estamos acostumados. É um ativismo fácil para muitos, mas pode envolver risco para alguns. Quantos amigos aderindo à causa são necessários para que alguém, pertencente a uma comunidade religiosa em desacordo com a questão, sinta-se seguro para expressar sua opinião? Quantas pessoas, após a explosão de apoio ao arco-íris, sentiram-se seguras para alterarem sua orientação sexual no perfil do Facebook?

O caso é particularmente importante pois não foi um estudo localizado, amostral, com usuários selecionados, mas envolveu dados de toda a rede. Mas esqueçamos por um momento o assunto do momento, o casamento igualitário, para falarmos sobre essas pesquisas na rede em geral.

A importância desse tipo de pesquisa vai muito além dos óbvios interesses comerciais das empresas de tecnologia da informação. Envolve conhecimentos sobre dinâmica social e política, algo buscado pelas disciplinas científicas mas também de muito interesse das organizações militares.

A Guerra Fria popularizou o termo PsyOp, as Operações Psicológicas, um segmento militar dedicado a transmitir informações selecionadas a determinadas audiências (governos, movimentos, indivíduos), buscando influenciar suas motivações, emoções e razões objetivas. O interesse na pesquisa que embasa esse tipo de operação não acabou, muito pelo contrário, pois as investigações se tornaram mais fáceis. Um artigo, publicado em 2014 no The Guardian, fala sobre a Iniciativa de Pesquisa Minerva, um programa multimilionário do Departamento de Defesa dos EUA voltado às Ciências Sociais. Um dos projetos financiados dedica-se a entender a “dinâmica de mobilização e contágio de movimentos sociais”, tendo como estudo de caso, entre outros, os eventos do Egito e da Turquia.

Mesmo que pensemos somente em aplicações econômicas, a força daqueles que possuem o banco de dados da troca de informações de milhões de pessoas é totalmente desproporcional se comparada aos pesquisadores científicos que trabalham em instituições de pesquisa. De posse dessas informações é possível atuar informacionalmente na promoção de produtos e desejos, ou mesmo na prospecção de movimentos de mercado, obtendo lucros que vão além da mera venda de espaço publicitário a terceiros. E pior, no caso do Facebook que já se mostrou capaz de controlar a dinâmica das relações entre os usuários.

Enquanto uma serie de experimentos e pesquisas são desenvolvidos com essas diretrizes, os cientistas sociais no Brasil vêm sendo pressionados a submeterem suas pesquisas a comitês de ética bastante restritos, capazes de dificultar ou burocratizar a pesquisa pública, que já sofre com a falta de recursos. Embora os comitês de ética que disciplinem a pesquisa sejam algo obviamente importante e justo, as Ciências Sociais têm sido obrigadas a lidarem com normas importadas das ciências médicas. Nem ao menos a formação de um comitê de ética específico para as ciências humanas, reivindicação de entidades como a Associação Brasileira de Antropologia (ABA), foi aceita pelo Conselho Nacional de Ética em Pesquisa, órgão do Conselho Nacional de Saúde e não do Ministério de Ciência e Tecnologia, como seria mais lógico (veja aqui documentos da ABA sobre o caso).

Já o consentimento para a pesquisa feita pelas redes sociais é dada em um simples clique, naqueles famigerados termos de adesão abusivos, exaustivamente criticados mas que todos aderimos para podermos nos comunicar no que se tornou a internet hoje. O conhecimento sobre a sociedade, produzido a partir da comunicação, esse patrimônio comum, é apropriado privadamente.

Tuitaços, troca de avatares, fitinhas e cores indicando adesão à causa x ou y já se provaram boas ferramentas de pressão social e política, úteis. Só é preciso ter claro que elas também estão disponíveis ao inimigo que, hoje, nas redes sociais privadas, escreve as regras do jogo e é o dono do tabuleiro.

—
* Cesar A. Hidalgo, do MIT, mais tarde afirmaria que sua frase, “Isso é provavelmente um experimento do Facebook”, não passava de uma brincadeira. Chegou até mesmo a publicar um texto criticando o fato de sua hipótese chistosa ter sido lida como evidência de uma verdade. Mas o Facebook nunca afirmou que não usaria os dados em suas análises experimento e, como bem notou o Gizmodo, usou três vezes a palavra e ainda assim não negou o possível uso. A resposta do Facebook foi: “Este não foi um experimento ou teste, mas algo que permite às pessoas demonstrarem seu apoio à comunidade LGBTQ. Não vamos usar isso como forma de direcionar propaganda e o objetivo dessa ferramenta não foi conseguir informações sobre pessoas”

Na era da Discriminação Digital

por Rafael Evangelista em 25 de agosto de 2015, Comentários desativados em Na era da Discriminação Digital

Como sistema financeiro usa Facebook e outras redes para negar ou encarecer empréstimos a quem tem amigos pobres, usa remédios psiquiátricos ou comete outros “desvios”

Depois das revelações de Edward Snowden, ficou fácil demonstrar como as redes sociais e os serviços remotos na web (como os webmails e os aplicativos de escritório) podem ser utilizados como instrumentos de vigilância pessoal. Mas exemplificar os usos econômicos dessa máquina de vigilância é tarefa mais ingrata. Os dados pessoais e as informações produzidas pelos usuários em suas respectivas interações são usados para alimentar a força econômica das empresas, numa relação que não é transparente e que contém injustiças ainda difíceis de serem concretamente mapeadas, seja pelos movimentos sociais ou pelos pesquisadores da área.

A crescente e promíscua relação entre as empresas de finanças e as grandes companhias de tecnologia de informação e informática do Vale do Silício, na Califórnia, ajudam a deixar essa exploração mais clara. Estão surgindo com força empresas embrionárias (startups) que usam informações dos usuários obtidas nas redes sociais para elaborarem um número, um índice, que determinaria a capacidade de pagamento de um possível tomador de empréstimo. Com isso, as empresas teriam mais segurança sobre quem poderia dar calote e, em tese, poderiam oferecer taxas de juros menores para aqueles que fossem bem avaliados. Na prática, o que vem acontecendo são práticas discriminatórias justamente contra aqueles que mais precisam, os grupos sociais historicamente mais fragilizados: imigrantes, negros, mães solteiras, moradores de bairros pobres etc.

Uma reportagem recente da revista estadunidense The Nation entrevista vítimas do chamada “digital redlining”. O termo redlining refere-se à linha vermelha imaginária feita pelos bancos em determinados bairros pobres, para marcar populações dentro de uma área geográfica e para as quais são praticadas taxas de juros mais altas. Essa exclusão e discriminação agora foi importada para o mundo digital, sendo desenhada não mais sobre um mapa, mas por um robô que integra dados importados, entre outros, de redes sociais. Este reúne a grande massa de dados de redes como o Facebook para determinar juros mais altos para certas pessoas.

Para o pobre, que mais precisa do empréstimo, não se trata de simplesmente estar fora das redes. Essa opção pode ser ainda pior, pois o sistema acaba entendendo a falta de dados como algo suspeito e aplicando as maiores tarifas ou negando transações.

 

Projetos como o Internet.org, voltados às populações mais pobres, colocam ainda mais pressão sobre as pessoas, forçando sua entrada na rede social e o compartilhamento de informações com as companhias. O Internet.org fornece acesso à internet gratuito, porém limitado a um conjunto de sites, sendo o principal deles o Facebook.

Uma das empresas parceiras do projeto é a Lenddo. O usuário que nela se cadastra e baixa o aplicativo no celular tem acesso a compras online, empréstimos e serviços de colocação profissional. Em troca, permite que suas atividades sejam monitoradas — ações como a interação ou amizade com certas pessoas — e que a partir desse monitoramento seja produzido um LenddoScore, um número que reflete o quanto o usuário é “confiável”. A Lenddo já é oficialmente usada por financeiras das Filipinas para produzir perfis de pessoas que estão fora do sistema bancário. Também dá informações para que telefônicas neguem o acesso a planos de celular pós pagos e fornece informações a empregadores em busca de referências para possíveis trabalhadores.

As populações dos países periféricos, onde o Internet.org já atua, são particularmente vulneráveis, pois o sistema jurídico dá poucas garantias aos cidadãos quanto a abusos e discriminações. Quênia, Gana, Colômbia, Índia, Bangladesh, além das Filipinas, já estão nessa lista. Mas mesmos nos países ricos a complexidade técnica desses instrumentos de predição usando dados de navegação na internet torna difícil comprovar que, por exemplo, o fato de alguém buscar remédios psiquiátricos foi o fator preponderante para ter um financiamento negado.

A Lenddo é apenas um exemplo. Outras empresas de natureza semelhante já atuam, inclusive nos países ricos. Em um dos casos citados pela Nation, uma estudante em dívida com empréstimos educacionais torna-se alvo de crédito predatório a partir de dados coletados em sua atividade online.

A internet, ao mesmo tempo que ofereceu grandes oportunidades para a expansão da criatividade e da liberdade de comunicação, tornou-se um lugar propício para novas estratégias de revitalização do capitalismo, agora baseado na exploração informacional. Vamos passando de um sistema em que o mau pagador era punido para uma estrutura em que o castigo vem antes, pelo cálculo probabilístico do delito futuro. A desigualdade de forças, a assimetria no controle da infra-estrutura tecnológica, o grande poder econômico derivado do controle de grandes bancos de dados das populações são um terreno fértil para o aumento da exclusão e do controle.

Internet: a sombra de um grande retrocesso

por Rafael Evangelista em 25 de agosto de 2015, Comentários desativados em Internet: a sombra de um grande retrocesso

Antes aberta, democrática e descentralizada, rede está ameaçada por novos monopólios. Facebook manipula fluxo de informações e experimenta influir no estado emocional das populações. Há saída?

Todos os dias, milhões de pessoas ao redor do mundo repetem, ao acordar, o mesmo gesto: desligam o despertador do celular, ligam o wi-fi de casa, acessam as redes sociais e conferem as notícias recentes, escolhidas – literalmente – a dedo por aqueles que resolvemos “seguir”: amigos, amigos da rede, personalidades, jornalistas, formadores de opinião, colunistas, piadistas. Se o ritual não é exatamente esse, não foge muito de um roteiro comum. O café da manhã com as notícias do jornal, selecionadas no dia anterior pelo editor-chefe da renomada publicação e que congregava o que era “preciso saber” sobre o que aconteceu no mundo, vai sendo substituído. A seleção, por um lado, é mais distribuída (democrática?) e bebe das fontes mais diversas, confiáveis ou não. Por outro, não obedece a uma ordenação visível, equilibrada ou, aparentemente, lógica. É feita de acordo com o leitor, de acordo com sua ficha no sistema ou com algo derivado disso, relacionado ao perfil, gostos ou interesses das pessoas ou instituições a que está conectado como amigo, seguidor ou qualquer que seja a palavra que a rede social escolhe para designar a ligação entre perfis.

Essa, porém, é somente a versão mais simples da situação, do novo cenário que marca o nosso consumo de notícias, informação e cultura, a relação mediada que estabelecemos com o mundo, com a realidade, via meios de comunicação. Nessa relação, o jornalismo está incluído, mas é apenas uma parte do conjunto de produções informacionais que nos é entregue diariamente pelo mesmo canal, ou por um conjunto de canais/redes sociais a partir dos quais somos indicados a que vídeos ver, que música ouvir, que notícias e opiniões consumir. Como uma televisão de programação fragmentada, onde a fronteira entre ficção e realidade é borrada freneticamente.

As questões mais visíveis que se colocam aí – falaremos também de outras, subterrâneas – dizem respeito a como se tornou emergente a seleção do que nos é apresentado. Por emergente entende-se algo que não obedece, a priori, um comando total centralizado, um indivíduo ou um conjunto determinado de indivíduos que escolhe soberanamente o que vai estar na capa e nas folhas internas do jornal. A escolha passa a se dar “de baixo para cima”, derivada de uma interação, que varia de acordo com cada usuário, entre os diversos pontos da rede. O “jornal” que leio certamente será diferente do jornal que outros leem. Talvez seja parecido com o de outros palmeirenses, da região de Campinas, interessados em tecnologia e sociedade. Ainda assim, não idêntico.

A própria ideia de jornal parece cada vez mais como algo do passado. Os veículos, sejam os jornais e revistas físicos que comprávamos na banca, sejam os grandes portais dos primeiros anos da internet, se estilhaçam. Os recebemos aos pedaços, uma matéria, uma coluna, uma charge. Continuam lá, como estrutura, ainda podemos navegar por eles. No caso dos portais, foram tornados imensos, na busca desesperada por cliques, em que tanto faz 100 cliques em 10 matérias ou 10 cliques em 100 matérias. Mas consumimos os veículos despedaçados, com o nome do jornal ou do site mais funcionando como uma referência de confiabilidade e inclinação político-editorial do que qualquer outra coisa. Uma marca, a se confiar muito, pouco ou nada.

Veículos de comunicação do mundo todo, e de todos os tamanhos, hoje dependem das redes sociais para terem seus conteúdos acessados pelo grande público. Quem está fora delas, ou não as alimenta com verbas publicitárias dos mais variados tamanhos, dificilmente alcança uma audiência relevante. Movimentos sociais, que nos últimos anos apostaram quase todas as suas fichas na mobilização via redes sociais mais famosas – afinal, todo mundo está lá – hoje estão praticamente igualados a qualquer empreendimento comercial. O Facebook, por exemplo, tem uma política ativa de eliminação de perfis que não sejam de pessoas físicas. O objetivo é fazer a separação em dois tipos de usuários/postadores de coisas: as pessoas físicas, cuja relação é dada com outras pessoas que veem seus posts mutuamente; e as pessoas jurídicas (vale qualquer uma delas, empresas, movimentos, artistas, intelectuais), que pagam para terem seu conteúdo distribuído maciçamente – quanto mais dinheiro, mais distribuição – ou ficam restritos à comunicação com uma meia dúzia de assinantes, apenas uma fração das pessoas que manifestaram ativamente quererem acompanhar os conteúdos daquela fonte.

No entanto, o mais relevante, e politicamente mais importante, é o que não sabemos sobre o modo como se dá essa distribuição de conteúdos. Os critérios subterrâneos, como dito anteriormente. Continuemos a usar o Facebook como exemplo, embora isso valha para qualquer sistema de recebimento de conteúdo via feed (linha do tempo, no caso do Facebook) governado por algoritmos. A interação entre as pessoas é intermediada por uma fórmula fechada (secreta) que estabelece critérios sobre de que “amigos” receberemos conteúdos, de quais tipos e com que frequência. Isso significa que o usuário não estabelece uma relação direta com quem segue, que não há garantias de que o que posta em seu perfil será entregue a todos os seus seguidores. Isso dependerá de razões que não conhecemos, que a princípio se relacionam com as micro-redes estabelecidas (os subconjuntos de amigos que conversam entre si), mas que são bem mais complexas do que isso e mudam ao sabor dos interesses do dono da estrutura.

A manipulação invisível

 

Em meados do ano passado, usuários e instituições que se preocupam com o gerenciamento da internet foram surpreendidos com a notícia de que o Facebook alterou o feed de aproximadamente 700 mil usuários para se estudar o que se chama de “contágio emocional”. Lê-se no artigo publicado sobre o estudo: “Estados emocionais podem ser transferidos a outros via contágio emocional, levando as pessoas a experimentarem as mesmas emoções sem sabê-lo. O contágio emocional é um fenômeno bem estabelecido em experimentos de laboratório, com as pessoas transferindo emoções positivas e negativas umas às outras”. O experimento ocorreu durante uma semana, em 2012, comprovando a tese sobre o contágio. Realizado pelas Universidades de Cornell e da Califórnia, nos Estados Unidos, a manipulação dos feeds desses usuários contou, como não poderia deixar de ser, com o apoio do Facebook, interessado nos resultados. Mais, ele não teria ocorrido a pedido dos pesquisadores, mas após o Facebook realizar a manipulação. Os cientistas apenas trabalharam com os dados fornecidos pela empresa. As informações são de matéria da The Atlantic, uma das primeiras a divulgar o estudo.

Embora tenha sido criticado por sua falta de ética, o estudo não fez nada ilegal, já que os termos de uso aceitos pelos usuários do Facebook permitem esse tipo de manipulação.

Além de questões óbvias envolvendo a manipulação dos usuários de redes sociais para esse tipo de experimentação, o caso traz preocupações políticas bastante claras. Segundo Susan Fiske (editora da revista que publicou o artigo, o Facebook manipula o feed de notícias de seus usuários o tempo todo. Ela teria sido informada disso pelos autores do estudo, após questioná-los sobre a ética do experimento. Isso significa que esse tipo de manipulação não é eventual e provavelmente continua sendo feita. O sentimento de humor estragado, após aquela entrada matinal no Facebook, pode não ser um acaso, uma ilusão emocional ou reflexo de que é preciso refazer sua lista de amigos. Pode estar ligado ou a algum teste, como no passado, ou a algum objetivo consciente, ainda que não público.

Para além do caso relatado, podemos imaginar um tipo de manipulação emocional mais focalizada, com impactos possivelmente maiores e consequências práticas complicadas. Os usuários das redes sociais estão ali para interagir e obter informações, seja dos amigos ou do mundo. O que capturam a partir dali, as informações que obtêm, influenciam inegavelmente em suas ações no dia a dia. O factual ainda pode ser refutado ou checado. As emoções, não. De modo diverso, elas também impactam as ações concretas, porém são menos verificáveis. Por mais que isso pareça um cenário de ficção científica é preciso pensar: e se for possível alterar o clima de confiança de uma região inteira?; que impactos políticos e econômicos isso teria?

Dos mecanismos de busca aos feeds obscuros

A questão é que, nos últimos anos, o perfil de uso da web mudou. Passamos de um modelo em que tínhamos os motores de busca como centrais para outro em que somos governados/administrados pelos feeds que recebemos. Nossa atenção é constantemente chamada, procuramos muito menos pelos conteúdos.

O impacto disso seria muito menor e muito mais relativo se esses algoritmos fossem públicos e mais administráveis por quem os usa. Mas, muito pelo contrário, são secretos, têm propriedade intelectual e caminhamos para uma internet muito mais centralizada, comandada por poucas empresas de tecnologia, ainda que espalhada por diversos servidores ao redor do globo, que agregam todos os serviços que usamos: redes sociais, e-mail, plataformas de publicação de textos e vídeos.

Desde meados da década de 1950, após o grande trauma da Segunda Guerra Mundial, confiamos na comunicação como meio para a paz e estabilidade. Nossa utopia orientadora, de raiz iluminista, nascida no meio do século passado, mas vigorosa no século XXI, diz que é possível resolver quase todas as nossas diferenças pela via da comunicação, pequenas ou grandes. Guerras seriam evitadas se os povos tivessem maior entendimento mútuo. Conflitos de classes poderiam ser resolvidos pela negociação e pelo entendimento. A comunicação científica poderia melhorar as relações entre ciência e sociedade, pavimentando um futuro de progresso científico para todos.

A internet, surgida pelas mãos e ideias de pesquisadores que foram fundamentais na construção dessa utopia, encaixou-se como uma luva. Para a luta pela democratização da comunicação ela apareceu como fórmula mágica, como saída não conflitiva para a concentração dos meios. Não seria mais preciso brigar por uma divisão justa do espectro eletromagnético (aquele em que se distribui desde os canais de televisão, de rádio, aos sinais de celular): a internet multiplicaria exponencialmente os canais; cada pessoa, grupo ou coletivo poderia ser um canal. Mas pouca gente se atentou que esses cabos, domínios, IPs, servidores, têm dono, são privados. E quem é dono manda. Com as redes sociais esse cenário parece ter se agravado, as pessoas estão concentradas em “jardins murados”, em ambientes restritos da web que se parecem com condomínios privados. Por um lado, aqueles que não têm voz nos canais tradicionais motivam-se a disputar espaço e a falarem para muita gente ali reunida. Por outro, vivem as limitações materiais e de software de um espaço que não controlam.

É preciso politizar a internet e entender seu uso e funcionamento material na atualidade. Ao mesmo tempo, é preciso recuperar e analisar criticamente as utopias da comunicação que nos informam. Assim, poderemos entender as mudanças pelas quais passam o sistema informativo do mundo, podendo agir conscientemente sobre ele em direção a estruturas democráticas de comunicação. A ação e a cultura política não são decorrências mecanicamente determinadas por essas estruturas, mas podem tender para cenários desagregadores, autoritários e contrários aos direitos humanos se assim forem manipuladas.

—

Bibliografia

Evangelista, R. A.; Kanashiro, M. M. 2013. “Cibernética, internet e a nova política dos sistemas informacionais”. In: Giuseppe Cocco (org.) Gabinete digital: análise de uma experiência. Corag e Imprensa Oficial do Estado do Rio Grande do Sul: Porto Alegre. (http://gabinetedigital.rs.gov.br/wp/wp-content/uploads/2013/09/Gabinete-Digital_-An%C3%A1lise-de-uma-experi%C3%AAncia.pdf)

Kanashiro, M. ; Bruno, F. ;Evangelista, R. ; Firmino, R . “Maquinaria da privacidade”. Rua (Unicamp) , v. 2, p. online, 2013. (http://www.labeurb.unicamp.br/rua/pages/home/capaArtigo.rua?id=211)

Breton, P. (1995) Norbert Wiener e a emergência de uma nova utopia. Disponível em http://cibercultura.fortunecity.ws/vol1/breton.html Acesso em 20/08/2011

Barbrook, R. Futuros imaginários: das máquinas pensantes à aldeia global. Ed. Peirópolis, 2009

Pequeno, V. “Nos subsolos de uma rede – sobre o político no âmago do técnico”. Dissertação de mestrado. MDCC-IEL-Unicamp. 2015.

Privacidade e interesse comum – o caso do (quase) bloqueio ao WhatsApp

por Filipe Saraiva em 10 de março de 2015, Comentários desativados em Privacidade e interesse comum – o caso do (quase) bloqueio ao WhatsApp

O recente caso do pedido de bloqueio ao WhatsApp no Brasil – que não chegou a cabo pois foi declarado desproporcional por instância jurídica superior – é uma ótima oportunidade para fazermos o debate sobre o quão estamos dispostos a permitir, enquanto sociedade, que a criptografia e a privacidade do indivíduo estejam acima dos limites que estabelecemos para investigação de crimes e justiça, ou interesse comum da sociedade.

O bloqueio ao WhatsApp foi requisitado após a empresa se recusar a cooperar em uma investigação que corre em sigilo desde 2013. Há fortes indícios de que esse processo tem relação com casos de pedofilia. Apesar do bloqueio ter tentado forçar a empresa a auxiliar na investigação, imagino que realmente o WhatsApp não teria muito o que fazer se o pedido referia-se à disponibilização dos logs das conversas de algum usuário.

Isso porque o aplicativo funciona com uma arquitetura peer-2-peer: não deve haver outro armazenamento das mensagens que não o do próprio celular dos usuários. Não há uma nuvem com o histórico das conversas, como ocorre em aplicativos tais como o Telegram, Skype, Facebook Messenger, ou os servidores de e-mail convencionais. Inclusive esse é o motivo para o WhatsApp desktop ter como requisito que o celular do usuário esteja conectado à internet – ele acessa as conversas no celular para poder funcionar, pois elas não estão em outro lugar.

Nesse caso, como proceder a investigação? O próprio juiz empenhado no caso comentou o quão difícil é prosseguir nessa tarefa diante da popularização da tecnologia de aplicativos de mensagens:

Até pouco tempo atrás nós fazíamos interceptações telefônicas, mas hoje ninguém usa telefone [para falar], usa o WhatsApp.

O que mais me preocupa nesse tópico é encontrar manifestações de especialistas comentando que o bloqueio ao WhatsApp fere o direito de liberdade de expressão. Em que pese, de fato, ter sido desproporcional, qual seria a alternativa adequada na investigação de crime tão perverso? E se pensarmos em ferramentas ainda mais direcionadas para prover ampla e forte criptografia, como o aplicativo de mensagem TextSecure, as chaves PGP, e os codificadores de HD, como o utilizado pelo Daniel Dantas que nem o FBI descriptografou, quanto estamos propensos a permitir o direito sem limites à privacidade?

Outra análise recorrente que também me chama atenção é a que diz que a lei avança mais devagar que a tecnologia e por isso está sempre defasada. Por acaso isso seria então motivo para não regulamentá-la, e deixar que usos nocivos à sociedade, como os investigados, proliferem e nos reste apenas lamentar pelo inevitável?

Acredito que todos nós já passamos pela experiência de sentar no sofá da sala para assistir o jornal e, durante reportagem sobre investigação do escândalo de corrupção da semana, sermos testemunhas de uma conversa privada que revela o esquema. Por que os meios digitais de comunicação deveriam ser uma exceção a esse tipo de monitoramento, fundamentado e autorizado, que busca identificar criminosos de verdade?

Minha proposta aqui é apenas chamar atenção para essa questão, e que consigamos fazer um debate sério e elaborado sobre o tema. Talvez seja interessante darmos uma olhada sobre como era o debate da privacidade quando as primeiras linhas telefônicas começaram a se estender sobre as cidades. É uma ideia.

Infelizmente, os governos e as grandes empresas de tecnologia tornaram esse tipo de debate bastante complicado quando passaram a monitorar todos os cidadãos indiscriminadamente, tendo os passos de nossas vidas, contatos e interações armazenados em grandes data centers, mastigados, processados e correlacionados por avançados algoritmos. De repente o cenário tornou-se um jogo extremo, de tudo ou nada. Temos que nos ocultar ao máximo pois o governo e as empresas estão monitorando tudo, sejamos inocentes ou não.

Mas, será que para fugir dessa vigilância massiva, estamos propensos até mesmo a impedir que investigações de crimes que afetam a sociedade consigam avançar?