A IA na saúde surge como parte de promessas ambiciosas para o continente africano, com capacidade de prever surtos, diagnosticar doenças e estender o cuidado médico a regiões onde um especialista é uma raridade. Entretanto, isso demanda dados, sistemas, algoritmos e, principalmente, formas de governá-los. Os desafios são políticos e sociais: como trilhar caminhos alternativos para isso não se torne mais uma fonte de extração privada de dados das populações vulnerabilizadas?
A pesquisadora Beverley Townsend, da Universidade de York, no Reino Unido, propõe um mecanismo inovador de governança pelo design das tecnologias, centrado no ser humano. Ela se inspira na Índia, que teria criado um terceiro caminho, em que as regras se tornam protocolos dentro da infraestrutura e da arquitetura das soluções técnicas. Um dos exemplos é a Data Empowerment and Protection Architecture (DEPA) indiano, que funciona como um sistema de gestão de consentimentos, através de plataformas interoperáveis e auditáveis.
Foto: site médico sem fronteirasTownsend publicou o estudo “Governance-by-Design as an Enabler of AI in Digital Health in Sub-Saharan Africa” na revista Law, Technology and Humans que detalha uma investigação de como a região da África Subsaariana poderia navegar entre a adoção tecnológica urgente das IAs e a proteção frente a uma nova colonização.
A IA não é necessariamente um luxo para a população do continente africano, mas talvez uma nova infraestrutura necessária para a sobrevivência. Com grandes populações em áreas rurais e um déficit crônico de profissionais de saúde, a tecnologia poderia preencher lacunas onde o Estado e a parca infraestrutura física falham.
A adoção dessas ferramentas já é uma realidade prática em muitos países. No Egito, Argélia, Uganda e Malawi, modelos de aprendizagem profunda permitem a detecção precoce de anormalidades fetais por meio de ultrassom, superando a carência de especialistas em radiologia.
Tanzânia e Gana implementaram sistemas de suporte à decisão para cuidados pré-natais e intraparto, auxiliando enfermeiras e parteiras em momentos críticos. Nas áreas rurais da África do Sul, modelos de IA interpretam imagens de testes de HIV com precisão e aceleram os diagnósticos e tratamentos. No Lesoto, softwares analisam radiografias de tórax para identificar tuberculose de forma automatizada.
Porém, um dos maiores obstáculos para os modelos de IA na África é a integridade, confiabilidade e a representatividade dos dados, principalmente na área da saúde. Isso pode comprometer a precisão dos algoritmos, e, consequentemente, também dos diagnósticos. A maioria dos conjuntos de dados globais provém do Norte Global, o que pode criar uma visão enviesada.
A barreira linguística agrava o quadro. Enquanto o inglês domina 52% da Internet e dos modelos de linguagem, a vasta diversidade de línguas tradicionais africanas é ignorada. Essa invisibilidade nos dados não é apenas um erro técnico, é uma falha que desvaloriza a experiência de milhões de pessoas.
“A falha em reconhecer tradições ou identidades de grupo pode se tornar uma forma de alienação. (…) O sistema pode rotular incorretamente um local sagrado apenas como um ‘campo’ ou uma relíquia antiga simplesmente como simplesmente uma haste. Isso é particularmente problemático em modelos generativos, já propensos a alucinações e confabulações”.
Para resistir ao colonialismo digital, uma alternativa seria que que hospitais, universidades ou instituições de pesquisas africanas atuassem como custodiantes dos dados manipulados, ou seja, dos dados gerados a partir de outros dados preexistentes. E isso seria só um começo, uma parte da ideia dos “gestores de consentimento” baseada na experiência indiana. A estratégia envolve uma compreensão sofisticada da propriedade, para além da afirmação do dado pessoal.
Enquanto a privacidade protege o indivíduo, a propriedade de dados fundamentada em princípios de propriedade comum permite que as instituições locais controlem como a informação é compartilhada. Isso é especialmente vital para os dados inferenciais, como conclusões ou previsões geradas por algoritmos, que frequentemente ficam fora do alcance das leis de privacidade tradicionais, mas possuem imenso valor comercial e social.
A autora considera que um bom caminho tem sido trilhado no meio jurídico, a exemplo da da Lei Modelo de Governança de Dados de Saúde da União Africana, um guia legislativo criado para harmonizar e fortalecer a proteção, privacidade e o compartilhamento de dados médicos no continente, ou também da Convenção da União Africana sobre Cibersegurança e Proteção de Dados Pessoais. No entanto, as leis ou regulamentos por si só não conseguiriam dar conta do desafio. Os preceitos que criam as leis precisariam se tornar parte dos protocolos, do design e dos códigos.
O ponto central da proposta de Townsend é superar a regulação puramente reativa. Como as leis levam anos para serem ratificadas, a solução é a governança por design, ou governança embutida na arquitetura e nos códigos.
O modelo indiano da DEPA utiliza protocolos abertos (APIs) e auditáveis para gerenciar o consentimento digital. Tudo isso em um sistema em camadas em que cada ator tem seu papel com regras bem definidas. O cidadão decide até onde cada custodiante pode usar seus dados. Em vez de depender apenas de fiscais humanos, o próprio sistema atua como um “guardião digital”.
A DEPA faz parte do IndiaStack e teve sua origem nas transações financeiras e de crédito na India. Hoje funciona como um framework de consentimento em camadas que gerencia o acesso, o armazenamento e a propriedade dos dados entre diversos atores. Há outros sistemas correlatos pelo mundo, como o OpenBank, implementado em diversos países. Entretanto o que o diferencia é seu caráter aberto, interoperável e com os regras já inscritas no design da ferramenta técnica para gerenciar o consentimento e autorização de dados.
As regras sobre integridade de dados e transparência são transformadas em requisitos técnicos. Se o sistema não cumpre o protocolo de privacidade, ele simplesmente não opera.
Uma forma de operacionalizar seria uma abordagem híbrida como estratégia para equilibrar a regulação estatal (verticalizada) com a autorregulação técnica e ética (de baixo para cima), garantindo a tecnologia como parte do crescimento inclusivo. Essa técnica transformaria princípios abstratos em protocolos operacionais, assegurando que a IA respeite a autonomia do usuário e os padrões de segurança em tempo real.
O sucesso da IA na saúde africana dependeria da transição para uma tecnologia “humano-cêntrica”. Townsend evoca o conceito filosófico de Ubuntu, a crença na interdependência e na humanidade compartilhada, como a base para o alinhamento de valores na IA. Nesse sentido, a governança não seria um apêndice da inovação, mas estaria inscrita na sua própria fundação.
A conclusão do estudo é um chamado à ação: a África Subsaariana não deve ser apenas uma consumidora de tecnologias externas nem reservatório de dados para o Norte Global. Por meio da inovação regulatória e da implementação da governança por design, a região pode liderar um modelo no qual o progresso tecnológico fortalece, em vez de sacrificar, a dignidade e a soberania de seus povos. O código, quando imbuído de ética e lei, se tornaria uma ferramenta de libertação e equidade na saúde digital.
O desafio não é pequeno e a solução, por si só, não é simples. As discussões sobre Open Health no Brasil também têm como referência o caso indiano. Entretanto, há uma disputa sobre os limites até onde os custodiantes podem ir, em cada camada do consentimento.
A proposta da pesquisadora Beverley Townsend é inspiradora e ousada. Ainda que a referência ao DEPA indiano seja um bom começo, não é uma receita pronta. O DEPA se desenvolveu no bojo da implementação do Aadhaar, o sistema de identidade unificado do país, já tratado em outros estudos divulgados pelo OPlanoB. Uma das ressalvas é que, apesar de ser um bom contraponto à vampirização das big techs estrangeiras, a solução nacionalista indiana também estabeleceu relações nem sempre muito claras entre o público e o privado no desenvolvimento de sistemas gigantescos de gestão de dados dos seus cidadãos.
Além disso, a capacidade de mobilização de atores e instituições na África Subsaariana, em diferentes Estados Nacionais, impõe um grau maior de dificuldade, mesmo com as redes já estabelecidas em prol de leis de privacidade e proteção de dados.
Mesmo assim, considera-se que seria uma tentativa de resistência ao capitalismo de vigilância global e ao neocolonialismo na África por meio da extração de dados de saúde . Nesse sentido, o estudo se encaixa no eixo “Capitalismo de Vigilância a partir do Sul Global” da pesquisa-ação do OPlanoB (www.oplanob.com), que foca em estudos e pesquisas que analisam alternativas criadas a partir do Sul para se contrapor às iniciativas das big techs.
Para ler o artigo: https://doi.org/10.5204/lthj.3975
Esta nota faz parte do projeto “Inteligência Artificial e Capitalismo de Vigilância no Sul Global”, realizado pelo Labjor - Unicamp | Laboratório de Estudos Avançados em Jornalismo. Conta com o apoio da Rede Latino-Americana de Estudos sobre Vigilância, Tecnologia e Sociedade (LAVITS) e da Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP), pelo Programa José Reis de Incentivo ao Jornalismo Científico (Mídia Ciência).