A arquitetura do poder político, qualquer que seja a forma que historicamente tenha assumido, sempre teve uma constante de ser exercida por seres humanos. Monarquias, repúblicas, aristocracias e democracias divergem profundamente quanto à origem e à legitimidade do mando, mas compartilham esse traço elementar, o de que a decisão, em última instância, pertenceu a pessoas. Estamos, porém, diante de um ponto de inflexão que pode romper essa invariante histórica. Emerge o que conceituamos como “algocracia” [1], um fenômeno que pode representar uma diminuição do humano como medida decisória, e uma inversão dos princípios fundamentais democrático e republicano.

Essa renegociação do contrato social traz facilidades, mas também perigos profundos, pois os cidadãos acabam trocando parcelas de sua autonomia pela promessa de eficiência e segurança. Um exemplo claríssimo desse movimento pode ser analisado ao se observar o pioneirismo da Albânia na integração da inteligência artificial no centro de seu Poder Executivo [2]. Em uma decisão sem precedentes, o governo albanês nomeou um agente de IA chamado “Diella” para atuar em uma função análoga à de ministra, encarregada de administrar e supervisionar licitações e contratos públicos. A justificativa do primeiro-ministro era de que a máquina seria incorruptível, imune a subornos e falibilidades morais.

No cenário europeu, a Itália nos apresenta um laboratório fascinante e, por vezes, paradoxal sobre o avanço algocrático. Recentemente, o município de Acqui Terme anunciou um experimento inédito no país: a nomeação de “Eva Statiella”, uma assessora virtual gerada por inteligência artificial, para compor a junta municipal [3]. O mais inusitado, contudo, é que Eva recebeu, além das pastas de inovação e transição digital, a delega para a “Umanizzazione” (Umanização) [4]. Trata-se de um paradoxo evidente: delegar a uma máquina a tarefa de ditar e melhorar as relações humanas e o acolhimento da comunidade por parte da administração.

A iniciativa do prefeito visa construir um “comune agentico” (município agêntico), onde as inteligências artificiais assumiriam as tarefas burocráticas e repetitivas de retaguarda. A promessa é que, ao automatizar esses processos, os servidores públicos de carne e osso teriam mais tempo para estudar práticas complexas, humanizar o atendimento e dialogar com os cidadãos, sem a intenção de substituir ou demitir trabalhadores. Apesar de Eva Statiella não possuir autonomia decisória formal (suas avaliações são baseadas em cálculo estatístico e supervisionadas por humanos), o seu assento simbólico na mesa de decisões ilustra a entrada definitiva da IA na arena política.

Um olhar atento à Espanha, contudo, nos revela uma face luminosa e inspiradora do uso da tecnologia pelo Estado, onde os algoritmos são empregados na missão mais nobre que uma administração pública pode assumir: a proteção da vida humana. Desde 2007, o governo espanhol utiliza o VioGén (Sistema de Acompanhamento Integral dos Casos de Violência de Gênero), uma plataforma inteligente que processa os dados das denúncias para avaliar e gerenciar o risco enfrentado pelas vítimas, determinando de forma célere as medidas de proteção policial e a criação de planos de segurança personalizados [5].

O sistema em questão processa as respostas dadas pelas vítimas nas delegacias para classificar o perigo em níveis que vão do “insignificante” ao “extremo”, determinando de forma automatizada o grau de proteção policial que a mulher receberá. A grande inovação é que ele não é estático, a IA revisa periodicamente a situação de cada vítima, reavaliando o nível de risco e adaptando as medidas de segurança conforme o agressor se aproxima ou novas ameaças são identificadas. O protocolo mais recente (Protocolo 2025) aprimorou a precisão da classificação de risco e o suporte às vítimas vulneráveis.

Longe de ser um sistema frio, o VioGén atua como um verdadeiro marco global na defesa da integridade das mulheres, tendo ajudado a proteger mais de 831 mil vítimas por meio da realização de mais de 7,2 milhões de avaliações de risco até meados de 2024 [6]. A excelência dessa arquitetura protetiva é tamanha que a ONU, o World Future Council e a União Interparlamentar premiaram a legislação espanhola que deu origem ao sistema, reconhecendo-a internacionalmente como uma das mais eficazes do mundo no combate à violência de gênero. Mais recentemente, relatórios da ONU Mulheres e do Escritório das Nações Unidas sobre Drogas e Crime (UNODC) [7] voltaram a destacar a ferramenta como um modelo “pioneiro”, afirmando que o VioGén marcou um verdadeiro “antes e depois” na prevenção dos feminicídios. Trata-se de um exemplo prático e magistral de como a modernização governamental deve funcionar: não para substituir o calor da empatia humana, mas para multiplicar a nossa capacidade de cuidado, utilizando a inteligência de dados como uma poderosa aliada do Direito e da Justiça.

Em contraste com as abordagens europeias, a China nos mostra uma incorporação da IA na administração pública com um viés muito mais focado no controle processual e punitivo. Pesquisadores chineses desenvolveram uma IA atuando como “promotora de justiça”, que vem sendo testada pela Procuradoria Popular do Distrito de Pudong, em Xangai [8]. Essa máquina foi treinada com milhares de casos e é capaz de formular acusações baseadas na descrição verbal dos fatos para os oito crimes mais comuns na cidade, incluindo fraudes e direção perigosa, com uma impressionante taxa de precisão relatada de 97% [9].

O objetivo declarado dessa tecnologia no sistema judicial chinês é aliviar a carga diária de trabalho dos promotores humanos, permitindo que eles se concentrem nas tarefas de maior complexidade e dificuldade. Contudo, especialistas na própria China ressaltam que essa ferramenta chega a substituir promotores humanos, em certa medida, no próprio processo de tomada de decisões, o que representa um salto sem precedentes. Uma coisa é utilizar um software para avaliar evidências. Outra, muito diferente, é dar a ele o poder de apresentar acusações formais.

Esse modelo chinês expõe a fragilidade da justiça quando tentamos traduzir a linguagem legal, que é complexa, mutável e inerentemente humana, em formatos matemáticos rigorosos que os computadores possam processar. A questão primordial de responsabilidade legal permanece não respondida: se o algoritmo promotor erra ao acusar um cidadão inocente, quem assume a culpa por essa violação irreparável?

Eficiência não pode ser o único farol a guiar as nações

Mudando o olhar para Singapura, observamos uma estrutura governamental de IA que alia forte eficiência a uma governança muito focada na confiança. Sob a iniciativa “Smart Nation 2.0” (Nação Inteligente 2.0), o governo da cidade-estado encara a Inteligência Artificial não apenas como uma oportunidade, mas como uma necessidade transversal para lidar com seus desafios de produtividade e garantir o crescimento econômico e o desenvolvimento social. O Estado atua de forma sistêmica, conectando governo, academia e indústria para traduzir a ciência de dados em soluções reais para os cidadãos [10].

Na prática administrativa, Singapura tem adotado IA para melhorar de forma notável o serviço público. O país a utiliza em áreas críticas como manutenção preditiva de habitações públicas, gestão de trânsito e automação do atendimento ao cidadão. Um de seus grandes marcos recentes, implementado em parceria com a agência HTX, é o uso de biometria facial e de íris para realizar o controle de imigração no Aeroporto de Changi [11]. Esse avanço permite que residentes e viajantes elegíveis passem pelas fronteiras sem precisar apresentar passaportes físicos, reduzindo o tempo do processo em 40%.

Apesar dessa adesão entusiasmada, Singapura mantém uma postura de “inovadora prudente” na governança da IA, apostando em um sistema de regulação pragmático. Eles entendem que o avanço tecnológico requer o que chamam de IA localizada, ou seja, modelos de dados que respeitem a rica diversidade cultural, linguística e jurídica da região (como o modelo SEA-LION) para evitar que a tecnologia reflita vieses externos prejudiciais. As diretrizes do governo exigem que a inteligência artificial seja baseada na transparência, na explicabilidade, na justiça e na centralidade do ser humano, garantindo que o progresso não atropele a confiança pública.

Caminhando para nossas reflexões finais, é inegável que a tecnologia tem o potencial de tornar a administração pública mais ágil, econômica e inteligente. No entanto, quando analisamos esses cenários globais, fica claro que a eficiência não pode ser o único farol a guiar as nações. Como juristas e cidadãos, precisamos reafirmar que a ética deve ser a bússola do serviço público. Nas democracias, a transferência decisória subverte o princípio pelo qual o poder emana do povo e a ele deve retornar. Nas repúblicas, fere elemento igualmente estrutural, relacionado à responsabilização do governante. O princípio republicano exige que quem decide possa ser identificado, questionado e responsabilizado por suas escolhas. Quando a decisão migra para um sistema algorítmico, esse encadeamento se rompe, sem titular humano a quem imputar o erro e sem agente moral a quem a lei possa alcançar. A substituição do raciocínio humano pela matemática algorítmica gera, portanto, riscos substanciais aos fundamentos democráticos, como a erosão da responsabilização dos gestores e a opacidade dos critérios que governam as nossas vidas.

A solução para esse dilema não é a rejeição da tecnologia, mas a adoção do que podemos chamar de “Governança Centauro”. Nessa concepção simbiótica, o Estado utiliza a IA como a base de força (o corpo do cavalo), para analisar dados massivos, automatizar a burocracia e otimizar os serviços públicos de maneira eficiente. Contudo, a cabeça e o coração (o torso humano) devem permanecer firmemente com os servidores e líderes eleitos. O julgamento ético, a sensibilidade, a empatia social e, principalmente, a palavra final em questões de direitos, liberdades e destinos humanos não são e nunca serão delegáveis a um software.

Portanto, o futuro da nossa sociedade não deve ser construído para a conveniência dos algoritmos, mas sim para o bem-estar irrenunciável do cidadão. Para garantirmos que a algocracia não devore a democracia, é imperativo que os governos assegurem que o uso de toda inovação seja transparente, explicável, com a imputação de reponsabilidades a quem as gere, e, acima de tudo, que a decisão final seja humana. O Estado existe pelas pessoas e para as pessoas. E qualquer ferramenta que venha a modernizá-lo deve servir estritamente para fortalecer, e jamais para substituir, os laços de dignidade e de justiça que nos unem.

[1] CAMPOS, Francieli de. A algocracia ascendente: a inteligência artificial na reconfiguração do poder político e os desafios ao Estado de Direito. In: PETRY, Alexandre Torres; PIZZOL, Dineia Anziliero Dal; PADILHA, Letícia Marques (org.). Direito e Inovação. 1. ed. Porto Alegre: OAB/RS, 2025. p. 11-28.

[2] CAMPOS, Francieli de; GOLTZMAN, Elder Maia. Inteligência artificial no centro do Poder Executivo: lições da Albânia. Consultor Jurídico (ConJur), São Paulo, 30 ago. 2025. Disponível aqui.

[3] MENCUCCI, Niccolò. C’è un’intelligenza artificiale in giunta: Eva, l’assessora virtuale che unisce digitale e umani. Libero, 14 jun. 2026. Disponível aqui.

[4] IN Comune arriva Eva, l’assessora creata dall’Intelligenza artificiale: si occuperà di digitale e di… rapporti umani – La storia. La Nuova Sardegna, 10 jun. 2026. Disponível aqui. Acesso em: 21/06/2026.

[5] VIOGEN 5.0: discovering Spain’s risk assessment system of gender-based violence. Interoperable Europe / Public Sector Tech Watch, [S. l.], [202-?]. Disponível aqui.

[6] LA ONU destaca el “pionero” sistema español para luchar contra los feminicidios. SWI swissinfo.ch, 25 nov. 2025. Disponível aqui.

[7] ESCRITÓRIO DAS NAÇÕES UNIDAS SOBRE DROGAS E CRIME; ONU MULHERES. Femicides in 2024: global estimates of intimate partner and family femicides. Viena: UNODC, 2025. Disponível em: unodc.org. Acesso em: 21/07/2026.

[8] CALVI, Thomas. China: artificial intelligence to replace prosecutors? ActuIA, 21 fev. 2022. Disponível aqui.

[9] CHEN, Stephen. Chinese scientists develop AI ‘prosecutor’ that can press its own charges. South China Morning Post, 26 dez. 2021. Disponível aqui.

[10] VERSTAPPEN, Jasper. Singapore’s AI Ecosystem: Research, development, and governance. ESF Research Report. Haia: Netherlands Enterprise Agency (Ministério de Relações Exteriores dos Países Baixos), dez. 2025.

[11] LIM, Alvin. Sailing through immigration clearance without passports. HTX – Home Team Science and Technology Agency, 13 ago. 2024. Disponível aqui.