**Interlocutor 1:** Olá, bem-vindos e bem-vindas a mais um episódio do Diálogos de Direito Administrativo. Hoje a gente vai mergulhar num tema super atual, né? os limites éticos e jurídicos da produção de atos jurídicos pelo Estado, mas com base em inteligência artificial. É um desafio e tanto. E para guiar nossa conversa, a gente tá se baseando num artigo excelente dos professores Maurício Zockun e Carolina Zancaner Zockun. O título já diz muito: limites éticos e jurídicos à produção do ato jurídico estatal com base em inteligência artificial, o ato jurídico produzido sem consciência ou vontade.

**Interlocutor 2:** Exato. Um tema quente, sem dúvida. A IA tá cada vez mais presente na administração pública em vários níveis. Então é fundamental a gente discutir isso. Nosso objetivo aqui hoje, né, é tentar entender como essa tecnologia toda se encaixa ou não nosso ordenamento jurídico, principalmente pensando em como controlar esses atos e na questão da motivação. Será que um ato de IA pode ser legitimamente motivado?

**Interlocutor 1:** Boa pergunta para começar. E o artigo já traz uma distinção importante logo de cara, né, entre ética e direito na atuação do Estado. Os autores, o Maurício e a Carolina Zockun, eles defendem que o padrão ético que a gente exige do Estado, ele não vem de uma, sei lá, de uma moral comum flutuante, ele deriva da própria lei. A moralidade administrativa, que tá lá na Constituição, no artigo 37, é um princípio jurídico, né? tá ligado diretamente à legalidade. A administração não age com base no que acha certo, mas sim segundo um legion, conforme a lei manda.

**Interlocutor 2:** Isso é crucial porque essa moralidade administrativa, ela é um valor que o próprio direito incorporou, é positivado. Os autores são bem enfáticos nisso. Se a gente fosse basear a ação do Estado numa moral comum, imagine a confusão. Essa moral varia muito, de grupo para grupo, de tempo para tempo. Geraria uma insegurança jurídica enorme. E no estado democrático de direito, previsibilidade, segurança jurídica, isso é essencial. Então, ao atrelar a moralidade à legalidade, o direito tenta trazer essa segurança, entende? Não dá para separar as duas coisas nesse contexto administrativo. A moralidade não é autônoma aqui.

**Interlocutor 1:** Perfeito. E essa necessidade de clareza, de controle, nos leva direto para outra questão central, a motivação dos atos administrativos. A Constituição exige, a lei 9784, também lá no artigo 50, parágrafo primeiro, que a administração tem o dever de explicar por que tomou uma decisão, apresentar as razões de fato e de direito. A lei fala em motivação explícita, clara, congruente. Mas os autores eles fazem uma ponderação interessante. Eles dizem que mesmo que pareça explícito na lei, sempre vai exigir interpretação. Não existe essa coisa de aplicar a norma de forma totalmente mecânica, né?

**Interlocutor 2:** Exatamente. Não existe texto sem contexto, sem interpretação. E a intensidade dessa motivação, bom, ela pode variar. Os autores usam um exemplo bom, o do semáforo. É um ato administrativo, né? muitas vezes hoje é automatizado por um sistema, ele funciona ali mudando do verde pro vermelho, sem uma consciência ou vontade a cada ciclo. E ninguém espera uma justificativa formal do semáforo para ele ter ficado vermelho, certo? É um ato vinculado, a condição ocorreu, ele opera, não precisa de uma motivação complexa cada vez. Agora, pega um ato discricionário. Aquele em que o gestor tem uma margem de escolha precisa ponderar interesses, escolher entre caminhos possíveis. Aí sim, a motivação detalhada é absolutamente indispensável. Ela que permite a gente entender por que aquela decisão foi tomada e não outra. E é o que permite o controle, seja administrativo ou judicial.

**Interlocutor 1:** E é exatamente nesse ponto, na discricionariedade, que a inteligência artificial vira o centro do debate no artigo, né? Como motivar um ato que foi sugerido ou até mesmo produzido por uma IA. O artigo até explica um pouco como a IA funciona, né? fala de algoritmos, redes neurais, menciona termos como embeddings, que são formas de representar dados complexos matematicamente, positioning encoding, modelos probabilísticos, mas a ideia central dos autores é forte. Esses sistemas, por mais sofisticados que sejam, eles produzem resultados sem consciência ou vontade própria no sentido humano. Eles até citam o exemplo famoso do ChatGPT e o fenômeno da alucinação. Quer dizer, a IA pode gerar uma resposta que parece super confiante, super correta, mas que na verdade tá errada, inventada. Isso mostra bem essa falta de compreensão real do mundo, né? Falta intencionalidade, falta juízo de valor genuíno. E aí, como fica a motivação? Se o ato não nasce de uma vontade consciente, de uma ponderação humana, como ele pode ser motivado nos termos que o direito exige, especialmente naqueles atos mais complexos.

**Interlocutor 2:** E as implicações práticas já estão batendo na porta, né? Com certeza. Já temos exemplos. O projeto Victor lá no STF que usa IA para ajudar a separar e agrupar processos. É uma fase mais preparatória de auxílio. Mas temos também casos como a Dra. Luzia na procuradoria geral do DF que já chega a sugerir minutas de peças de atos finais. Aí o desafio aumenta e entra a questão da caixa preta, o famoso black box. Muitas vezes, o funcionamento interno do algoritmo é tão complexo que é difícil até pros desenvolvedores explicarem exatamente por que que ele chegou àquele resultado específico. Como a gente controla isso? Como garante que não há vieses indevidos, discriminação ou simplesmente um erro lógico ali dentro? É um cenário bem complexo. E diante disso, o que os autores propõem pra gente tentar proteger os direitos dos administrados, dos cidadãos, eles listam alguns direitos que seriam essenciais nesse contexto de IA na administração. Primeiro, ter acesso à base de dados que foi usada para treinar o algoritmo. Isso é fundamental pra gente poder verificar se tinha algum viés ali na origem, né?

**Interlocutor 1:** Sim. A questão dos vieses algoritmos é seríssima. Um algoritmo treinado com dados históricos que refletem discriminação, por exemplo, tende a perpetuar essa discriminação. Ter acesso aos dados é o primeiro passo para auditar isso. Depois eles falam do acesso ao código fonte do algoritmo para tentar entender a lógica de programação, como ele toma as decisões. É o que se chama de princípio da explicabilidade ou transparência algorítmica.

**Interlocutor 2:** Isso. Mas aí vem uma crítica importante que os autores mencionam e que dialoga muito com o que o professor Lenio Streck também aponta. Uma coisa é a explicação técnica de como o algoritmo funciona, o passo a passo computacional. Outra coisa bem diferente é a fundamentação jurídica. Explicar o código não é o mesmo que justificar juridicamente a adequação, a justiça, a razoabilidade da decisão pro caso concreto. A explicabilidade técnica não se confunde com a motivação no sentido do direito administrativo. Entende?

**Interlocutor 1:** Entendi. É uma distinção sutil, mas fundamental. Não basta saber como a máquina chegou lá, mas se o lugar onde ela chegou é juridicamente defensável. E o terceiro ponto que eles levantam é o acesso e a possibilidade de operar a interface que o próprio poder público usa para interagir com a ferramenta de IA, para entender como o agente público tá usando aquilo.

**Interlocutor 2:** Exato. Para ver quais parâmetros são inseridos, como o sistema é alimentado no dia a dia. Isso também faz parte do controle. Então, amarrando tudo isso, qual seria a conclusão principal do artigo dos professores Zockun, onde eles traçam a linha?

**Interlocutor 1:** Olha, a conclusão que eles apontam vai na seguinte linha. Para a produção de atos vinculados, aqueles mais simples, mais repetitivos, onde não há margem de escolha pro administrador, aí o uso da IA parece ser admissível. Pensa de novo no semáforo ou na emissão automática de uma certidão quando os requisitos estão preenchidos, desde que, claro, se garanta a transparência sobre o sistema e a possibilidade de um controle posterior para corrigir eventuais erros.

**Interlocutor 2:** OK, pros atos vinculados parece fazer sentido, mas e os outros?

**Interlocutor 1:** Aí é que tá o X da questão. Pros atos discricionários, aqueles que envolvem escolha, ponderação de valores, análise de conveniência e oportunidade, a visão dos autores é bem mais restritiva. Eles argumentam que a discricionariedade exige, por sua natureza, consciência e vontade. Exige um juízo de valor que é na essência humano. Algo que as IAs atuais, baseadas em modelos probabilísticos e sem compreensão real do mundo, simplesmente não possuem. Então, usar para produzir diretamente um ato discricionário seria problemático, porque faltaria esse elemento humano essencial da escolha consciente e fundamentada.

**Interlocutor 2:** Faz todo sentido. A máquina pode processar dados, encontrar padrões, mas a ponderação de valores, a escolha ética, isso ainda parece ser nosso, né?

**Interlocutor 1:** Exato. E isso leva à reflexão final que eles propõem no artigo, que é bem forte. Eles citam Plauto, homo homini lupus. O homem é o lobo do homem. E a provocação é: será que a máquina, essa ferramenta criada pelo homem, mas desprovida de consciência e vontade, poderia se tornar um novo tipo de lobo, um algoz a exercer funções estatais complexas sem a capacidade humana de julgamento e empatia? Fica a pergunta no ar.

**Interlocutor 2:** Uma pergunta poderosa pra gente continuar pensando, sem dúvida. Bom, acho que conseguimos explorar bem as ideias centrais do artigo dos professores Maurício Zockun e Carolina Zancaner Zockun. Passamos pela diferença entre moralidade jurídica e moral comum, pelo dever de motivação, os desafios específicos que a IA traz para isso, especialmente nos atos discricionários e as propostas para garantir direitos. Foi uma ótima discussão e fica claro, né, a importância de manter a transparência, de garantir mecanismos eficazes de controle e, principalmente, de preservar o papel central da vontade e da consciência humana nas decisões estatais mais sensíveis, onde há escolhas e valores em jogo. A tecnologia é ferramenta, não pode substituir o julgamento humano onde ele é essencial.

**Interlocutor 1:** Perfeito. Bom, queremos agradecer a você que nos acompanhou em mais este Diálogos de Direito Administrativo. Se você gostou da nossa conversa, da nossa análise, não esquece, clica aí no sininho para receber as notificações. Compartilha este episódio nas suas redes sociais para mais gente participar do debate. E claro, assine o canal do Diálogos de Direito Administrativo para não perder os próximos temas.

**Interlocutor 2:** Isso aí, contamos com vocês. Até a próxima.

**Aviso legal:** Diálogos de Direito Administrativo, DDA. Este conteúdo é gerado por inteligência artificial, com base em artigos doutrinários, sem participação direta dos autores originais na definição do roteiro ou frases contidas no diálogo. Os diálogos são criados automaticamente e podem divergir do texto fonte ao enfatizarem aspectos diferentes ou abordarem tópicos não contemplados no artigo original. O material tem caráter educacional e introdutório, não substituindo a leitura do artigo fonte, cuja consulta é altamente recomendada. A curadoria humana, realizada pelo professor Paulo Modesto e sua equipe, seleciona os artigos, edita os vídeos e organiza a divulgação. Apoie o projeto Diálogos de Direito Administrativo. Compartilhe, comente e curta o projeto nas redes sociais. Mantenha-se atualizado e assine o canal para receber informações sobre a publicação de novos conteúdos no YouTube ou Spotify. Afinal, visitando os Diálogos de Direito Administrativo, você pode aprender mais em qualquer lugar. Até o próximo episódio.