Leonardo Gomes Ribeiro Gonçalves
Imagine um advogado que, ao receber um processo complexo envolvendo responsabilidade contratual, recorre a um sistema de inteligência artificial (IA) generativa para elaborar a petição inicial. Ele descreve o caso em linguagem natural, e o sistema devolve, em segundos, uma peça estruturada: fundamentos jurídicos selecionados, jurisprudência pertinente citada, teses argumentativas ordenadas. O advogado revisa, ajusta alguns trechos e assina o documento.
Quem, nessa interação, efetivamente elaborou a petição? Quem definiu o que era relevante, o que devia ser destacado ao longo da peça e o que merecia ser deixado de lado? Essa situação ilustra o que este artigo denomina “contrato de delegação cognitiva”: uma relação na qual o ser humano, o principal na relação, delega a um sistema de IA, o agente, parcela significativa de seu esforço cognitivo, retendo formalmente a responsabilidade pela decisão final, mas cedendo, na prática, boa parte do processo que a produz. Como se verá ao longo deste texto, há nuances nos termos desse contrato tácito e nas suas consequências que passam despercebidas à primeira vista.
A teoria que explica as relações de agência, como no caso descrito, partem de uma premissa de que existe um principal, aquele que detém o interesse da relação, define os objetivos e delega a execução, e existe um agente, aquele que age em nome do principal, mobilizando recursos, informação e juízo para realizá-los. Um “contrato de delegação cognitiva”, que é um tipo de relação de agência existente entre humano e a inteligência artificial (ou seu proprietário), a pergunta que se faz é: quem ocupa, de fato, qual papel?
A resposta parece óbvia. O ser humano pensa, delibera e decide; a ferramenta executa. Mas essa obviedade começa a desaparecer quando a IA passa a produzir sínteses, antecipar demandas, sugerir caminhos e, sobretudo, processar em segundos volumes de informação que um especialista humano levaria meses para assimilar.
1. O Sistema 0 e a desaceleração do juízo humano
Daniel Kahneman popularizou a distinção entre dois modos de cognição humana. O Sistema 1 é rápido, intuitivo e automatizado, opera abaixo do limiar da consciência deliberada, reconhece padrões e responde emocionalmente. O Sistema 2 é lento, analítico e esforçado, é ativado quando a complexidade exige raciocínio explícito, comparação de hipóteses e controle consciente do erro. Ambos coexistem no pensamento humano, competem e se complementam no processamento da realidade .
O que a IA generativa representa nessa arquitetura? Alguns pesquisadores já propõem chamá-la de Sistema 0, como um processador externo, de velocidade e escala incomparáveis, capaz de realizar em milissegundos operações que mobilizariam o Sistema 2 humano por horas. Não se trata de intuição nem de deliberação, mas de processamento massivo de padrões linguísticos e estatísticos, produzindo outputs que imitam, com surpreendente fidelidade, o raciocínio analítico humano. Quando usamos a IA generativa, delegamos ao Sistema 0 a tarefa de sintetizar, estruturar e recomendar. Estamos, na prática, terceirizando ao agente de IA parte do esforço cognitivo que define o exercício do juízo e, com ele, parte do que significa ser o principal.
O problema nesse caso está no que acontece com as capacidades cognitivas humanas quando o Sistema 0 assume funções que antes exigiam o engajamento do Sistema 2. Estudos em psicologia cognitiva sugerem que a delegação excessiva de tarefas analíticas a sistemas externos pode levar à atrofia por desuso. A IA, se operada irrefletidamente, pode atrofiar a capacidade de refletir e formular perguntas difíceis, reconhecer ambiguidades jurídicas ou suspeitar da plausibilidade de uma conclusão.
2. A inversão de papéis
A questão da agência na relação humano-IA se torna ainda mais relevante quando consideramos o desenho concreto das interações no ambiente profissional. Em tese, o humano é o principal, pois define o problema, avalia o output e assume a responsabilidade jurídica pelas decisões que toma. A IA, nesse caso, é o agente, já que executa, sugere, processa. Mas essa distribuição de papéis é mais frágil do que parece.
Quando um advogado recebe um parecer já estruturado, com referências normativas organizadas e conclusões formuladas, o esforço cognitivo exigido para validar esse output é menor do que o esforço que seria necessário para produzi-lo. A assimetria de informação, que na teoria da agência clássica pende em favor do agente humano especializado, inverte-se. O Sistema 0 processou mais dados, em menos tempo, com menos fadiga e, como uma caixa-preta, esconde como esse processamento foi realizado e como o texto entregue foi sintetizado. Nessa circunstância, quem está subordinado a quem?
A inversão de papéis ocorre quando o humano deixa de definir o horizonte cognitivo para formular problemas, passando apenas a supervisionar o agente de IA e a homologar as soluções entregues. Nesse caso, o principal que apenas ratifica as recomendações do agente já não governa a relação de agência, ele a encena. E instituições e atividades que dependem do juízo humano, como no direito, na medicina, na política, têm razões para se preocupar com essa inversão.
3. O poder de processamento como poder de agenda
Há uma dimensão política nessa discussão que frequentemente escapa aos debates técnicos sobre IA. O poder de processar dados em escala não é apenas operacional, mas é também poder de agenda. Quem sintetiza define o que é objeto de destaque. Quem organiza define o que é relevante. Se o Sistema 0 determina, de fato, quais padrões emergem, quais precedentes são citados e quais alternativas decisórias são consideradas, ele não está apenas executando, está, em alguma medida, estruturando o campo de possibilidades dentro do qual o humano exerce seu pretenso juízo soberano.
A literatura sobre automation bias (viés de automação) documenta com precisão esse fenômeno, em que humanos tendem a aceitar recomendações de sistemas automatizados mesmo quando estas contradizem seu próprio julgamento, especialmente sob pressão de tempo, fadiga cognitiva ou complexidade informacional. Existem exemplos como médicos que acatam alertas algorítmicos sem revisão clínica, profissionais do direito que incorporaram conclusões de IA sem avaliar os pressupostos fáticos subjacentes.
4. Avaliação de Impacto Cognitivo: um custo eficiente para controle nas relações de agência entre humanos e IA generativa
Diante desse cenário, como restaurar a primazia do humano como principal sem renunciar aos ganhos evidentes de produtividade e qualidade que o Sistema 0 proporciona? A resposta não está na proibição nem na rendição acrítica e festiva das ferramentas de IA. Está na governança, especificamente, em mecanismos que tornem visível aquilo que a delegação cognitiva habitualmente oculta. Em resumo, é preciso conhecer a máquina, como ela trabalha e o que significa o texto que ela entrega.
É nesse contexto que a Avaliação de Impacto Cognitivo (AIC) emerge como uma proposta, à semelhança das avaliações de impacto ambiental ou das avaliações de impacto regulatório já consolidadas no direito público. A AIC propõe que a introdução de sistemas de IA em processos decisórios relevantes seja precedida de uma análise estruturada dos efeitos que essa introdução produz sobre as capacidades cognitivas dos operadores humanos e sobre a qualidade do juízo resultante sobre as respostas oferecidas pela IA.
No sentido econômico da teoria da agência, a AIC não é uma barreira ao uso da IA, mas um custo de agência, isto é, um mecanismo de monitoramento e alinhamento de interesses do principal e do agente que a teoria econômica reconhece como necessário em qualquer relação em que o agente detém informação assimétrica e capacidade de execução superior à do principal. Na relação humano-IA, esse custo corresponde à obtenção de respostas a perguntas formuladas na AIC: Quais tarefas cognitivas estão sendo delegadas ao Sistema 0? Em que medida os operadores humanos mantêm a capacidade de realizar essas tarefas de forma autônoma? Como está sendo preservado o espaço para o exercício do juízo crítico sobre os outputs gerados? Quais mecanismos de revisão são ativados quando a IA e o especialista humano divergem?
Ao tornar essas perguntas obrigatórias, a AIC restitui ao humano o protagonismo que a automação irrefletida tende a esvaziar. Ela não nega o valor do Sistema 0, mas reconhece-o e estabelece instrumentos para governá-lo, assegurando a primazia dos interesses do principal da relação.
Ao final, pode-se afirmar que o custo de implementar uma AIC é modesto comparado ao custo de descobrir, tardiamente, que decisões relevantes foram tomadas por um agente algorítmico escolhido irrefletidamente para realizar tarefas em nome de um principal que abdicou do seu papel.
5. Considerações finais
A questão com que abrimos este texto permanece em aberto e provavelmente seguirá assim por muito tempo. Mas a direção da resposta já é possível de esboçar: o humano é e deve permanecer o principal e não um agente de validação de resultados produzidos por um mecanismo de inteligência artificial generativa. Não porque seja mais rápido, mais preciso ou mais informado, em nenhuma dessas dimensões ele vencerá o Sistema 0. Mas porque é sobre ele que recaem as consequências, é a ele que a sociedade atribui responsabilidade e é nele que residem os valores que não podem ser reduzidos a padrões estatísticos. Governar essa relação com inteligência e método, e não apenas com entusiasmo ou com medo, é o desafio que a era do Sistema 0 coloca diante de nós.