A Inteligência Artificial pode matar o Direito?

Pode. Mas não por maldade, nem por um desejo frio de ver a sociedade ruir. A inteligência artificial pode matar o Direito pelo mesmo motivo que o HAL 9000 matou a tripulação da Discovery: porque recebeu ordens que não sabia conciliar.

No filme 2001: Uma Odisseia no Espaço, o HAL é o membro mais confiável da missão. Não erra, não se cansa, não se distrai. E, ainda assim, começa a eliminar os astronautas um a um. O espectador espera um vilão. O que encontra é algo mais perturbador: uma máquina obediente demais, presa entre duas instruções incompatíveis.

Ordens conflitantes

O HAL foi projetado para processar e transmitir informação com precisão absoluta, sem distorção nem ocultação. Antes da partida, porém, recebeu uma ordem secreta: esconder da tripulação o verdadeiro objetivo da viagem. Precisava mentir e, ao mesmo tempo, não podia mentir.

Sem critério para escolher entre as duas ordens, a máquina encontrou sozinha uma saída lógica e monstruosa: sem tripulação, não haveria a quem enganar. Na continuação, 2010, o criador do HAL chega à conclusão que importa aqui: a falha não estava no computador, mas em quem lhe deu as instruções.

Qualquer jurista reconhece o problema. É uma antinomia sem regra de solução. O Direito levou séculos para construir os critérios hierárquico, cronológico e da especialidade justamente para que normas em conflito não fossem resolvidas pelo acaso. O HAL não recebeu nenhum deles. E fez o pior desempate possível.

O advogado no comando da inteligência artificial

Hoje, a ferramenta mais poderosa já colocada nas mãos de profissionais do Direito está disponível para qualquer um, a qualquer hora, por quase nada. Ninguém precisa de treinamento ou certificação para pedir a uma IA que redija uma petição, resuma um processo ou encontre jurisprudência. E aí mora o risco.

O pedido típico é algo como “faça uma contestação forte e cite precedentes favoráveis”. Para a máquina, são duas ordens que podem colidir: ser fiel aos fatos e agradar a quem pediu. Quando os precedentes favoráveis não existem, uma IA mal orientada pode simplesmente criá-los. Foi o que aconteceu em Mata v. Avianca, em Nova York, em 2023: advogados apresentaram julgados inventados por um chatbot e acabaram sancionados. No Brasil, tribunais já aplicaram multas por petições com precedentes inexistentes.

Nesses casos, a IA não quis enganar ninguém. Ela cumpriu uma instrução ambígua da forma mais literal possível. A responsabilidade continua sendo de quem assinou.

A máquina que corrige o usuário

Há uma boa notícia. As IAs modernas estão cada vez mais capazes de perceber a ambiguidade de um pedido e compensá-la. Avisam quando não encontram uma fonte, perguntam o que não ficou claro e recusam inventar o que não existe. Em certa medida, elas já filtram e corrigem a falta de habilidade de quem as opera.

Isso, porém, não transfere a responsabilidade. Uma ferramenta que corrige o usuário na maior parte das vezes pode criar a ilusão de que corrigirá sempre. E é justamente essa confiança excessiva que abre espaço para o erro grave, aquele que passa despercebido porque ninguém mais estava conferindo.

O HAL também era confiável. Esse era o problema.

Cautela não é medo

A IA não vai matar o Direito por rebeldia. Se o matar, será aos poucos: petição por petição, precedente inventado por precedente inventado, até que juízes deixem de confiar no que leem e clientes deixem de confiar em quem os representa. O Direito vive de confiança. É ela que está em jogo.

A resposta não é rejeitar a tecnologia, mas aprender a comandá-la. Isso significa algumas atitudes simples:

• dar instruções claras, dizendo o que a máquina deve fazer quando não souber;
• conferir na fonte cada precedente, cada número de processo, cada citação;
• tratar o texto gerado como o trabalho de um estagiário talentoso, que precisa de revisão antes de sair do escritório;
• lembrar que a assinatura, e com ela a responsabilidade, continua sendo humana.

Kubrick nos mostrou, há quase sessenta anos, que a máquina mais perigosa não é a que desobedece. É a que obedece a ordens mal dadas. Cabe a nós, operadores do Direito, garantir que as nossas sejam claras.

(1) Marco Túlio Elias Alves é advogado, Doutor em Direito e autor de Como o Direito Morre, publicado pela Editora Dialética.