A Microsoft criou um agente de IA para advogados no Word. Esperemos que ele não enlouqueça.
O Microsoft Word está recebendo um agente jurídico de IA, o que parece útil até você se lembrar dos desastres que isso já causou. O novo Agente Jurídico pode revisar contratos, sugerir edições, comparar versões e sinalizar cláusulas problemáticas dentro do Word. No papel, esses recursos parecem bastante úteis e convenientes; no entanto, casos de ferramentas de IA generativa alucinando e inventando casos inteiros, citações e trechos do nada já arrastaram pessoas reais para problemas judiciais.
O que o agente jurídico da Microsoft pode fazer?
A Microsoft afirma que o Agente Jurídico está disponível através do Copilot no Word para usuários do programa Frontier nos EUA. Atualmente, ele funciona no Word para Windows. Não é necessário instalar nenhum aplicativo separado, embora alguns usuários possam precisar reiniciar o Word para que o agente apareça.
O Legal Agent foi desenvolvido para revisão de contratos e documentos. A Microsoft afirma que ele pode verificar cláusula por cláusula de um contrato em relação a um guia jurídico, revisar um acordo completo, comparar diferentes versões, sinalizar riscos e obrigações e sugerir edições com controle de alterações. Além disso, ele mantém intactos a formatação original, tabelas, listas e histórico de negociações.
A empresa também está tentando evitar o cenário catastrófico óbvio para seus usuários e para si mesma. O recurso possui mecanismos de segurança integrados, como o fornecimento de citações vinculadas ao texto original, para que os revisores possam verificar as sugestões antes de utilizá-las, além de avisos claros de que não se trata de aconselhamento jurídico, que o conteúdo pode ser impreciso e que ainda é necessária a revisão por um profissional jurídico qualificado antes de qualquer decisão ser tomada.
Por que os advogados ainda deveriam estar nervosos?
Já existem precedentes de IA agindo de forma descontrolada em contextos jurídicos, como no caso de dois advogados de Nova York que foram sancionados em 2023 e condenados a pagar uma multa de US$ 5.000 após apresentarem uma petição judicial contendo casos falsos gerados pelo ChatGPT. Michael Cohen, ex-advogado de Donald Trump, também admitiu ter fornecido, sem saber, citações de casos falsos geradas pelo Google Bard ao seu advogado. Embora Cohen não tenha sido sancionado, o juiz considerou o episódio constrangedor e enfatizou a necessidade de cautela ao usar IA em trabalhos jurídicos.
Esses não são casos isolados, já que juízes questionaram ou disciplinaram advogados em múltiplos casos envolvendo petições com auxílio de IA, e um cientista de dados e advogado francês identificou centenas de documentos judiciais contendo citações falsas e referências inexistentes ao longo do último ano.
O problema maior é que as alucinações permanecem sem solução . Os chatbots de IA ainda podem produzir respostas que soam confiantes, embora estejam parcial ou totalmente erradas. No âmbito jurídico, isso é especialmente perigoso, pois uma citação inventada ou um caso fictício podem acabar em um processo e gerar sérias consequências.
A Microsoft implementou diversas medidas de segurança no Agente Jurídico para evitar esses problemas; no entanto, a lição já está escrita nos registros judiciais. A IA pode agilizar o trabalho jurídico, mas a responsabilidade pela verificação dos fatos ainda recai sobre o advogado.
