A inteligência artificial generativa está alucinando novamente, desta vez em documentos judiciais federais.

O que aconteceu: Bem, está começando a acontecer. Tribunais em todo o mundo estão recebendo documentos legais de advogados que estão repletos de… bem, mentiras criadas por IA .

• Estamos falando de processos judiciais totalmente fabricados, citações falsas e registros que simplesmente não existem.
• Um cientista de dados e advogado francês chamado Damien Charlotin tem acompanhado esse fenômeno. Ele encontrou pelo menos 490 processos judiciais nos últimos seis meses que continham essas "alucinações" de IA.
• A maioria deles é dos EUA, onde juízes têm repreendido (e até multado) advogados por entregarem esse absurdo gerado por IA .
• Em um caso grave, um advogado da MyPillow chegou a apresentar um documento com quase 30 citações falsas. Que horror!

Por que isso é tão importante: Este não é apenas um problema para advogados; é um grande dilema para todos .

• Estamos todos começando a usar essas ferramentas de IA para tudo – elaborar relatórios, resumir reuniões, fazer pesquisas.
• O problema é que a IA é incrivelmente boa em parecer confiante, mesmo quando está completamente errada. Ela dá uma resposta que parece plausível, mas é simplesmente… falsa.
• Como disse Charlotin, "a IA pode ser uma bênção, mas também tem suas armadilhas". Mesmo pessoas inteligentes e experientes estão sendo enganadas por ela , e isso representa um risco enorme para qualquer empresa que dependa de trabalho gerado por IA sem uma verificação minuciosa.

Por que isso importa? Veja bem, seja você professor, advogado ou gerente, a IA está se tornando parte do trabalho. É inevitável. Mas, como alertam os especialistas, você não pode, de forma alguma, usar essas ferramentas cegamente.

• Maria Flynn, CEO da Jobs for the Future, citada na reportagem da AP, resumiu perfeitamente: trate a IA como uma “assistente, não como uma substituta”.
• Você ainda precisa ser o ser humano no processo. Você precisa verificar os fatos, garantir que não está infringindo as leis de privacidade e, por favor, não faça upload de dados confidenciais da sua empresa.
• Como disse outro advogado: "As pessoas presumem que está certo porque soa certo — mas essa presunção pode lhe custar caro." Pode custar sua reputação, seu emprego ou até mesmo lhe causar problemas legais.

O que vem a seguir: Em resumo, todos precisamos aprender a usar a IA de forma mais inteligente. E rápido.

• As empresas estão sendo incentivadas a treinar suas equipes sobre esses assuntos – como verificar seu funcionamento, como usá-los com segurança e o que não fazer.
• Está se tornando uma habilidade básica para o mercado de trabalho. Como disse Flynn, "O maior erro é não aprender a usar IA". O futuro não é sobre a IA substituindo pessoas; é sobre pessoas que sabem usar a IA de forma responsável.