Chatbots estão indo para Washington com ChatGPT Gov
Em uma postagem do X na segunda-feira comentando sobre o sucesso repentino do DeepSeek, o CEO da OpenAI, Sam Altman, prometeu “fazer alguns lançamentos” e parece que ele o fez. A OpenAI revelou seu mais novo produto na terça-feira, uma “versão personalizada do ChatGPT projetada para fornecer às agências governamentais dos EUA uma maneira adicional de acessar os modelos de fronteira da OpenAI”, de acordo com o anúncio . O ChatGPT Gov oferecerá medidas de segurança de dados ainda mais rigorosas do que o ChatGPT Enterprise, mas como irá lidar com as alucinações que assolam os outros modelos da empresa?
De acordo com a OpenAI, mais de 90.000 funcionários do governo federal, estadual e local em 3.500 agências consultaram o ChatGPT mais de 18 milhões de vezes desde o início de 2024. A nova plataforma permitirá que agências governamentais insiram “informações confidenciais e não públicas” em ChatGPT enquanto é executado em seus ambientes de hospedagem seguros – especificamente, a nuvem comercial Microsoft Azure ou a nuvem comunitária do Azure Government – e estruturas de segurança cibernética como IL5 ou CJIS. Isso permite que cada agência “gerencie seus próprios requisitos de segurança, privacidade e conformidade”, disse Felipe Millon, líder de vendas governamentais da OpenAI, a repórteres na teleconferência de terça-feira.
O r1 do deepseek é um modelo impressionante, especialmente em relação ao que eles são capazes de oferecer pelo preço.
obviamente entregaremos modelos muito melhores e também é realmente revigorante ter um novo concorrente! vamos lançar alguns lançamentos.
— Sam Altman (@sama) 28 de janeiro de 2025
A empresa também fez uma demonstração do que o ChatGPT Gov, que roda no modelo GPT-4o , pode fazer durante a teleconferência. Na demonstração, um “funcionário federal” se inscreveu no ChatGPT, gerou um plano de cinco semanas para suas funções profissionais e depois analisou uma versão impressa do mesmo plano de cinco semanas marcado com notas e adendos manuscritos. O ChatGPT redigiu então um memorando para o departamento jurídico e de conformidade da agência resumindo seu plano.
“Eu sei que o presidente Trump também está procurando como podemos potencialmente simplificar isso, porque é uma maneira de fornecer ferramentas de software mais modernas ao governo e ajudá-lo a funcionar com mais eficiência”, disse Kevin Weil, CPO da OpenAI, à CNBC. “Então, estamos muito entusiasmados com isso.”
O ChatGPT Gov é construído em grande parte com base na estrutura existente do ChatGPT Enterprise , que ainda está passando pelo Programa Federal de Gerenciamento de Riscos e Autorizações e ainda não foi liberado para lidar com dados não públicos. Ainda não há um cronograma para quando esse credenciamento poderá ocorrer, mas a IA provavelmente não será implementada para os funcionários reais da agência antes que isso aconteça.
Mesmo com o foco nos dados e na segurança operacional, confiar na IA generativa para tarefas tão vitais e sensíveis como o funcionamento do governo coloca desafios únicos e difíceis. Já vimos mais de um advogado ser pego usando chatbots para “ realizar pesquisas ”, resultando na citação de jurisprudência alucinada , bem como a polícia confiando em evidências defeituosas baseadas em IA para prender pessoas injustamente . Os eleitores da Califórnia também rejeitaram recentemente uma medida que colocaria a AI no comando da sentença sob fiança.
Além do mais, um estudo Stanford HAI de 2024 descobriu que os modelos jurídicos populares da Thomas Reuters e LexisNexis, que prometem “pesquisa jurídica livre de alucinações”, na verdade alucinaram em suas respostas, 34% e 17% das vezes, respectivamente. Os autores do estudo apontam que ainda há uma melhoria significativa em relação aos chatbots de uso geral, que alucinavam respostas a consultas jurídicas entre 58% e 82% das vezes.
O anúncio da OpenAI veio poucas horas depois que o DeepSeek revelou o V3 , seu modelo generativo mais recente, que oferece desempenho comparável ao modelo de raciocínio o1 de última geração da OpenAI, usando de 20 a 50 vezes menos energia, dependendo da tarefa. A startup chinesa desorganizou a indústria americana de IA com essa revelação, questionando a necessidade de construir continuamente mais e mais data centers e usinas de energia se um código de IA mais eficiente pudesse realizar o mesmo. A Nvidia, fornecedora líder global de GPUs, as unidades de processamento especializadas que os sistemas de IA exigem para tarefas de treinamento e inferência, perdeu US$ 600 bilhões em capitalização de mercado em resposta às notícias do DeepSeek. As empresas de gás e de energia nuclear também viram o valor das suas ações diminuir.
