A IA turbinou a programação, mas também gerou um problema de desleixo.

As ferramentas de programação com IA deveriam tornar o desenvolvimento de software mais rápido e fácil. E conseguiram, mas talvez até demais. As pessoas estão escrevendo código mais rápido do que nunca, e isso criou uma série de novos problemas para as empresas.

Segundo o The New York Times , uma empresa de serviços financeiros começou a usar o Cursor, uma ferramenta de programação com IA, e passou de produzir 25.000 para 250.000 linhas de código por mês. Isso parece uma vitória, mas criou um acúmulo de um milhão de linhas de código não revisadas.

“A enorme quantidade de código que está sendo entregue, e o aumento das vulnerabilidades, é algo com que eles não conseguem acompanhar”, disse Joni Klippert, CEO da StackHawk, uma startup de segurança que trabalha com a empresa.

O problema se espalhou pelo Vale do Silício. As empresas agora produzem mais código do que têm pessoal para revisá-lo, e essa lacuna está se tornando um risco de segurança.

Então, qual é o problema?

O cargo responsável por detectar erros em códigos gerados por IA é chamado de engenheiro de segurança de aplicações. E não há profissionais suficientes. "Não há engenheiros de segurança de aplicações suficientes no planeta para atender à demanda das empresas americanas", afirmou Joe Sullivan, consultor da Costanoa Ventures.

Não se trata apenas de um problema de pessoal. As ferramentas de programação com IA funcionam melhor em laptops pessoais do que em servidores seguros da empresa, o que significa que os engenheiros estão baixando bases de código inteiras para seus dispositivos pessoais. Se um laptop desaparece, muitos dados confidenciais também desaparecem.

Será que mais inteligência artificial é realmente a resposta?

Como era de se esperar, o Vale do Silício pensa assim. Empresas como Anthropic, OpenAI e Cursor já estão desenvolvendo ferramentas de revisão com inteligência artificial para ajudar a detectar erros em códigos gerados por IA. A Cursor chegou a adquirir uma startup de revisão de código para incorporar essa funcionalidade ao seu produto.

Como disse o chefe de engenharia da Cursor: "A fábrica de desenvolvimento de software meio que quebrou. Estamos tentando reorganizar as peças de alguma forma."

Tenho minhas dúvidas. Sim, a IA eventualmente conseguirá detectar erros no código, mas a revisão humana ainda será necessária antes do lançamento da versão final. Recentemente, um código de IA causou uma interrupção no serviço da Amazon , resultando em mais de 100.000 pedidos perdidos e 1,6 milhão de erros.

Nenhuma empresa quer que isso aconteça, e não tenho certeza se revisores de código com IA são a solução.