A ferramenta de avaliação de segurança Microsoft transforma o Counterfit AI em código aberto
A Microsoft transformou sua ferramenta de avaliação de risco de segurança de IA, Counterfit, de código aberto, permitindo que qualquer pessoa comece a usar a ferramenta gratuitamente. Atualmente, as organizações podem usar o Counterfit para automatizar as avaliações de risco de segurança, garantindo que a proteção que estão usando seja perfeita.
Microsoft lança Counterfit como ferramenta de código aberto
A Microsoft desenvolveu originalmente o Counterfit como uma ferramenta interna que pode avaliar rapidamente a segurança de IA e sistemas de aprendizado de máquina. Ele começou como uma coleção de scripts antes de se transformar rapidamente em uma automação de IA genérica que um operador pode usar para "atacar vários sistemas de IA" de uma vez.
A Microsoft agora usa regularmente o Counterfit como uma ferramenta central em suas operações de equipe de IA. Como Counterfit é agnóstico em relação ao ambiente, modelo e dados, a ferramenta pode fornecer uma avaliação precisa sem impedância.
A ferramenta em si foi projetada para uso por profissionais de segurança. Counterfit usa fluxos de trabalho semelhantes a outras ferramentas populares do red-team, como Metasploit ou PowerShell Empyre, com amplo suporte para scripts, algoritmos de ataque pré-carregados, varredura de vulnerabilidade, registro avançado e muito mais, acessados por meio da linha de comando.
A Microsoft também trabalhou extensivamente com profissionais de segurança e grandes organizações para desenvolver o Counterfit melhor. No blog de segurança da Microsoft , Matilda Rhode, pesquisadora sênior de segurança cibernética da Airbus, disse:
A IA é cada vez mais usada na indústria; é vital olhar para frente para proteger essa tecnologia, especialmente para entender onde os ataques de espaço de recursos podem ser realizados no espaço do problema. O lançamento de ferramentas de código aberto de uma organização como a Microsoft para que os profissionais de segurança avaliem a segurança dos sistemas de IA é bem-vinda e uma indicação clara de que a indústria está levando esse problema a sério.
Você pode encontrar o Microsoft Counterfit de código aberto em seu GitHub oficial.
Por que o Counterfit é útil?
Mesmo para uma empresa do tamanho da Microsoft, concluir avaliações de segurança eficazes não é fácil, especialmente quando essas empresas são enormes líderes da Fortune 500, governos, organizações sem fins lucrativos e muito mais. Um estudo anterior da Microsoft descobriu um grande número de empresas incapazes de testar seus sistemas de IA com precisão.
Descobrimos que 25 de 28 empresas indicaram que não têm as ferramentas certas para proteger seus sistemas de IA e que os profissionais de segurança estão procurando orientação específica neste espaço.
O Counterfit facilita a conclusão dessas avaliações, automatizando o processo de análise e teste.
Além disso, um estudo recentemente publicado do Gartner listou a adoção de segurança de IA como uma das medidas de segurança mais importantes que uma empresa pode tomar para melhorar a proteção. O mesmo estudo observou que "Em 2024, as organizações que implementam controles de gerenciamento de risco de IA dedicados evitarão com sucesso resultados negativos de IA duas vezes mais do que aquelas que não o fazem."
Resumindo, o Counterfit se tornando uma ferramenta de avaliação de segurança de IA de código aberto deve ajudar a tornar o mundo um lugar um pouco mais seguro.
