Criador do ChatGPT lança programa de recompensas por bugs com recompensas em dinheiro
O ChatGPT ainda não é tão inteligente a ponto de encontrar suas próprias falhas, então seu criador está pedindo ajuda aos humanos.
A OpenAI revelou um programa de recompensas de bugs na terça-feira, incentivando as pessoas a localizar e relatar vulnerabilidades e bugs em seus sistemas de inteligência artificial, como ChatGPT e GPT-4 .
Em um post em seu site descrevendo os detalhes do programa, a OpenAI disse que as recompensas por relatórios variam de US$ 200 para descobertas de baixa gravidade a até US$ 20.000 para o que chamou de “descobertas excepcionais”.
A empresa apoiada pela Microsoft disse que sua ambição é criar sistemas de IA que “beneficiem a todos”, acrescentando: “Para esse fim, investimos pesadamente em pesquisa e engenharia para garantir que nossos sistemas de IA sejam seguros e protegidos. No entanto, como acontece com qualquer tecnologia complexa, entendemos que vulnerabilidades e falhas podem surgir.”
Dirigindo-se a pesquisadores de segurança interessados em se envolver no programa, a OpenAI disse que reconhece “a importância crítica da segurança e a vê como um esforço colaborativo. Ao compartilhar suas descobertas, você desempenhará um papel crucial em tornar nossa tecnologia mais segura para todos”.
Com mais e mais pessoas testando o ChatGPT e outros produtos da OpenAI, a empresa deseja rastrear rapidamente quaisquer possíveis problemas para garantir que os sistemas funcionem sem problemas e evitar que quaisquer pontos fracos sejam explorados para fins nefastos. A OpenAI, portanto, espera que, ao se envolver com a comunidade de tecnologia, possa resolver quaisquer problemas antes que se tornem um problema mais sério.
A empresa com sede na Califórnia já teve um susto onde uma falha expôs os títulos das conversas de alguns usuários quando deveriam ter permanecido privados.
Sam Altman, CEO da OpenAI, disse após o incidente no mês passado que considerava o acidente de privacidade um “problema significativo”, acrescentando: “Nos sentimos péssimos com isso”. Agora foi consertado.
O erro se tornou um problema maior para a OpenAI quando a Itália expressou sérias preocupações sobre a violação de privacidade e decidiu banir o ChatGPT enquanto realizava uma investigação completa. As autoridades italianas também estão exigindo detalhes das medidas que a OpenAI pretende tomar para evitar que isso aconteça novamente.
