Pare de usar ferramentas de IA generativa, como ChatGPT, equipe de pedidos da Samsung
A Samsung disse à equipe para parar de usar ferramentas de IA generativa, como ChatGPT e Bard , por preocupações de que elas representem um risco à segurança, informou a Bloomberg na segunda-feira.
A medida segue uma série de deslizes embaraçosos no mês passado, quando os funcionários da Samsung forneceram dados confidenciais relacionados a semicondutores no ChatGPT em três ocasiões.
O ChatGPT, como outras ferramentas de IA generativa, é parcialmente treinado nos dados enviados, então qualquer coisa que a Samsung inserir nele pode resultar em uma resposta a uma consulta feita por outro usuário em qualquer lugar do mundo, embora o desenvolvedor do ChatGPT, OpenAI, tenha adicionado recentemente um modo anônimo que permite que os usuários impeçam que suas entradas sejam usadas para o treinamento do modelo de IA. A própria OpenAI também pode ver os dados enquanto revisa as conversas para melhorar seus sistemas e garantir que o conteúdo esteja em conformidade com suas políticas e requisitos de segurança.
Em um memorando visto pela Bloomberg, a Samsung ordenou que os funcionários se abstivessem de usar a tecnologia em computadores, tablets e telefones de propriedade da empresa, bem como em suas redes internas, alertando que os dados transmitidos para plataformas de IA generativa podem acabar encontrando seu caminho. para pessoas de fora da empresa.
“O interesse em plataformas de IA generativas, como o ChatGPT, vem crescendo interna e externamente”, disse o memorando da Samsung. “Embora esse interesse se concentre na utilidade e eficiência dessas plataformas, também há preocupações crescentes sobre os riscos de segurança apresentados pela IA generativa”.
Acrescentou que os trabalhadores que não seguirem as diretrizes de segurança podem enfrentar ações disciplinares “até e incluindo rescisão do contrato de trabalho”.
O memorando dizia que a Samsung está atualmente “revendo as medidas de segurança para criar um ambiente seguro para o uso seguro de IA generativa para aumentar a produtividade e a eficiência dos funcionários”, mas disse que até que as medidas sejam acordadas, a empresa está “restringindo temporariamente o uso de IA generativa.”
Como parte dos esforços para integrar ferramentas de IA com segurança em seu local de trabalho, a Samsung está desenvolvendo sua própria plataforma de IA para tradução, resumo de documentos e desenvolvimento de software.
Como aponta a Bloomberg, a Samsung é a última grande empresa a agir contra a tecnologia por questões de segurança, com bancos como JPMorgan Chase & Co., Bank of America Corp. e Citigroup Inc. decidindo proibir ou pelo menos restringir seu uso em o local de trabalho.
De fato, a tecnologia de IA está se movendo em um ritmo tão rápido que muitas empresas foram surpreendidas por sua chegada, deixando muitas para avaliar apressadamente como incorporá-la – ou mesmo restringi-la – no ambiente de trabalho.
