Governador da Califórnia veta projeto de lei expansivo de segurança de IA
O governador da Califórnia, Gavin Newsom, vetou o SB 1047, a Lei de Inovação Segura e Protegida para Modelos Artificiais de Fronteira, argumentando em uma carta aos legisladores que “estabelece uma estrutura regulatória que poderia dar ao público uma falsa sensação de segurança sobre como controlar esta mudança rápida tecnologia."
“Não acredito que esta seja a melhor abordagem para proteger o público das ameaças reais representadas pela tecnologia”, escreveu ele. O SB 1047 exigiria “que um desenvolvedor, antes de começar a treinar inicialmente um modelo coberto… cumprisse vários requisitos, incluindo a implementação da capacidade de decretar prontamente um desligamento total… e implementasse um protocolo de segurança e proteção escrito e separado”.
No entanto, Newsom observou que 32 das 50 principais empresas de IA estão sediadas na Califórnia e que o projeto de lei se concentraria apenas nas maiores empresas. “Modelos menores e especializados podem surgir tão ou até mais perigosos do que os modelos visados pelo SB 1047”, afirmou.
“Embora bem-intencionado, o SB 1047 não leva em consideração se um sistema de IA é implantado em ambientes de alto risco, envolve tomadas de decisão críticas ou o uso de dados confidenciais”, escreveu Newsom. “Em vez disso, o projeto de lei aplica padrões rigorosos até mesmo às funções mais básicas – desde que um grande sistema os implemente.”
O SB 1047 gerou um debate acalorado na indústria de IA à medida que avançava na legislatura. A OpenAI se opôs estridentemente à medida, resultando na renúncia pública dos pesquisadores William Saunders e Daniel Kokotajlo em protesto , enquanto o CEO da xAI, Elon Musk, se pronunciou a favor do projeto . Muitos em Hollywood também expressaram apoio ao SB 1047 , incluindo JJ Abrams, Jane Fonda, Pedro Pascal, Shonda Rhimes e Mark Hamill.
“Não podemos dar-nos ao luxo de esperar que ocorra uma grande catástrofe antes de tomar medidas para proteger o público. A Califórnia não abandonará a sua responsabilidade. Protocolos de segurança devem ser adotados. Devem ser implementadas proteções proativas e as consequências graves para os maus atores devem ser claras e aplicáveis”, escreveu Newsom. No entanto, “em última análise, qualquer quadro para
regular efetivamente a IA precisa acompanhar o ritmo da própria tecnologia.”
O anúncio de segunda-feira ocorre menos de um mês depois que o governador assinou o AB 2602 e o AB 1836, ambos apoiados pelo sindicato SAG-AFTRA . A AB 2602 exige que os artistas concedam consentimento informado antes de usarem suas “réplicas digitais”, enquanto a AB 1836 fortaleceu as proteções contra roubo da voz e da imagem de artistas falecidos.
