Proteja o público dos riscos da IA, diz a Casa Branca aos gigantes da tecnologia

Em uma reunião de proeminentes líderes de tecnologia na Casa Branca na quinta-feira, a vice-presidente Kamala Harris lembrou aos participantes que eles têm uma “responsabilidade ética, moral e legal de garantir a segurança” da nova onda de ferramentas generativas de IA que têm ganhou grande atenção nos últimos meses.

A reunião faz parte de um esforço mais amplo para envolver defensores, empresas, pesquisadores, organizações de direitos civis, organizações sem fins lucrativos, comunidades, parceiros internacionais e outros em questões importantes de IA, disse a Casa Branca.

Harris e outros funcionários disseram aos líderes do Google, Microsoft, Anthropic e OpenAI – a empresa por trás do chatbot ChatGPT – que os gigantes da tecnologia devem cumprir as leis existentes para proteger o povo americano do uso indevido da nova onda de produtos de IA. Espera-se que novos regulamentos para IA generativa entrem em vigor em breve, mas o nível em que eles restringem a tecnologia dependerá, até certo ponto, de como as empresas implantarão suas tecnologias de IA daqui para frente.

Também na quinta-feira, a Casa Branca compartilhou um documento descrevendo novas medidas destinadas a promover a inovação responsável da IA. A ação inclui US$ 140 milhões em financiamento para sete novos Institutos Nacionais de Pesquisa em IA, elevando o número total de tais institutos para 25 nos EUA.

Chatbots avançados como o ChatGPT e o Bard do Google respondem a prompts de texto e são capazes de responder de maneira muito humana. Eles já podem executar uma ampla gama de tarefas de maneira impressionante, como escrever apresentações e histórias, resumir informações e até escrever códigos de computador.

Mas com as empresas de tecnologia correndo para colocar sua tecnologia de chatbot na frente e no centro, integrando-a às ferramentas on-line existentes, há temores sobre as implicações de longo prazo da tecnologia para a sociedade em geral, por exemplo, como isso afetará o local de trabalho ou levará a novos tipos da atividade criminosa . Existem até preocupações sobre como a tecnologia, se for desenvolvida sem controle, pode ser uma ameaça para a própria humanidade.

O chefe da OpenAI, Sam Altman, disse em março que está “um pouco assustado” com os efeitos potenciais da IA, enquanto uma carta recente publicada por especialistas em IA e outros na indústria de tecnologia pediu uma pausa de seis meses no desenvolvimento de IA generativa para permitir tempo para a criação de protocolos de segurança compartilhados.

E nesta semana, Geoffrey Hinton, o homem amplamente considerado o “padrinho da IA” por seu trabalho pioneiro na área, deixou seu cargo no Google para poder falar com mais liberdade sobre suas preocupações em relação à tecnologia. O engenheiro de 75 anos disse que, como as empresas de tecnologia estão lançando suas ferramentas de IA para uso público sem estarem totalmente cientes de seu potencial, é “difícil ver como você pode impedir que os maus atores as usem para coisas ruins”.

Ainda mais alarmante, em uma recente entrevista à CBS na qual ele foi questionado sobre a probabilidade de a IA “eliminar a humanidade”, Hinton respondeu: “Isso não é inconcebível”.

Mas também deve ser observado que a maioria dos que expressam preocupações também acredita que, se manuseada com responsabilidade, a tecnologia pode trazer grandes benefícios para muitas partes da sociedade, incluindo, por exemplo, assistência médica, o que levaria a melhores resultados para os pacientes.