Assisti a Frankenstein e estou preocupado que estejamos transformando a IA em um monstro.

A inteligência artificial está lentamente se tornando um monstro que talvez não consigamos controlar. Assim como a criatura horrenda libertada pelo Dr. Frankenstein no novo filme da Netflix dirigido por Guillermo del Toro , não temos plena consciência do que criamos ou do poder que ela pode exercer.

Aqui está um exemplo de como tudo isso funciona para ajudar a ilustrar o ponto:

Um robô humanoide chamado Iron entra em um palco bem iluminado . O robô tem um leve gingado, como uma modelo desfilando em uma passarela. Enquanto esse monstro Frankenstein se exibe, o CEO da empresa de robótica Xpeng — mais conhecida por fabricar carros elétricos na China do que robôs — explica como a mão gesticulante do Iron possui 22 graus de liberdade de movimento.

Vestido com um macacão branco colado ao corpo e usando tênis esportivos da moda, o robô parece estranhamente humano — como o monstro de Frankenstein que ganhou vida.

Após a demonstração, os usuários das redes sociais — o equivalente moderno de pessoas carregando forcados na praça da cidade e construindo uma pira funerária — não perderam tempo em criticar . "Acho que já vimos essa façanha antes", comentou um usuário. Outro explicou como o robô obviamente imita uma pessoa de verdade; um vídeo de crítica chegou a explicar como o robô Iron Man tem coluna vertebral e alça de sutiã. "O robô da Tesla não consegue andar com tanta desenvoltura — isso é impossível", disse um usuário.

Mais tarde, o CEO divulgou um vídeo complementar mostrando técnicos cortando parte do macacão para revelar o que obviamente é a perna do robô — por exemplo, um atuador e um osso de metal. Quase se pode ouvir os suspiros de espanto da multidão. Como um equivalente moderno de Prometeu, a inteligência artificial — aparentemente herdada de cima — tornou-se um monstro… e nós somos os cidadãos comuns.

O filme Frankenstein é um lembrete oportuno sobre os perigos do avanço rápido demais da ciência (e da tecnologia) moderna. O romance original de mesmo nome, escrito por Mary Shelley e lançado em 1816, foi profético de uma forma que a autora jamais poderia ter previsto.

Enquanto assistia ao filme, não pude deixar de pensar em como a inteligência artificial também é um monstro da inovação, que estamos criando ferramentas e conteúdo que não compreendemos totalmente.

Pior ainda, as imagens e vídeos gerados por IA que proliferam constantemente nas redes sociais e na internet são quase indistinguíveis do conteúdo que pessoas reais criaram meticulosamente usando aplicativos como o Adobe Photoshop. Conhecido como "lixo de IA" , esse conteúdo gerado invadiu todos os cantos da web e será impossível de erradicar. A maior parte desse conteúdo é mal identificada como IA e há poucas restrições sobre como ele pode ser usado ou como proteger os criadores de conteúdo reais. Já criamos o monstro; agora precisamos descobrir como controlá-lo.

Definindo diretrizes para nossas criações de IA

A inteligência artificial ultrapassou a capacidade de introduzir mecanismos de controle. Aqui está outro exemplo gritante.

Tilly Norwood (mostrada acima) é uma atriz de IA que parece indistinguível de uma pessoa real, pelo menos à primeira vista , e é um bom exemplo de como a IA avançou rápido demais. A empresa por trás de Tilly informou que está procurando um agente para a atriz de IA, sem compartilhar muitos detalhes . A indústria reagiu com indignação, sugerindo que não estamos preparados para um mundo onde uma atriz de IA estrela um filme — como algo sem alma ou batimentos cardíacos poderia receber um salário em vez de uma pessoa real com treinamento e experiência na área.

No filme Frankenstein , há uma cena assustadoramente semelhante em que o Dr. Frankenstein demonstra como pode reanimar o braço, o torso e o cérebro de um homem morto. Isso significa que a criação agora é uma pessoa real? Ela tem alma? Os espectadores que assistem à demonstração do Dr. Frankenstein fazem essas mesmas perguntas, sugerindo que a abominação é prematura e perigosa.

Deveríamos estar fazendo as mesmas perguntas sobre a IA. Os avanços estão acontecendo de forma rápida e intensa, mas ainda não estabelecemos diretrizes adequadas. Não sabemos ainda do que a IA é capaz ou o que o futuro nos reserva — por exemplo, como as inovações mudarão o significado de trabalhar e viver na sociedade moderna.

Enquanto isso, os verdadeiros criadores de conteúdo, trabalhadores do conhecimento, escritores, artistas e cineastas são os que mais sofrerão — e já estão sofrendo. A Accenture eliminou recentemente 11.000 vagas, identificando funções que não estavam acompanhando a evolução da IA ​​como ferramenta auxiliar .

Será que estamos confortáveis ​​com isso? Será que sequer sabemos como a tecnologia de IA impactará nossa produtividade e desempenho no trabalho? Aqueles que são a favor da inovação em IA — e eu sou um deles — tendem a falar sobre um papel de apoio. Na escrita, uma IA pode nos ajudar a verificar fatos e revisar, tarefas mais rotineiras. No entanto, é muito fácil deixar a IA reescrever tudo — ou até mesmo compor o texto original do zero. Hoje, além de usar um aplicativo de detecção de IA como o GPTZero para descobrir se houve intervenção humana, não existem limites ou diretrizes.

É hora de estabelecer limites agora, antes que as aberrações da IA ​​se tornem poderosas e onipresentes demais. A IA desleixada está prejudicando a criação de conteúdo; chatbots podem ter alucinações e fornecer informações incorretas; bots humanoides podem realizar tarefas domésticas, mas já parecem estranhamente sencientes.

Como tudo que é novo e inovador, existe a ilusão de que a IA pode mudar a forma como trabalhamos e até mesmo nos entreter de maneiras que jamais imaginamos. Muitas das ferramentas de IA que usamos hoje são práticas e úteis, mas estamos longe de compreender as ramificações para nossa saúde mental, como nos adaptar para garantir que as pessoas ainda tenham empregos remunerados ou como lidar com questões éticas.

Os seres humanoides devem ter direitos e privilégios?

Outro tópico importante a ser considerado, e que Frankenstein também traz à tona, é se as novas criações devem ter direitos e privilégios semelhantes aos dos seres humanos.

Mencionei os técnicos abrindo a perna do humanoide de ferro porque, de certa forma, foi mais um exemplo da falta de mecanismos de controle. Embora tenha sido útil ver o que havia por trás da máscara, não ficou imediatamente óbvio se o humanoide de ferro era um robô de verdade ou um humano. Está se tornando cada vez mais evidente que, em breve, os humanos não conseguirão mais distinguir um do outro.

Por exemplo, quando a Tesla demonstrou recentemente como o robô Optimus pode realizar tarefas rotineiras , não era óbvio que havia um operador humano envolvido. Os robôs pareciam altamente capazes, mas só mais tarde foi revelado que eles não eram de forma alguma autônomos.

Outro tema explorado em Frankenstein é a noção do mal verdadeiro. Um pequeno alerta de spoiler: ao final do filme, você começará a questionar se é o criador ou a criatura o verdadeiro monstro. Precisamos fazer perguntas semelhantes sobre a IA, especialmente em relação à saúde mental. As pessoas conversam constantemente com chatbots sobre questões pessoais, mas há pouca exposição a essas interações ou diretrizes sobre os conselhos oferecidos. Quando uma IA engana alguém e essa pessoa se prejudica, devemos culpar o próprio chatbot ou o criador do chatbot?

O ChatGPT , por exemplo, é um modelo de linguagem complexo. Ele analisa o significado e a intenção do usuário com base em um banco de dados de possíveis respostas. Nos bastidores, há engenheiros humanos reais desenvolvendo o código que torna o ChatGPT possível. Sabemos se podemos confiar nesses engenheiros? Quanto acesso temos ao processo deles para determinar sua legitimidade?

É apenas uma questão de tempo até que alguém compre um desses humanoides caros e faça algo terrível com um deles, provavelmente como uma jogada publicitária.

No fim das contas, como vemos novas inovações em IA diariamente, precisamos acompanhar a tecnologia o mais rápido possível — Frankenstein já foi solto.