O seu ponto de vista não é realmente dado a você pela IA?
Nossa relação com as ferramentas nunca foi apenas de “usar” e “ser usado”.
Embora o ChatGPT tenha feito mais pessoas prestarem atenção ao potencial da IA, na verdade, usamos ferramentas de IA há muito tempo. No entanto, nossa compreensão do impacto das ferramentas nas pessoas ainda é relativamente pequena.
Muitas pessoas já sabem que os algoritmos de recomendação das plataformas de mídia social não apenas tornam os telefones celulares "melhores e mais fáceis de escanear", mas também "adivinha o que você gosta" para envolver os usuários no casulo de informações.
Para aquelas ferramentas de IA que corrigem automaticamente a ortografia, geram automaticamente respostas de e-mail e geram PPT, você pode sentir que está direcionando o trabalho delas, mas essas ferramentas não são realmente "neutras" como você imaginou.
Escreva e escreva e você ficará convencido
Um crescente corpo de pesquisa aponta para ferramentas de IA mudando a mente das pessoas sem que elas percebam.
Um dos estudos mais recentes apontou que, quando o sujeito da pesquisa usa IA para auxiliar na redação de um artigo, a IA forçará o sujeito da pesquisa a escrever um artigo que apoie ou se oponha a um ponto de vista específico com base em seu próprio viés.
Ao mesmo tempo, o processo de redação de um artigo também pode afetar muito a visão dos usuários sobre esse tópico.
Mor Naaman, da Cornell University, chama isso de "persuasão implícita" e diz que as pessoas "podem nem saber que estão sendo influenciadas".
Embora a IA possa tornar as pessoas mais eficientes, ela também pode mudar sutilmente as perspectivas das pessoas.
Além disso, a maneira como a IA muda as pessoas é mais parecida com a maneira como uma pessoa muda e convence outra por meio de cooperação e atividades sociais, e não tanto como a maneira como a mídia social nos afeta.
Outro estudo analisou o recurso Smart Reply do Gmail.
Com a ajuda desse recurso, as pessoas enviarão respostas mais positivas e a comunicação entre os usuários será mais positiva.
O segundo estudo apontou que essa resposta automática também faz com que o destinatário perceba o remetente como mais caloroso e cooperativo.
Considerando que empresas como Microsoft e Google estão integrando organicamente a IA em vários softwares de escritório, o impacto adicional da IA nas pessoas também está próximo.
Na pior das hipóteses, aqueles com poder e tecnologia podem usar essas ferramentas aparentemente inócuas de aumento de produtividade para direcionar e influenciar as atitudes das pessoas em relação a certas coisas.
Comparado com os algoritmos de recomendação, bolhas de filtro e buracos de coelho aplicados nas mídias sociais… o mais interessante aqui é o seu "sigilo".
Os pesquisadores que descobriram a situação acreditam que a melhor defesa é conscientizar as pessoas sobre o problema.
A longo prazo, os requisitos regulatórios para que a IA seja transparente são outra maneira de permitir que os usuários saibam que tipo de viés uma determinada IA possui.
Lydia Chilton, professora da Universidade de Columbia, apontou que, quando as pessoas entendem o viés da IA e optam por usar esse viés para uso próprio e decidem quando usá-lo, as pessoas recuperam a autonomia.
É um "preconceito" e uma "visão de gol"
A IA não tem "valores", mas como os materiais de treinamento e as pessoas treinadas têm valor e preconceito, a IA será tendenciosa.
Os pesquisadores acreditam que esse tipo de viés pode nos ajudar a entender as atitudes de grupos específicos em relação a eventos específicos até certo ponto.
No entanto, antes de usá-lo, devemos primeiro estudar claramente qual é o viés da IA.
O Dr. Tatsunori Hashimoto e seus colegas criaram uma maneira – deixar a IA fazer o questionário.
A equipe de Hashimoto pediu à AI que fizesse uma enquete sobre o conceito do Pew Research Center e comparou os resultados feitos pela AI com os grupos de pesquisa divididos pelo próprio Pew para descobrir a qual grupo o "viés" de uma IA específica é mais semelhante.
O estudo descobriu que o "viés" do modelo de linguagem OpenAI (não a versão mais recente) não está de acordo com o conceito da maioria dos grupos americanos, mas está mais próximo do grupo de estudantes universitários.
O estudo especula que, talvez porque as pessoas desse grupo sejam mais responsáveis pelo ajuste de modelos de linguagem semelhantes, o modelo de linguagem também reflete mais as ideias do grupo.
Lydia Chilton, professora da Universidade de Columbia, acredita que, quando as pessoas podem ver qual é a posição "preconceituosa" por trás da IA, podemos não apenas evitar ser afetados pela "persuasão implícita", mas também fazer melhor uso dessas ferramentas.
Por exemplo, o departamento de vendas pode criar um assistente de IA focado nas vendas, com a postura de concluir as vendas; o departamento de atendimento ao cliente também pode criar seu próprio assistente de IA voltado para o serviço, com o objetivo de deixar os clientes satisfeitos.
Além disso, as pessoas também podem usar ativamente AIs específicas para se esforçar em direção a expressões específicas (ou a expressão ideal em sua mente):
Acho cansativo ficar animado e falar em tom alegre.
Normalmente, a cafeína ajuda um pouco nisso, e agora o ChatGPT também pode ajudar.
#Bem-vindo a prestar atenção à conta pública oficial do WeChat de Aifaner: Aifaner (ID do WeChat: ifanr), conteúdo mais interessante será apresentado a você o mais rápido possível.
