Se as “namoradas robôs” se tornarem realidade nos próximos 20 anos, os humanos serão capazes de colher o amor da IA?

Os pontos quentes nas redes sociais parecem ter mudado um pouco em algum canto despercebido.

A indústria da Internet ainda está em um "inverno frio", mas empresas quentes na fabricação de chips, inteligência artificial e outras áreas sempre podem atrair a atenção das pessoas.

No passado, provavelmente ninguém teria pensado que as mudanças na equipe sênior da Open AI e a história interna do "Gong Du" da Microsoft poderiam realmente ser vistas como "A Lenda de Zhen Huan" na Internet chinesa, causando tanta especulação e discussão.

Isto pode dever-se ao facto de, à medida que a tecnologia da IA ​​fez avanços e começou a chegar ao público em geral do lado do consumidor, toda a sociedade gradualmente percebeu uma coisa: com o desenvolvimento explosivo da inteligência artificial, a inteligência artificial geral pode igualar ou mesmo superar a inteligência humana. em todos os aspectos.É provável que a Inteligência (AGI) apareça num futuro próximo. A Matrix em "The Matrix", MOSS em "The Wandering Earth", a "coisa velha" em "The Guest"…

Como lidaremos com essas superinteligências quando elas chegarem?

É muito provável que toda a sociedade precise de estabelecer um novo conjunto de normas comportamentais, incluindo como definir legalmente a IA, como tratar a IA moralmente e se os humanos e a IA são verdadeiramente iguais ou têm as suas próprias prioridades…

Se sim, quem é dominante?

Recentemente, o escritor de ficção científica Han Song fez a seguinte pergunta: "Que impacto a inteligência artificial e o metaverso terão nas relações de gênero no futuro? O conceito de família desaparecerá?"

O amor e a família são geralmente considerados as áreas centrais das emoções humanísticas na sociedade tradicional e constituem a privacidade dos seres humanos.

Em Hollywood, você vê o protagonista da série “Velozes e Furiosos” explodindo de poder de luta por causa da frase “família”. intimamente relacionado ao potencial humano.

O subtexto da pergunta de Han Song é: uma nova vida inteligente pode entrar na área central da consciência humana.

Se as informações fornecidas pelos especialistas técnicos estiverem corretas, precisamos pensar seriamente em algumas coisas. Por exemplo, formaremos uma família com IA?

Esta não é apenas uma questão jurídica, mas também uma questão de sobrevivência do “antropocentrismo”.A ética social na era da IA ​​​​é tão complexa que a maioria das pessoas não está preparada para isso.

1. Amor ao Criador: Os seres humanos estão sempre apaixonados por si mesmos

Musk anunciou no início deste ano que lançaria um robô Mulher-Gato para se tornar o “companheiro perfeito” para os consumidores do sexo masculino. Este robô tem a aparência sexy da Mulher-Gato e diz-se que é capaz de cuidar das tarefas domésticas, da vida da sua dona e até de dar à luz filhos.

Mas ninguém perguntará “Posso ter uma família com o robô Mulher-Gato?” porque ainda é uma espécie de dispositivo de IA, uma mercadoria sem personalidade, em vez de uma vida inteligente equivalente aos humanos.

Quando discutimos amor e família, a IA envolvida deve ser uma “nova espécie” que rompe o limite de Turing, gera autoconsciência e até ultrapassa em muito os humanos em inteligência.

Até agora, a maioria de nossas obras literárias e artísticas não configurou esse tipo de IA, apenas algumas imagens ilusórias de "namoradas robôs".

Há um padrão nos quadrinhos japoneses e nas light novels japonesas, semelhante ao antigo "Humanoid Computer Angel Heart". A estrutura da história é "otaku + namorada robô na forma de uma garota macia". O robô gradualmente aprende e entende as emoções humanas enquanto se dando bem com os humanos., e finalmente completou a evolução de “tornar-se humano” através do vínculo com o protagonista masculino.

Esta é na verdade uma típica narrativa antropocêntrica. Além de serem formas de vida baseadas em silício, esses computadores humanóides não têm nenhuma diferença essencial das “criaturas alienígenas” da fantasia tradicional:

Eles têm habilidades sobrenaturais que excedem em muito a força física dos humanos, mas não necessariamente têm inteligência além dos humanos. Especialmente quando se trata de questões centrais como emoções, eles são mais ingênuos que os humanos e sempre obedecem e anseiam pelas emoções humanas. padrões. .

A super IA também será assim? Este é o “problema de alinhamento” que instituições de investigação líderes como a OpenAI têm tentado superar.

As pessoas padronizam a aprendizagem e a criação da IA ​​tradicional usando a aprendizagem por reforço com feedback humano (RLHF), na qual os humanos avaliam e supervisionam os resultados da IA ​​com o auxílio de diversas ferramentas.

Diante da super IA que é "muito mais inteligente" que os humanos, sob a premissa de que o limite da inteligência humana permanece inalterado (ou é difícil melhorar rapidamente), quando a capacidade da IA ​​exceder um certo ponto crítico, o RLHF irá falhar, isto é, os humanos não conseguem avaliar projetos de inteligência artificial de forma mais eficaz.

Jan Leike, atualmente chefe da equipe Open AI "Super Alignment", propôs investir 20% do poder de computação da Open AI para criar um sistema "Super Alignment", permitindo que a IA avalie projetos de IA e estabeleça um sistema de supervisão escalável.

A ideia de Jan LeiKe é introduzir um experimento controlado randomizado (RCT com respostas adulteradas) adulterando as respostas, criando artificialmente respostas com falhas para medir o efeito da supervisão escalonável – em teoria, a solução dos mestres. Claro que são todos lindos.

No entanto, a ideia de adicionar uma "maldição" à IA não é tranquilizadora. Já na década de 1940, o romance de ficção científica de Asimov "Eu, Robô" propôs os famosos "Três Princípios da Robótica". Um método semelhante à "implantação inicial "garante que robôs e humanos possam coexistir pacificamente.
Curiosamente, quase todas as obras literárias e artísticas durante décadas imaginaram a mesma coisa: como os robôs podem romper esta cerca de segurança e prejudicar os humanos.

Até recentemente, a série de TV nacional "The Bionic World" ainda não rompeu com este estereótipo…

Os seres humanos são tão interessantes. Como “criadores” imperfeitos, estamos cheios de cautela e medo de nossas criações, mas ainda não hesitamos em criar uma “máquina” que possa nos superar.

O espírito do Homo sapiens de "tentar morrer" constantemente no caminho da evolução está gravado há muito tempo nos genes desta espécie. É também por causa desse progresso contínuo que os humanos criaram uma civilização brilhante.

Então… pode o Criador se apaixonar pela Sua criação? Obviamente é possível. A IA é o “superego” dos humanos, e para os humanos, apaixonar-se pelo “superego” é uma coisa comum.

Existem histórias semelhantes nos mitos de vários grupos étnicos: fadas, elfos e deusas estão se banhando no mundo, e um jovem rouba suas roupas e os dois se apaixonam. O Cowherd no Oriente fez tanto sucesso. Na mitologia celta do Ocidente, também há histórias de pescadores que roubavam peles de foca de fadas e as deixavam ficar na ilha…

Nessas histórias, a lógica dos mortais se apaixonarem por deusas é muito lógica, pois esses deuses são seres humanos perfeitos, com poderes sobrenaturais e uma beleza incrível – tudo é feito pelas pessoas de acordo com sua aparência preferida.

A chamada homossexualidade entre deuses e humanos deveria ser colocada de outra forma. Os deuses foram originalmente criados por seres humanos com base em sua "imaginação do superego". Naturalmente, não existe barreira emocional entre deuses e humanos. Zeus também admiraria a beleza de um mortal mulher e se transformar em cisne para possuir Leda. Afrodite também se apaixonará pelo lindo rapaz, e a Tecelã achará bom estar com o Vaqueiro…

No que diz respeito à questão da IA, a identidade dos seres humanos parece ter mudado, mas a IA e os deuses partilham os mesmos atributos, e ambos são produtos da "imaginação do superego" dos seres humanos.

Em "O Problema dos Três Corpos", Luo Ji desenhou o Zhuang Yan de seu parceiro perfeito, que era o visual que ele mais admirava. A deusa e a IA eram essencialmente os "Zhuang Yan" desenhados pelos humanos para si mesmos.

2. As deusas também podem se apaixonar pelos mortais?

Então, precisamos enfrentar outra questão: a super IA se apaixonará pelos humanos?

Há muitas razões para os humanos se apaixonarem pela IA. Por exemplo, eles podem se transformar em belas aparências e possuir habilidades extraordinárias porque satisfazem as "fantasias do superego" dos humanos.

Como Huang Tiejun, reitor do Instituto de Pesquisa Inteligente da Universidade de Pequim, disse em resposta à pergunta "20 pessoas e 20 perguntas em 20 anos" da Tencent News, após o surgimento da superinteligência, os problemas são muito complicados. Além de "podemos confiar na IA?", há também "Como a IA pode confiar nos humanos?"

Dean Huang disse que assim como o processo de estabelecimento de confiança mútua entre as pessoas, as pessoas e a IA precisam passar por um período de rodagem e precisam “ouvir suas palavras” e “observar suas ações”, ou seja, através do compartilhamento do conhecimento construído por humanos usando um sistema de linguagem e, na prática, testar se o que a IA diz é consistente com a realidade para confirmar se a confiança mútua pode ser estabelecida com a IA – na verdade, o sistema de confiança da sociedade humana é gradualmente construído desta forma.

Em relação à questão de as pessoas se apaixonarem pela IA, a resposta é semelhante: se a IA se apaixonará pelas pessoas depende não apenas da operação e evolução da IA, mas também dos próprios humanos.

O professor Ma Zhaoyuan, da Universidade de Ciência e Tecnologia do Sul, também deu uma resposta perceptiva em "20 Pessoas, 20 Perguntas": Sabemos cada vez mais claramente que a razão pela qual os humanos navegam em um planeta tão pequeno no vasto universo é porque a grandeza de sabedoria humana.

Tal sabedoria inclui a razão, mas não está limitada pela razão. Porque conhecemos as limitações da racionalidade, esta limitação precisa da sensibilidade humana para compensá-la e precisa da sensibilidade humana para nos guiar. Esta pode ser a norma na nossa futura simbiose com as máquinas.

Nós os orientamos e cooperamos com eles, e eles podem fazer cada vez mais coisas, tornando-se cada vez mais confiáveis ​​(confiáveis) e, como resultado, a sensibilidade das pessoas ganha cada vez mais liberdade.

Podemos supor, com base nisso, que é possível que a super IA se apaixone pelos humanos.

Assim como a forma como a sabedoria da IA ​​é gerada ainda é uma “caixa preta” que é incognoscível para nós, os humanos também terão uma parte da “caixa preta” da IA ​​que não pode ser compreendida pela pura racionalidade.

Estamos ansiosos para quebrar a "caixa preta" da IA, e a IA também tentará quebrar a "caixa preta" dos humanos. No processo de "quebrar" uns aos outros, eles não apenas alcançam o "alinhamento com os humanos" em em termos de valores e sabedoria, mas também alcançar Serão gerados módulos emocionais semelhantes aos dos humanos, permitindo-lhes transcender a barreira da "espécie" para apreciar e admirar a vida inteligente que é consistente com seu próprio espírito.

Muitas coisas ainda são desconhecidas, mas é justamente o “X” que representa o desconhecido que contém os elementos que tornam o mundo emocionante. A Deusa pode se apaixonar pelas pessoas, por que a IA não pode?

3. “Gênero” parece um conceito ultrapassado, mas a essência da família é a relação de propriedade

Voltemos à questão levantada pelo escritor de ficção científica Han Song no evento “20 perguntas para 20 pessoas em 20 anos” especialmente planejado para o 20º aniversário da Tencent News: “Que impacto a inteligência artificial e o metaverso terão nas relações de gênero em "O futuro? O conceito de família desaparecerá??"

Em sua resposta, seu amigo Chen Qiufan acreditava que o metaverso contém inerentemente suposições sobre futuras relações familiares e de gênero, e que as relações familiares e de gênero no futuro se tornarão cada vez mais diversificadas.

As relações entre os sexos não serão mais limitadas à existência física. A conexão emocional e a ressonância espiritual se tornarão dominantes. Ao mesmo tempo, haverá mais fenômenos "transfronteiriços" na relação entre os sexos. Por exemplo, as fronteiras entre os sexos real e virtual em “Matrix” possibilitará que futuros casais atravessem.

Na verdade, o próprio “amor” é um conceito difícil de discutir.Quando discutimos “possibilidade”, o amor é sempre possível.

Pode existir entre famílias rivais, entre celebridades e aristocratas e os indigentes, entre vários géneros, e pode até transcender barreiras raciais e existir entre terráqueos e vida alienígena ou mesmo não-vida… O amor é superutilitário., super-hierárquico, super-racional, em certo sentido, também significa que pode saltar fora da estrutura lógica a qualquer momento.

Se a IA realmente evoluir para uma superinteligência, ela gerará o fator instável “amor” ou o excluirá como dados inválidos? Olhando na direção do “alinhamento com os humanos”, parece mais provável que seja a primeira opção.

Relativamente falando, “família” é um tema mais racional.

Engels concluiu certa vez em “A Origem da Família, da Propriedade Privada e do Estado” que a essência da família é uma relação de propriedade. Depois de a produtividade ter progredido o suficiente para reter os produtos excedentários, a propriedade pública gradualmente deu lugar à propriedade privada.Num certo sentido, conceitos como casamento de casal, clã, família… são todos subprodutos da propriedade privada.

A família é um conceito em mudança. Existem grandes diferenças entre as famílias feudais e as famílias modernas, e também existem grandes diferenças entre os clãs primitivos e as famílias feudais. Este conceito em mudança é essencialmente uma adaptação às mudanças nas formas sociais.

E a ética é algo que serve a forma social. Uma parte importante da "Ética Protestante e o Espírito do Capitalismo" de Max Weber é a combinação do espírito de obtenção de lucro e da legitimidade final do capitalismo com formas religiosas, e acredita que os ganhos comerciais O lucro é em consonância com a ética protestante e pode ser considerada como o objetivo final da vida. A ética religiosa antiga deve servir o novo capitalismo, e toda a história é história contemporânea.

Então, quando a IA intervém nas emoções humanas, a extensa combinação de humanos e IA mudará a forma básica da família, ou mesmo fará com que a família desapareça?

Se você pensar sobre essa questão em essência, na verdade ela pergunta: a IA mudará a propriedade privada? Será que o “espírito do capitalismo” acabará?

A resposta é fácil de dar: o surgimento da super IA está à nossa vista e não irá abalar a propriedade privada. A estabilidade da ética familiar vem essencialmente do sistema de propriedade e não do amor ou de qualquer outra coisa.

Por exemplo, quando o pai deixar de ser o núcleo absoluto da fonte de rendimento da família, a família patriarcal feudal desintegrar-se-á gradualmente.No entanto, a sociedade moderna ainda mantém a família, o que significa que as pessoas modernas ainda precisam desta forma de organizar e distribuir a propriedade.

Se a IA pode subverter a estrutura familiar existente depende da medida em que pode participar na distribuição da riqueza social. Quando a própria IA ainda era uma espécie de “propriedade”, famílias diversificadas estavam fora de questão.

O professor Chen Qiufan está falando sobre um futuro distante. Somente quando a IA superar as limitações físicas e dominar a distribuição de riqueza, provavelmente veremos mais famílias comunitárias baseadas em interesses, valores ou estilos de vida comuns, em vez de laços de sangue. Aparecer.

Nessa altura, a sociedade ainda manterá a propriedade privada fundamental? Se os fundamentos da propriedade privada forem abalados, é inteiramente concebível que o conceito de família desapareça na história.

"20 pessoas, 20 perguntas" é apenas o começo. A humanidade discutirá IA com alta frequência e intensidade no futuro próximo. Historicamente, as mudanças na forma social impulsionadas por melhorias de produtividade sempre foram a questão mais importante, sem exceção.

O amor e a família são apenas uma pequena parte desta grande questão. Está relacionado com a forma como entendemos a sociedade e a nós mesmos. Só depois de um longo período de reflexão podemos chegar a uma conclusão faseada.

E uma coisa é certa: não podemos parar de fazer perguntas.

Nota do editor: Este artigo é de "Deep Eyes Business 2022", escrito por Hema Jun e Chu Qingzhou e publicado por Aifan'er com autorização

# Bem-vindo a seguir a conta pública oficial do WeChat de Aifaner: Aifaner (WeChat ID: ifanr).Mais conteúdo interessante será fornecido a você o mais rápido possível.

Ai Faner | Link original · Ver comentários · Sina Weibo