O CEO da Barnes & Noble acha que livros sobre inteligência artificial são aceitáveis. Ele está enganado.

O CEO da Barnes & Noble, James Daunt, concedeu recentemente uma entrevista à NBC News e disse algo que tenho refletido bastante. Quando questionado sobre livros escritos por inteligência artificial , Daunt afirmou: "Sim, na verdade não tenho problema nenhum em vender qualquer livro, desde que ele não se disfarce ou finja ser algo que não é, que tenha uma qualidade essencial e que o cliente, o leitor, o deseje."

À primeira vista, isso parece perfeitamente sensato. Contanto que os leitores consigam ver claramente o rótulo, eles podem fazer uma escolha. Mas, se pararmos para pensar um pouco, há questões importantes que essa abordagem deixa sem resposta.

Será que "apenas rotular" é realmente suficiente?

A Barnes & Noble é uma das varejistas mais poderosas do mundo editorial. Quando a maior livraria varejista dos Estados Unidos sinaliza que livros escritos por IA são bem-vindos em suas prateleiras, ela envia uma mensagem a editoras, agentes e autores de que essa é uma categoria de produto legítima.

Pense no que um livro de verdade representa. Um escritor passou meses, às vezes anos, pesquisando, escrevendo, revisando, criando uma narrativa e, então, despejando-a no papel. Além disso, tudo o que um escritor coloca na página é permeado pela perspectiva que ele formou com suas experiências de vida. É isso que torna os livros humanos e explica por que, às vezes, lemos livros sobre o mesmo tema escritos por autores diferentes.

A IA, por outro lado, pega tudo o que aprendeu com a geração da experiência humana, remove a humanidade e serve apenas uma versão medíocre. Sim, o livro pode ter a melhor gramática , a melhor estrutura narrativa e até mesmo uma boa história. Mas terá o toque humano que torna um livro especial? Acho que não. Na melhor das hipóteses, pode fingir, usando o conhecimento que roubou dos grandes livros escritos por autores humanos.

No momento em que uma grande varejista dá de ombros e diz que livros escritos por IA são aceitáveis, desde que sejam identificados, isso começa a minar a compreensão de que um livro é um empreendimento humano. Além disso, quem decide o que constitui um livro escrito por IA e qual será a aparência da identificação? Será suficiente que a identificação esteja escondida em alguma página, onde ninguém consiga encontrá-la a menos que esteja procurando por ela?

Mesmo que tenham uma etiqueta bem visível, qual o problema? Você deixaria um ladrão entrar na sua casa só porque ele está usando uma etiqueta dizendo que é um? É ridículo. E não se engane: qualquer livro escrito por IA, por melhor que seja, é um ladrão disfarçado que roubou histórias de livros escritos por humanos, sem consentimento.

O custo humano de permitir que a IA disponibilize livros em nossas livrarias.

Toda livraria tem espaço limitado. Se permitirmos que livros escritos por IA entrem em nossas livrarias, não criaremos espaço do nada. Cada livro de IA que ocupa uma prateleira está substituindo um livro escrito por um humano. E sem um sistema adequado, que a Barnes & Noble parece não ter, seria difícil para um leitor diferenciar entre um livro escrito por um humano e um escrito por IA.

Daunt chegou a admitir que a Barnes & Noble pode já estar vendendo livros escritos por IA sem saber. "Temos 300 mil títulos em todas as nossas lojas. Será que alguns deles podem ter sido escritos por IA? É provável que sim, mas não temos consciência disso", disse ele em entrevista à NBC News. Essa admissão não é tão tranquilizadora quanto ele imagina.

Você vê o que compra. Se milhares de leitores entrarem em uma livraria e virem livros sobre inteligência artificial em destaque, alguns deles certamente comprarão um. Isso vai gerar lucro para alguma mega corporação ou algum entusiasta da IA ​​que começou a tratar livros como seu novo negócio paralelo. Essa venda poderia ter ido para um autor que realmente a merecesse.

Não estou dizendo que todos os livros escritos por humanos são ótimos. Eu mesmo já escrevi alguns ruins. Mas mesmo que um livro seja ruim ou simplesmente não seja do seu gosto, você sabe que alguém se esforçou de verdade para escrevê-lo, então o prejuízo financeiro não dói tanto.

Imagine como você se sentiria se seus livros fossem escritos a partir de um comando? Além disso, como a IA consegue gerar livros muito mais rápido do que nós conseguimos escrevê-los, se abrirmos as portas para esses livros, o mercado ficará saturado. O mercado de e-books já está cheio de conteúdo gerado por IA; não queremos que nossas livrarias fiquem iguais a elas.

Isso não está acontecendo isoladamente.

Uma coisa seria se a Barnes & Noble estivesse tomando essa decisão isoladamente. Mas isso faz parte de um padrão muito maior e profundamente preocupante.

A Vox Media e a The Atlantic fecharam acordos com a OpenAI , permitindo que a empresa treine seus modelos em seus arquivos de conteúdo completos. O The New York Times assinou seu primeiro contrato de licenciamento de conteúdo com IA com a Amazon. USA Today, Condé Nast e Hearst também assinaram contratos de licenciamento plurianuais com a Amazon .

Os contratos de licenciamento de IA estão se tornando uma grande fonte de receita para as editoras. Assim, as editoras recebem pagamentos, o que justifica esses contratos. E quanto aos escritores cujas obras são usadas para treinar esses modelos? A maioria não vê nada.

O padrão é claro. Primeiro, as empresas de mídia licenciam seu conteúdo para IA. Depois, a IA usa esse conteúdo para gerar novo conteúdo. Em seguida, os varejistas concordam em vender esse conteúdo gerado por IA. Isso se repetirá até que todos os escritores humanos sejam demitidos e todos nós fiquemos com uma pilha fumegante de lixo gerado por IA nas mãos, nos perguntando como chegamos a essa situação.

Os livros são um dos últimos espaços onde a criatividade humana ainda não foi completamente colonizada pela IA. Abrir essa porta, mesmo que com um rótulo, é um precedente do qual a indústria terá dificuldade em se desfazer. Algumas portas devem permanecer fechadas, por mais lucrativo que pareça o prêmio por trás delas.