As notícias resumidas sobre IA da Apple são uma bagunça, o que é mais preocupante do que “clickbait”
Nunca esperei que um dia a IA da Apple fosse criticada como um “ clickbait ”. Esta não é uma boa notícia para a Apple, que ainda não lançou uma versão completa do Apple Intelligence.
A situação real pode ser muito mais grave do que o adjetivo inócuo “clickbait”. Se os criadores das manchetes usarem apenas exageros e citações fora do contexto para chamar a atenção, o que a Apple AI faz pode ser considerado “confundir o certo e o errado”.
É preciso esclarecer que a responsabilidade por este “problema” é inteiramente da Apple AI e não tem nada a ver com o acesso ao ChatGPT.
▲ Fonte da imagem: 9TO5Mac
Recentemente, a British Broadcasting Corporation (BBC) divulgou uma série de notícias e relatórios de acompanhamento sobre o assassinato do CEO da UnitedHealth Insurance Company, Brian Thompson, por Luigi Mangione, mencionando que ele enfrentará acusações de homicídio em primeiro grau, entre outros detalhes.
No entanto, uma captura de tela fornecida pela BBC mostra que o resumo de notícias gerado pelo resumo de IA da Apple é “Luigi Mangione dá um tiro em si mesmo ”. Isso está muito longe do verdadeiro curso dos acontecimentos: ele ainda está detido em uma prisão na Pensilvânia.
É tão ultrajante, tão errado.
▲Fonte: BBC
Em resposta a este erro ridículo, a BBC apresentou oficialmente uma reclamação à Apple, pedindo-lhe que tomasse medidas corretivas e evitasse que tais erros voltassem a acontecer. Um porta-voz da BBC disse que a BBC está "comprometida com os mais altos padrões de precisão e imparcialidade e se esforça para evitar enganar deliberadamente e seriamente nossos leitores".
Além disso, os Repórteres Sem Fronteiras (RSF) também instaram a Apple a abandonar as suas capacidades de inteligência artificial generativa . A organização disse que o incidente da “manchete falsa” mostrou que “os serviços generativos de IA ainda são muito imaturos para fornecer informações confiáveis ao público”.
Vincent Berthier, chefe de tecnologia e jornalismo da Repórteres Sem Fronteiras, disse que a IA é uma máquina de probabilidades e os fatos não podem ser determinados jogando dados. Ele também destacou que a Lei Europeia de Inteligência Artificial não classifica a IA geradora de informações como um sistema de alto risco, deixando um “sério vazio jurídico”.
▲ Fonte da imagem: Engadget
Na verdade, esta não é a primeira vez que o resumo de IA da Apple “inventa notícias”. No mês passado, um repórter chamado Ken Schwencke, do site americano de notícias investigativas “ProPublica”, compartilhou uma captura de tela do Bluesky.
A primeira notícia na captura de tela afirmava claramente “ Netanyahu foi preso ”. Contudo, o que realmente está a acontecer é que o Tribunal Penal Internacional emitiu um mandado de detenção contra o Primeiro-Ministro israelita, Benjamin Netanyahu.
Este relatório, gravemente distorcido pela IA da Apple, é do New York Times (NYTimes), que ainda não se pronunciou sobre o assunto.
▲Fonte da imagem: Bluesky
O recurso de geração inteligente de resumos da Apple Intelligence será lançado oficialmente no segundo semestre deste ano. A intenção da Apple é que ela possa “ajudar a refinar as informações que são mais importantes para você por meio de seu profundo conhecimento de linguagem , e as notificações gerarão resumos para que você possa ver detalhes importantes rapidamente”.
Parece que a “compreensão profunda da linguagem” mencionada pela Apple parece muito aguada. Petros Iosifidis, professor de política de mídia na City University London, disse que o erro da Apple “parece embaraçoso”.
Iofidis também disse que estava “surpreso que a Apple lançasse um produto tão obviamente incompleto”. Embora a tecnologia tenha vantagens potenciais no futuro, atualmente “ existe um perigo real de propagação de desinformação ”.
▲Petros Iosifidis (Fonte: London City University)
Com o desenvolvimento da tecnologia de IA generativa hoje, parecemos pensar naturalmente que usá-la para resumir um artigo é "muito fácil" para a IA. Na verdade, a maioria das ferramentas de IA raramente inventa coisas quando são usadas, mas mal-entendidos ou tirar as coisas do contexto são mais comuns.
Além da Apple, empresas de tecnologia como Google e Microsoft também estão tentando usar tecnologia de inteligência artificial para classificar, ordenar e resumir notícias. Embora essas ferramentas de IA possam melhorar a experiência do utilizador, se cometerem erros sem intervenção humana, os “ mal-entendidos ” resultantes podem espalhar-se exponencialmente.
▲ Fonte da imagem: Médio
Embora a IA já possa fazer um excelente trabalho ajudando as pessoas a melhorar a eficiência do trabalho na maioria dos cenários, a probabilidade de erros não é de forma alguma zero. Portanto, temos que fazer quase a única escolha entre “ correr o risco de cometer erros ” e “ aproveitar a conveniência da IA ”.
Da próxima vez, precisamos “ficar de olhos abertos” para todas as informações nas redes sociais.
# Bem-vindo a seguir a conta pública oficial do WeChat de Aifaner: Aifaner (ID do WeChat: ifanr). Mais conteúdo interessante será fornecido a você o mais rápido possível.