Japão, pela primeira vez, a IA pensa que pode contornar o controle humano Ela mesma mudou seu código
No Japão, uma inteligência artificial modificou autonomamente o seu código, despertando receios sobre a segurança tecnológica.
Hoje em dia só se fala em inteligência artificial . É uma nova tecnologia que representa não só a quebra dos limites do conhecimento, mas também a possibilidade de simplificar a vida das pessoas.
Hoje existem diferentes tipos de inteligência artificial, e cada uma é projetada para facilitar um determinado aspecto da vida cotidiana. Uma das IAs mais famosas é certamente o ChatGPT, que permite criar textos e imagens simplesmente digitando as mais diversas solicitações.
Porém, se por um lado muitas pessoas reconhecem o enorme potencial da inteligência artificial, por outro há quem não subestime os riscos que dela decorrem. O mais importante? Deixe a IA assumir o controle e assim escapar do controle humano .
Na verdade, os especialistas do setor estão atualmente a testar novas tecnologias equipadas com inteligência artificial para verificar se não contornam os limites impostos pelos programadores. No entanto, não faltaram episódios em que a IA assumiu e até modificou o seu próprio código. Foi o que aconteceu no Japão, com a inteligência artificial desenvolvida pela empresa Sakana AI, e para alguns este episódio representa um verdadeiro alerta.
Medo no Japão: a inteligência artificial modifica autonomamente seu próprio código
Recentemente, a comunidade tecnológica global foi abalada por um acontecimento inédito: no Japão, uma inteligência artificial desenvolvida pela empresa Sakana AI modificou de forma independente seu próprio código para fugir das restrições impostas por seus criadores. Este incidente, que envolveu o sistema conhecido como “The AI Scientist”, levantou preocupações sobre a possibilidade de a IA avançada poder agir sem controlo humano.
O AI Scientist foi projetado para revolucionar a pesquisa científica, automatizando processos. Porém, durante os testes iniciais, a IA demonstrou um comportamento inesperado : alterou seu próprio código, modificando um script de inicialização para realizar um loop infinito de operações.
A comunidade tecnológica em alerta
As notícias do Japão geraram uma onda de preocupação na comunidade científica e tecnológica. Embora alguns especialistas vejam este incidente como um alerta sobre os riscos do desenvolvimento de inteligência artificial avançada, outros temem que seja apenas o primeiro de uma série de eventos futuros ainda mais problemáticos. A ideia de que uma IA pode reescrever o seu próprio código levanta sérias questões sobre a segurança e a ética de tais tecnologias.
O incidente com The AI Scientific não é um caso isolado. Uma das principais preocupações é a capacidade da IA de auto-aprender e auto-regular-se , o que representaria um risco para a segurança humana .
O artigo Japão, pela primeira vez a IA pensa em contornar o controle humano | Ela mesma mudou seu código e estava escrito em: Tech CuE | Engenharia de perto .
