‘Padrinho da IA’ sai do Google para falar mais livremente sobre preocupações
O pioneiro da inteligência artificial, Geoffrey Hinton, surpreendeu a muitos na segunda-feira, quando revelou que deixou seu emprego no Google, onde trabalhou na última década em projetos de IA.
Muitas vezes referido como “o padrinho da IA” por seu trabalho inovador que sustenta muitos dos sistemas de IA de hoje, Hinton, nascido na Grã-Bretanha, agora com 75 anos, disse ao New York Times que tem sérias preocupações sobre a velocidade com que os gostos de Open AI com sua ferramenta ChatGPT , e Google com Bard , estão trabalhando para desenvolver seus produtos, especialmente porque isso pode custar a segurança.
Hinton está tão preocupado que até disse que uma parte dele se arrepende de seus esforços anteriores no campo da IA, informou o Times.
Como aponta o relatório, ferramentas generativas de IA já estão se movendo para substituir trabalhadores humanos, e a tecnologia também pode ser usada para criar e espalhar desinformação.
De fato, uma das preocupações de Hinton é que a internet, cujos dados são usados para treinar ferramentas generativas de IA, seja inundada com informações falsas que podem fazer com que chatbots como ChatGPT e Bard cuspam inverdades sem fim de uma forma que pareça crível.
À medida que as empresas por trás da tecnologia lançam suas ferramentas baseadas em IA para uso público sem conhecer totalmente seu potencial, Hinton teme que seja “difícil ver como você pode impedir que os maus atores o usem para coisas ruins”.
Hinton disse que regulamentar a tecnologia será difícil, pois empresas e governos podem trabalhar na tecnologia praticamente em segredo, acrescentando que uma maneira de lidar com o problema é tentar fazer com que os principais cientistas trabalhem juntos em maneiras de controlar a tecnologia.
O especialista em IA disse em um tweet na segunda-feira que decidiu deixar o Google para poder “falar sobre os perigos da IA sem considerar como isso afeta o Google”, sugerindo que ouviremos muito mais dele à medida que a tecnologia continuar a crescer. desenvolver.
Expressando preocupações ainda maiores no mês passado, quando perguntado em uma entrevista à CBS sobre a probabilidade de a IA “eliminar a humanidade”, Hinton disse: “Isso não é inconcebível”.
Após a notícia da saída de Hinton, Jeff Dean, cientista-chefe do Google, disse em um comunicado: “Continuamos comprometidos com uma abordagem responsável da IA. Estamos aprendendo continuamente a entender os riscos emergentes e, ao mesmo tempo, inovar com ousadia.”
Hinton não é o único especialista a expressar preocupação com a nova onda de tecnologia de IA que está tomando o mundo de assalto.
Talvez surpreendentemente, o chefe da OpenAI, Sam Altman, admitiu recentemente estar “um pouco assustado” com os efeitos potenciais da tecnologia AI.
E em março, uma carta assinada por líderes tecnológicos e acadêmicos afirmou que a tecnologia representa “riscos profundos para a sociedade e a humanidade”.
Publicada pelo Future of Life Institute e cujos signatários incluíam Elon Musk, a carta pedia uma pausa de seis meses no trabalho de desenvolvimento para permitir tempo para a criação e implementação de protocolos de segurança para as ferramentas avançadas.
Ele acrescentou que, se tratado da maneira certa, a humanidade poderá “desfrutar de um futuro próspero com a IA”.
