A avaliação é do cientista da computação conhecido como “padrinho da IA”, Geoffrey Hinton, que pediu para se afastar do Google nesta segunda (1º)
Modelos de inteligência artificial (IA) geradora como o ChatGPT têm conhecimento básico sobre qualquer assunto e, por isso, são 1.000 vezes mais inteligentes do que o ser humano médio. A avaliação é do cientista da computação conhecido como “padrinho da IA”, Geoffrey Hinton, que pediu para se afastar do Google nesta segunda (1º).
Para Hinton, esses modelos serão capazes de superar a inteligência humana coletiva nos próximos anos. Ele discutiu, na terça (2), o futuro da inteligência artificial no evento EmTech Digital, organizado pela revista MIT Technology Review. “O risco da IA assumir o controle da sociedade é real.”
Esse argumento do padrinho da IA está alinhado com a carta em prol da paralisação do desenvolvimento de inteligência artificial assinada por intelectuais e pessoas influentes da tecnologia, como o escritor Yuval Harari e o cofundador da Apple Steve Wozniak. O próprio Hinton, ainda no Google à época, não endossou o documento.
Ele afirma ter deixado o Google por querer mais liberdade para falar sobre as suas preocupações com os riscos da IA.
Harari escreveu em artigo no New York Times que um avião com 10% de chance de cair jamais decolaria. Para Hinton, as chances da humanidade perder o controle sobre essa nova forma de inteligência representada pelos grandes modelos de linguagem, como o GPT, fica na casa dos 40%. “Não sou pessimista, nem otimista, e sim levemente deprimido.”
Hinton desenvolveu nos anos 1980 o algoritmo por trás das atuais redes neurais, o backpropagation (propagação reversa, em inglês). Em suma, esse algoritmo permite que as máquinas aprendam a partir de exemplos, no que é chamado de treinamento. O cientista tentou simular o funcionamento dos neurônios e ligações do cérebro humano para elaborar a técnica.
Por ter desenvolvido a propagação reversa, Hinton recebeu, ao lado de Yann LeCun e Yoshua Bengio, o Prêmio Turing de 2019, conhecido como Nobel da matemática.
Hoje, Hinton avalia que o cérebro humano não funciona com propagação reversa. “O algoritmo que criamos nos anos 1980 é mais eficiente do que o cérebro. Os atuais grandes modelos de linguagem conseguem saber mais do que uma pessoa, com muito menos ligações.”
IAs atuais, como o GPT-4, disponível na versão paga do ChatGPT, têm menos de 1 trilhão de ligações. O cérebro humano tem 10 trilhões, a partir de 100 bilhões de neurônios. “É uma nova forma de inteligência, sem os limites de energia e vícios inerentes da evolução biológica.”
Questionado pelo professor Luís Lamb, da UFRGS (Universidade Federal do Rio Grande do Sul), Hinton afirmou que as IAs geradoras serão capazes de inovar, assim como os seres humanos. “Os modelos atuais ainda não foram treinados para desenvolver raciocínios lógicos complexos. Isso é possível caso essas tecnologias ganhem objetivos.”
Esse seria um dos riscos, de acordo com o cientista. “A inteligência artificial vai evoluir ainda mais quando aprender a desmembrar processos. Daí, a tecnologia pode aprender que ter responsabilidade acelera a conclusão da tarefa. Isso pode ensejar um viés pelo controle.”
Ele acrescentou que o GPT-4 não funciona como um papagaio estatístico, que repete respostas mais prováveis a partir do conhecimento disponível em texto na internet. “Falei para o ChatGPT que tinha uma casa com paredes brancas, azuis e amarelas. As amarelas desbotavam e ficavam brancas a partir de um ano. Perguntei, então, o que precisava fazer para ter todas as paredes brancas em dois anos.”
O GPT-4 respondeu que o cientista deveria pintar as paredes azuis de amarelo. “Esse não é um raciocínio simples. O robô precisa entender o conceito de desbotar e de tempo. E a IA não deu a resposta trivial, que seria pintar todas as paredes de branco.”
Hinton afirma que, quando começou a pesquisar sobre o tema, nos anos 1970 e 1980, não havia como prever as dimensões que teriam esse problema, comparado por ele às mudanças climáticas. “Por isso, eu não me culpo por ter feito ciência.”
O padrinho da IA também elogia o Google. A empresa desenvolveu o primeiro transformador, modelo que deu origem aos atuais modelos de linguagem. “O Google percebeu os riscos, criou compromissos de segurança, e avançou no tema com cautelas.”
Para Hinton, as novas plataformas lançadas pela OpenAI, o ChatGPT, e o gerador de imagens Dall-E, mudaram o cenário. “A startup patrocinada pela Microsoft colocou esses produtos no mercado, e o Google teve que responder. É assim que funciona a concorrência.”
Embora esteja preocupado, o padrinho da IA se diz cético quanto a uma pausa no desenvolvimento de IA. “Se os Estados Unidos parar, como garantir que a China também encerraria suas pesquisas na área ou até criaria armas com isso?”, questiona. “Disputar pela liderança é algo inerente da sociedade capitalista”, acrescenta.
POR FOLHAPRESS
