Em uma análise que se tornou pública recentemente, um pesquisador da Anthropic, empresa-mãe do Claude, chocou o mundo ao afirmar que a inteligência artificial pode extinguir a humanidade e ainda dar uma estimativa para isso.
De acordo com Evan Hubinger, que gerencia equipes de estresse e alinhamento da big tech, existe pelo menos 10% de chances de a IA provocar a extinção da humanidade na próxima década.
Hubinger cita o autoaperfeiçoamento de máquina como sendo o fator preponderante para essas preocupações. Entenda melhor a seguir!
Com base em que Hubinger fez essas afirmações?
Em linhas gerais, o alerta do pesquisador não mira os modelos que utilizamos hoje. Para ele, o risco associado às tecnologias atuais é considerado baixo.
A preocupação real gira em torno do autoaperfeiçoamento recursivo. Trata-se do cenário em que a IA passa a participar diretamente da criação de modelos sucessores ainda mais avançados.
Inclusive, a própria Anthropic admite que suas ferramentas já assumem parte do desenvolvimento tecnológico, embora ainda não construam sucessores de forma autônoma.
O problema é que a empresa ainda não tem uma solução para controlar uma eventual superinteligência, que pode surgir eventualmente.
Você também pode gostar
Para completar, o debate ganhou força com a saída do pesquisador Jacob Coxon da companhia. Ele criticou a velocidade do setor e defendeu uma pausa e maior coordenação entre empresas antes de avançar para IAs mais autônomas. Ou seja, até dentro de casa o freio de arrumação é pauta.
LEIA TAMBÉM:
Por ora, podemos ficar tranquilos – ou será que não?
Conforme já mencionamos, o próprio Evan Hubinger destaca que no momento não existem IAs capazes de se autoaperfeiçoar. Então, de fato não há com o que se preocupar por ora, pelo menos nesse sentido.
Contudo, o avanço das inteligências artificiais já levanta debates mundo afora por diversas razões. Muitas delas, inclusive, têm a ver com a própria Anthropic.
Recentemente, o modelo Claude Mythos, considerado “a IA mais perigosa do mundo”, virou assunto nos noticiários de política após associações com o governo dos Estados Unidos.
Por outro lado, há uma grande preocupação no que diz respeito aos impactos da automação no mercado de trabalho. Enfim, existe muito ruído em torno do assunto.
Cabe a governos e grandes corporações estabelecer parâmetros claros sobre o uso, distribuição e desenvolvimento das inteligências artificiais antes que os receios sobre a tecnologia saiam do imaginário ligado à franquia “O Exterminador do Futuro” e se apresentem no mundo real.
