A Anthropic, empresa-mãe do Claude, uma das IAs mais populares do mundo, emitiu um alerta, digamos, contraproducente. Segundo a companhia, é necessário pausar o desenvolvimento da inteligência artificial.
A empresa, que se envolveu em polêmicas com o governo dos Estados Unidos, tornou-se a mais valiosa do nicho de IA recentemente, chegando a US$ 1 trilhão (R$ 5,2 trilhões) de valor de mercado.
De acordo com a Anthropic, caso continue no ritmo atual, o desenvolvimento da IA superará a capacidade da humanidade de se ajustar às mudanças.
Jogando contra o próprio time?
Em uma primeira vista, fica subtendido que a Anthropic está “jogando contra o próprio time” ao sugerir freios ao desenvolvimento das inteligências artificiais. Mas só parece mesmo.
Na verdade, o movimento feito pela dona do Claude está sendo adotado por praticamente todas as empresas do setor. O motivo ainda não ficou claro, mas fato é que os próprios especialistas em IA estão temendo pelo futuro.
Jack Clark, cofundador da Anthropic, e Marina Favaro, atual líder do Anthropic Institute, endossam o coro afirmando que os ajustes em LLMs são inevitáveis, mas que devem ser feitos com responsabilidade.
“Ainda não chegamos lá, e o autoaperfeiçoamento recursivo não é inevitável. Mas ele pode surgir antes do que a maioria das instituições esteja preparada para enfrentar. O risco de perder o controle é evidente”, diz nota assinada pelos executivos.
Uma preocupação global
Recentemente, a própria Anthropic esteve no centro das atenções quando o Claude Mythos, modelo apelidado de “IA mais perigosa do mundo”, foi adotado pelo governo dos EUA. Inclusive, o próprio presidente Donald Trump afirmou, recentemente, que as IAs precisam de um “botão de desligar”.
Você também pode gostar
Essas tensões se unem a um sentimento geral de insegurança quanto a um possível futuro “dominado” pela inteligência artificial.
Para além de receios sobre um “Exterminador do Futuro da vida real”, a desconfiança se coloca principalmente a respeito de como o mercado de trabalho se comportará e como estarão os níveis de segurança de dados com IAs cada vez mais versáteis.
Diante disso, governos do mundo inteiro se mexem para aprovar salvaguardas no controle da tecnologia, ao passo que empresas, como é o caso da Anthropic, parecem adquirir uma “consciência” mais realística.
