Mesmo sob alertas rigorosos, o governo dos Estados Unidos vai mesmo adotar a Mythos, considerada a inteligência artificial “mais perigosa do mundo” por alguns especialistas.
O modelo, que pertence à Anthropic, empresa-mãe do Claude, foi considerada “potencialmente perigosa para a humanidade” em análise feita no modelo inicial, divulgado recentemente.
Em entrevista à Foxnews, o presidente Donald Trump afirmou que as IAs deveriam ter um “botão de desligar”, além de mencionar os riscos e potenciais positivos da Mythos.
Os perigos que envolvem a Mythos
Segundo informações da Bloomberg, estão sendo feitas mudanças em agências ligadas ao Escritório de Administração e Orçamento da Casa Branca. Essas mudanças, em tese, abrem espaço para a implantação da Mythos.
Até onde se sabe, a nova IA da Anthropic é especializada na detecção de ameaças em sistemas informatizados. Mas é aí que mora o perigo.
Os especialistas que analisaram o modelo afirmam que a habilidade de detectar erros em códigos e reescrevê-los pode ser usada “para o mal”. Isso se traduz na capacidade de detectar erros graves em sistemas, mas também de se utilizar deles para invasões. É a chamada “faca de dois gumes”.
Além disso, a Mythos foi treinada com um volume gigantesco de informações públicas e privadas altamente especializadas. Ou seja, é realmente uma tecnologia sensível e cujo uso requer atenção especial.
Você também pode gostar
Por que a insistência do governo Trump?
Não é de agora que o governo norte-americano vem “batendo cabeça” com a Anthropic. Inclusive, recentemente um contrato entre as duas partes foi parcialmente rompido por que a empresa se recusou a ceder seus recursos para uso militar.
Diante disso, não se sabe o motivo pelo qual o governo dos EUA insiste em usar a Mythos. Bem como, a cessão da Anthropic nesse ponto também é obscura.
A adoção dessa versão do Claude foi comunicada pela Casa Branca via e-mail enviado a funcionários selecionados. Porém, não se sabe, até agora, quais órgãos federais de fato irão receber a tecnologia.
E se der realmente errado?
Também conforme especialistas, é muito difícil prever os desdobramentos de cenário caso a Mythos ou qualquer outra IA viessem a sair do controle. Igualmente, é considerado improvável que isso venha a acontecer.
Apesar dos potenciais riscos, LLMs como a da Claude possuem diversas salvaguardas de controle que, pelo menos na teoria, é suficiente para mantê-las “na rédea”.
De qualquer forma, o público em geral espera que big techs e governos não subestimem riscos em potencial. Afinal, como nós brasileiros gostamos de repetir: “É melhor prevenir do que remediar.”
