De acordo com veículos de mídia dos Estados Unidos, como a Fox News, foi marcada para essa terça-feira (4) uma reunião entre representantes do governo de Donald Trump e big techs da indústria de IA.
Foram convocadas a Anthropic, criadora do Claude, a OpenAI, dona do ChatGPT, além de Google e Meta, que também fornecem inteligência artificial.
Até onde se sabe, o governo norte-americano está preocupado com os rumos que a inteligência artificial está tomando no país, sobretudo após relatos de ataques autônomos de modelos de IA contra sistemas externos.
O medo da inteligência artificial é real?
Há algumas semanas foi noticiado um ataque feito por agentes de IA da OpenAI a sistemas de clientes da empresa. O mais alarmante é que o ataque foi 100% autônomo, ou seja, os agentes “quiseram” atacar e o fizeram.
Um episódio semelhante aconteceu com LLMs da Anthropic, que ganhou notoriedade recente por ter desenvolvido a Claude Mythos, chamada de “IA mais perigosa do mundo”.
Diante disso, o governo dos EUA passou a conduzir testes com as inteligências artificiais a fim de desenvolver sistemas de segurança e controle suficientemente rígidos. Esse, além dos ataques recentes, parecem ser os assuntos da reunião desse 4 de agosto.
Segundo analistas que comentaram a notícia, não se trata de “medo” puro e simples dos mandatários da terra do Tio Sam, mas sim cautela e consciência de que algo precisa ser feito para garantir a segurança frente a agentes autônomos cada vez mais capazes.
Você também pode gostar
Regulação e controle são palavras de ordem
Com intervenção dos Estados Unidos ou não, fica cada vez mais claro que a inteligência artificial precisa de monitoramento e regulação para seguir evoluindo sem causar danos.
Além de riscos à segurança de empresas, pessoas e países, se mal usada, a IA pode desequilibrar setores inteiros da sociedade. Um bom exemplo é a diminuição radical em postos de trabalho que têm acontecido literalmente de uma hora para a outra.
É bem verdade que os avanços oferecidos pela automação têm benefícios demais para serem ignorados. Porém, a adesão à essa nova realidade deve passar por um processo de transição responsável.
Afinal, sem a devida parcimônia, o avanço da IA pode acabar prejudicando justamente a quem ela deve servir: os seres humanos.
