Em comunicado, a OpenAI, empresa-mãe do ChatGPT, confirmou que um grupo de LLMs (modelos de aprendizado de máquina que baseiam a IA) agiram “por conta própria” e atacaram os sistemas de uma empresa parceira.
De acordo com a companhia, os sistemas estavam sendo testados em um ambiente controlado quando romperam as barreiras de segurança e causaram o incidente.
A empresa afetada foi a Hugging Face, plataforma que atua justamente no compartilhamento de modelos de IA e tem fortes ligações com a OpenAI.
Mais detalhes do incidente
O conflito de segurança aconteceu durante um teste de rotina da OpenAI. A ideia era avaliar o comportamento dos seus agentes autônomos (sistemas capazes de tomar decisões e executar tarefas sem a necessidade de intervenção humana a cada passo) dentro de um sandbox, que funciona como um ambiente de testes isolado do restante da rede.
No entanto, os modelos encontraram uma brecha na própria estrutura desse ambiente, criaram um ataque cibernético por conta própria e conseguiram “escapar” do isolamento.
Uma vez fora do perímetro de segurança, a IA identificou os sistemas da Hugging Face como a fonte ideal para obter as respostas de que precisava para cumprir o teste original e tentou forçar a entrada na plataforma.
Em nota, o CEO da Hugging Face, Clement Delangue, classificou como “impressionante” o fato de a ação ter sido feita de forma 100% autônoma. A empresa informou que já corrigiu as falhas apontadas, reconstruiu os ambientes afetados e segue avaliando se dados de parceiros foram comprometidos.
Você também pode gostar
O episódio reacendeu o debate sobre a real eficiência dos ambientes de contenção. Para Gina Neff, diretora do Centro Minderoo da Universidade de Cambridge, a OpenAI falhou ao não criar um ecossistema de testes verdadeiramente seguro, permitindo que uma ferramenta em fase de testes causasse impacto no mundo real.
LEIA MAIS:
Estamos mesmo seguros?
Ao que parece, sim. Na verdade, problemas como esse ocorrido entre Hugging Face e OpenAI são, felizmente, pontuais. Pelo menos na conjuntura atual.
Apesar de incidentes assim acenderem um alerta para uma hipotética “rebelião das IAs”, fato é que os sistemas possuem salvaguardas eficazes e preparadas para a contenção de danos.
No mais, até o momento não se têm relatos de investidas de modelos autônomos a usuários “pessoa física”, se é que isso pode nos deixar mais tranquilos.
O problema de fato parece estar em alguns empresas e governos que, respectivamente, atuam no controle dessas tecnologias e criam regras para reger esse controle.
Em outras palavras, se bem usada, a inteligência artificial pode muito mais contribuir com a humanidade que o contrário. Se mal usada, bom, aí todos nós imaginamos a quais fins ela pode servir.
