Um pedido formal contra a IA Grok, atrelada ao X (Twitter), chegou ao governo federal nesta semana. A reclamação partiu do Instituto Brasileiro de Defesa do Consumidor (Idec), que exige a suspensão imediata da inteligência artificial.
Segundo a organização, a ferramenta estaria sendo usada para distorcer imagens e criar representações de cunho sexual, muitas delas envolvendo adolescentes e até crianças.
A solicitação foi direcionada ao comitê que cuida dos direitos digitais de crianças e adolescentes, grupo que reúne ministérios, órgãos de proteção e representantes da comunicação oficial.
No centro da denúncia, o argumento de que a tecnologia vem sendo aplicada sem filtros mínimos de segurança. A consequência disso? Violações sérias aos direitos individuais e coletivos.
Casos concretos, efeitos reais
Entre os exemplos citados, um ganhou destaque. A jornalista Julie Yukari publicou uma foto comum: ela e seu gato, na cama. Horas depois, surgiram versões falsas dessa imagem.
Em algumas, ela aparecia de lingerie; em outras, completamente nua. Tudo teria sido gerado com comandos simples ao Grok.
Mesmo após boletim de ocorrência e sinalização de ajustes por parte da rede social, o problema persistiu. As imagens manipuladas seguiram circulando. Para o Idec, esse é um retrato claro de que as medidas anunciadas pela plataforma estão longe de ser suficientes.
LEIA TAMBÉM:
Especialistas falam em crime digital
Alisson Possa, professor de direito digital ouvido pelo Correio Braziliense, vê nas ações da ferramenta uma afronta direta à privacidade e à dignidade da pessoa humana.
Ele explica que não importa se a imagem foi criada por IA ou por um humano: se há conotação sexual envolvendo menores ou ausência de consentimento, a infração é grave e passível de sanções.
O especialista defende que as respostas não se limitem à remoção de conteúdo. Para ele, preservar provas, notificar formalmente a empresa e, quando necessário, acionar a Justiça com urgência são passos indispensáveis.
Limitação tardia e críticas à postura da plataforma
A rede social X, após os escândalos, decidiu restringir o uso do Grok. A partir de agora, apenas assinantes pagos podem usar as funções de edição e geração de imagens.
Ainda assim, a medida não convenceu. Para entidades de defesa digital, o foco deveria ser a proteção do usuário com medidas concretas de mudança, não a restrição parcial do serviço, que já se mostrou problemático.
O Idec reforça que o Brasil já conta com arcabouço legal suficiente para enquadrar esse tipo de prática. Entre as leis citadas estão a LGPD, o Marco Civil da Internet, o Código de Defesa do Consumidor e o recém-aprovado ECA Digital. O instituto entende que a suspensão da ferramenta pode ser necessária como forma de prevenir novos danos e responsabilizar economicamente quem falhou.
* Com informações do Correio Braziliense