Nos últimos anos as redes sociais têm sido alvo de diversas acusações relacionadas a problemas enfrentados por seus usuários.
Como exemplo, no início do ano a Meta de Mark Zuckerberg foi condenada a indenizar uma jovem que alega ter desenvolvido dependência das redes sociais da empresa por conta de seu “design viciante”.
E, apesar de não estar tão no foco quanto o Instagram e o Facebook, ambos da Meta, o TikTok, da Skydance, também “entra no bolo” e é frequentemente citado em processos. Mas agora a coisa escalou um pouco de patamar.
De acordo com a Bloomberg, um relatório secreto supostamente vazado aponta que testes de segurança realizados pela rede social chinesa resultaram no suicídio de um adolescente.
Mais detalhes dessa história
A denúncia aponta que o TikTok ocultou recursos de segurança de cerca de 15 milhões de usuários nos EUA — o equivalente a 10% da sua base no país. O motivo? Um teste A/B para ver se as travas contra conteúdos nocivos afetavam o tempo de uso do aplicativo.
Foi nesse grupo desprotegido que acabou caindo Chase Nasca, de 16 anos. Sem os filtros ativados, o algoritmo entregou ao feed do jovem mais de 7,5 mil vídeos sobre depressão, automutilação e suicídio.
Em fevereiro de 2022, o adolescente tirou a própria vida. Uma auditoria interna de 14 páginas do próprio TikTok confirmou depois que o garoto caiu em uma “bolha escura” porque as travas foram desativadas de propósito.
Você também pode gostar
Para piorar, semanas após essa apuração interna, o CEO do TikTok, Shou Chew, depôs ao Congresso americano afirmando que a segurança de menores era prioridade, sem mencionar o teste secreto.
Quais riscos o TikTok corre?
A revelação desse experimento expõe a empresa a riscos graves que vão além da crise de imagem tradicional.
O primeiro impacto é uma nova onda de processos judiciais. Como o relatório prova que o dano ocorreu por escolha do algoritmo, as chances de condenações e indenizações pesadas aumentam bastante.
Além disso, a rede enfrenta a ameaça de punições regulatórias severas, com governos exigindo auditorias no código-fonte, e um possível boicote de grandes anunciantes que não querem suas marcas ligadas a esse tipo de escândalo.
LEIA TAMBÉM:
- TikTok muda de mãos nos EUA: Oracle lidera novo consórcio controlador
- Netflix vai lançar sua própria versão do TikTok em breve
Saídas para o problema
Pagando acordos pontuais para conter a crise, as big techs parecem tratar tragédias como um mero “custo do negócio”. Mas a conta desse engajamento a qualquer preço ficou cara demais.
Para evitar que episódios assim se repitam, a segurança de menores precisa virar item de série, ativado por padrão para todos, sem espaço para testes em grupos de controle.
Também é fundamental ter auditorias independentes nos algoritmos e mudar a lógica de recomendação: o foco precisa ser a integridade de quem usa, e não só o tempo de tela gerado.
Tomando medidas como essas, as grandes empresas de mídia por trás das maiores redes sociais do mundo tendem, inclusive, a aumentar seus lucros já astronômicos. Ou seja, elas não perdem nada em fazer os ajustes necessários à proteção dos seus usuários.
