Por Raquel Lopes e Caio Spechoto
(Folhapress) – O Discord disse, em documento encaminhado ao governo, que há indícios de que os atos que culminaram na morte de uma jovem de 13 anos tenham sido articulados previamente ou de forma paralela em outras plataformas, especificamente Telegram e TikTok.
Segundo a empresa, a existência de interações fora de sua plataforma ajudaria a explicar por que seus sistemas não identificaram o risco de imediato.
O TikTok nega que tenham ocorrido atividades de coordenação ligadas ao caso em sua plataforma. Em nota, a empresa afirmou ter realizado buscas sobre o episódio e disse não ter encontrado indícios de que o incidente tenha sido articulado ou de que usuários tenham sido redirecionados a ele por meio da rede social.
A reportagem não localizou contato de representantes do Telegram.
A ANPD (Agência Nacional de Proteção de Dados) determinou na quarta-feira (12) que o Discord suspenda as transmissões ao vivo em sua plataforma após o caso da adolescente, que teria sido induzida por outros jovens à automutilação e ao suicídio, com cenas transmitidas pela plataforma. A empresa tem três dias úteis para cumprir a determinação.
O documento da empresa ao órgão regulador enfatiza que a menção ao Telegram e ao TikTok serve para delimitar tecnicamente o que a plataforma poderia processar, não para fugir de responsabilidades.
“Essa circunstância é relevante para reconstruir a cronologia e compreender quais sinais estavam disponíveis à Discord antes do incidente”, disse.
Como a Folha mostrou, o Discord admitiu em documento enviado ao governo federal que havia indícios de risco na transmissão ao vivo que teria culminado na morte de uma menina, mas que isso não foi suficiente para disparar um alerta confiável no sistema interno da plataforma.
O texto, datado de 10 de agosto, é uma resposta a perguntas da Secretaria Nacional de Direitos Digitais, vinculada ao Ministério da Justiça. O órgão questionou a empresa sobre a transmissão ao vivo.
No documento, a empresa disse que seu sistema trabalha com uma pontuação de risco. A transmissão específica teria recebido pontuação de 0,12, enquanto o limite para identificação automatizada é de 0,95.
O Discord afirmou que o resultado está sendo reexaminado e poderá servir para avaliar eventuais aprimoramentos na sensibilidade do sistema, buscando um equilíbrio entre a capacidade de detecção e a produção de falsos positivos.
A empresa afirmou ainda ter recebido uma comunicação de um órgão de segurança sem muitas informações às 3h50. E que, menos de 25 minutos depois, o servidor da transmissão foi removido.
Nota técnica da ANPD concluiu que o Discord não tem ferramentas que viabilizem mecanismos de análise de conteúdo e detecção de violações em tempo real. De acordo com o documento, a plataforma “depende de sistemas automatizados falhos e de denúncias pelos próprios participantes desses ambientes voltados à prática dessas violações”.
“O caso relatado pela empresa […] evidencia falha grave no modelo implementado, uma vez que fato gravíssimo recebeu uma sinalização de risco erroneamente baixa porque o sistema automatizado de detecção não foi bem calibrado”, afirma.
O documento também diz que a possibilidade de haver falsos positivos nas notificações de violação, caso o sistema fique mais sensível, não justifica a falha. “Quando estão em questão o risco iminente de lesão grave, automutilação ou morte de criança ou adolescente, o custo de um falso negativo é incomparavelmente superior ao custo de submeter determinado servidor a análise humana adicional”, diz a nota técnica.
A morte da menina ocorreu em 22 de julho, e o caso ganhou mais relevância política depois de a primeira-dama, Janja Lula da Silva, pedir a derrubada da plataforma, na última quinta-feira (6).
Procurada pela reportagem para comentar o documento enviado ao governo federal, a assessoria do Discord enviou como resposta o comunicado relativo à decisão da ANPD de suspender as transmissões ao vivo.
“A caracterização do Discord feita pela ANPD não reflete a plataforma que construímos nem os investimentos que temos feito na segurança dos usuários. O Discord não tolera grupos ou indivíduos que promovem ou incentivam a violência”, diz a nota da empresa.
O comunicado também afirma que há evidências de que a atividade criminosa que teria culminado na morte da menina havia sido coordenada em outras plataformas antes da criação do servidor no Discord e continuou nesses ambientes após os usuários terem sido banidos.
Sobre a menção a sua plataforma, a chinesa TikTok afirma não ter detectado atividade de coordenação ligada ao caso.
“Atendemos prontamente às solicitações das autoridades competentes e realizamos buscas abrangentes sobre o caso, sem identificar indícios de articulação do incidente ou de redirecionamento em nossa plataforma. O TikTok mantém um canal aberto e permanente de colaboração com as autoridades”, afirmou.
A empresa acrescentou que monitora conteúdos que direcionam usuários a grupos extremistas, incluindo as chamadas “panelas”, e convites para outras plataformas, como o Discord. Segundo o TikTok, publicações que violem suas diretrizes, como comportamento abusivo coordenado, incitação ao assédio ou práticas prejudiciais, são removidas quando identificadas.
