O sistema de varredura de rosto da Discord poderia ajudar em seus processos?

A Discord chegou em água quente nesta semana, começando as coisas com uma ação movida contra questões de segurança infantil. Paralelly, a Discord também está analisando os testes de verificações de idade de varredura de rosto para restringir o conteúdo adulto a usuários adultos reais. Essas histórias não estão conectadas por si só, pois o processo da discórdia foi movido em Nova Jersey, e os “experimentos” com a verificação da idade estão sendo conduzidos no Reino Unido e na Austrália, mas o resultado de um pode influenciar muito o progresso na outra frente.

A Discord é conhecida por hospedar milhares de comunidades de nicho que servem interesses diferentes, mas, como muitas outras plataformas de mídia social e redes, também há conteúdo gráfico que voa sob o radar. O conteúdo de adultos é permitido na plataforma, mas o novo processo alega que os problemas de segurança infantil da Discord estão saindo de controle, com as medidas de segurança da empresa para manter os usuários menores de idade protegidos do conteúdo.

Com verificações de segurança insuficientes, apesar das reivindicações de seus recursos de proteção, a Discord agora terá que se defender do processo e as acusações que em breve seguirão.

O processo de discórdia explicou: Por que a empresa está em apuros?

Vamos quebrar as alegações primeiro. Em 17 de abril de 2025, o procurador -geral de Nova Jersey Matthew J. Platkin, juntamente com a Divisão de Assuntos do Consumidor, entrou com uma ação contra a Discord, Inc. no Tribunal Superior de Nova Jersey, divisão de Chancelaria, Condado de Essex.

O processo foi movido contra a discórdia por práticas ilegais que expõem as crianças em Nova Jersey a crianças predadores e conteúdo sexual violento e foram divulgadas após uma investigação de vários anos para a empresa.

O que o processo da discórdia afirma?

O processo alega que a Discord sabia que seus recursos de segurança não protegerem suficientemente sua jovem base de usuários das ameaças on -line. Afirma que A empresa enganou intencionalmente os pais e seus filhos sobre as configurações de segurança que possuía para mensagens diretas (DMS).

De acordo com o processo da discórdia, apesar de tranquilizar os pais e afirmar que o aplicativo era seguro para os usuários mais jovens, o recurso de mensagens diretas seguras que deve digitalizar automaticamente e excluir DMs privados com mídia explícita não funcionou como prometido.

Apesar das medidas existentes, o processo acredita que os predadores são capazes de “perseguir, conectar e vitimizar crianças”. Muitas vezes, posando quando crianças, esses predadores eram capazes de compartilhar e solicitar imagens explícitas através do aplicativo, mesmo recorrendo à sextortion como um meio de conseguir o que quer.

Para resumir as questões de segurança infantil de Discord mencionadas no processo:

• Reivindicações de segurança enganosas e recursos defeituosos Que o Estado afirma ser ineficaz na proteção de crianças de material de abuso sexual infantil (CSAM), conteúdo violento e outras mídias prejudiciais
• Configuração de segurança padrão de “Meus amigos são legais” Isso digitalizou mensagens diretas de todos, exceto amigos, que criaram uma brecha para predadores
• Verificação inadequada da idade Isso permitiu que crianças menores de 13 anos tenham acesso à plataforma com facilidade
• O design da plataforma permite usuários em um servidor comum Para trocar mensagens diretas, abrindo a porta para os predadores usam mal
• Violações de fraude do consumidor Reivindicado como o processo da discórdia acredita que a empresa sabia sobre suas medidas negativas, mas continuou a enganar os pais por seus lucros

O processo citou casos criminais em Nova Jersey, onde havia evidências de limpeza, solicitação e exploração na plataforma.

Quais são os remédios procurados no processo de discórdia?

O processo pretende tornar a discórdia mais ativa em seus esforços para limitar seu uso entre as crianças e proteger aqueles acima de 13 que podem usar a plataforma. Procura remédios diferentes da empresa, incluindo uma ordem judicial para impedir a discórdia de violar ainda mais o CLei de Fraude On -Sumer (CFA). O pagamento de multas civis e o requisito de que a discórdia entregue os lucros obtidos em Nova Jersey por meio dessas ações ilegais.

Forçar a discórdia a ser mais ativa em tornar sua plataforma segura faz parte do escritório do esforço do procurador -geral para manter as crianças seguras online. O escritório anteriormente tomou medidas contra a Meta por conduta ilegal semelhante, e Tiktok, por tornar o aplicativo viciante, projetando recursos que mantinham crianças e adolescentes online.

Como a Discord respondeu às alegações?

Um porta -voz da Discord afirmou que ficou surpreso com o processo, pois já haviam se envolvido com o escritório do procurador -geral sobre o assunto. “A Discord se orgulha de nossos esforços e investimentos contínuos em recursos e ferramentas que ajudam a tornar a discórdia mais segura”, disse eles em comunicado.

A empresa enfatizou que já havia tomado várias medidas para manter seus usuários seguros, principalmente a implementação do recurso 2023 que detecta automaticamente o CSAM e toma medidas contra ele.

Nova Jersey é o primeiro estado do país a entrar com um traje como esse contra a Discord, mas mais estados também podem se mover para levar a empresa a agir, considerando a conversa sobre segurança on -line no momento. Casos recentes na Califórnia também trouxeram o foco nas preocupações de segurança em torno da discórdia e Roblox.

Como os usuários responderão ao sistema de identificação de face da Discord? É isso que precisamos saber.

Os testes de varredura de face da discórdia poderiam fazer parte da solução?

As preocupações com a privacidade da discórdia não devem ser subestimadas – há preocupações de segurança muito reais em torno das crianças que entram on -line e, em 2025, é muito mais fácil para os predadores alcançar e manipular essa seção vulnerável da população.

Tendo isso em mente, o Reino Unido Lei de Segurança Online (OSA) exigiu que todas as plataformas que operassem na região apliquem sistemas robustos de verificação etária na região até julho. As organizações que não cumprirem podem ver multas de até 10% de sua rotatividade global.

O que sabemos sobre o teste de verificação de idade da Discord?

Atualmente, o novo sistema de verificação da Discord está sendo tEstados no Reino Unido e na Austrália exclusivamente. Os usuários da Discord na região podem em breve receber uma mensagem pedindo que verifiquem sua faixa etária, tirando uma selfie de vídeo com a câmera do dispositivo ou digitalizando seu ID. Depois que os usuários seguem as etapas para fazer upload, eles receberão uma notificação sobre o status do processo de verificação da idade através de um DM do perfil do Discord.

O processo deve levar apenas alguns minutos e não precisará ser repetido após a conclusão. Aqueles que discordam dos resultados do teste de verificação da idade da discórdia podem tentá -lo novamente.

Nem todos os usuários podem ser solicitados a verificar sua idade. Por enquanto, deve ser exibido para aqueles que encontram “o conteúdo sinalizado pelo filtro de mídia sensível (Discord)” ou para aqueles que tentam modificar suas configurações sensíveis de filtro de conteúdo.

O sistema de varredura de face da discórdia é o movimento certo?

Vamos ser sinceros, a maioria de nós não quer dar às empresas de tecnologia mais dados sobre nós do que já possuem, especialmente quando nunca entram em detalhes sobre como planejam mantê -los seguros. Há também o Preocupações adicionais em torno da preferência do usuário pelo anonimato on -line e como os sistemas de identificação de face parecem invasivos nesse sentido. A Discord afirma que não manterá um registro das varreduras de verificação de idade, para que possa facilitar a aceitação do sistema.

Até vermos a discórdia do sistema de varredura em ação, não saberemos o quão bom é em seu trabalho. As crianças que parecem um pouco mais velhas podem ser capazes de acessar conteúdo inseguro, e os adultos que parecem mais jovens podem sentir alguma frustração por serem bloqueados pela nova verificação de Discord.

Com esses sistemas de varredura etária, também existe a possibilidade de as crianças se voltarem para plataformas mais inseguras e não regulamentadas para acessar o conteúdo que desejam, o que acabaria derrotando o objetivo de tornar essas plataformas mais seguras. Ainda assim, tornar as plataformas uniformemente seguras é o objetivo final e o teste de verificação de idade da discórdia pode trazer alguma segurança e ajuda com as preocupações apresentadas pelo processo.

Discord Questões de segurança infantil fazem parte de um problema mais sistêmico

Os problemas com o subsídio de conteúdo gráfico de discórdia destacam um problema maior –É muito fácil acessar praticamente qualquer coisa online, especialmente devido à ascensão de trollers e contas de bot que ajudam a disfarçar os verdadeiros predadores. Colocar um fim firme e conclusivo a todo o conteúdo adulto significaria que adultos excessivos semelhantes ao caos que se seguiu no Tumblr por volta de 2018.

Com os planos de varredura de face da discórdia e outros regulamentos de segurança, o fator de segurança pode subir, mas os adultos que compõem a maioria dos usuários na plataforma podem migrar para outro lugar se ficar muito pesado de usar. As empresas precisam determinar o número certo de ferramentas e medidas de segurança é para sua plataforma, além de garantir que não alienam seu público de espírito livre.

O recurso de varredura etária da Discord pode ser a solução para impedir que as crianças mais novas acessem a plataforma, e sua segurança deve vir primeiro. Se o sistema for bem -sucedido, poderá entrar em vigor mais globalmente, não apenas na discórdia, mas em outras plataformas que o adotam também. Por enquanto, teremos que tomar cuidado com a forma como o processo da discórdia e os sistemas de varredura de face tomam forma.

Precisa de mais informações sobre como o mundo da tecnologia está evoluindo? Inscreva -se no Technowize, é simples assim.