- Discord interdit Les contenus générés par l'IA qui mettent en scène des abus sexuels sur des enfants et prend des mesures contre la sexualisation des enfants et des adolescents.
- La plateforme interdit les serveurs de rencontres pour adolescents et sévit contre les utilisateurs inappropriés.
- Discord lance le Family Center et travaille en étroite collaboration avec des experts pour améliorer la sécurité des jeunes utilisateurs.
Tendance inquiétante : augmentation des contenus sexualisés pour mineurs générés par l'IA. Discord, une plateforme de communication populaire, a récemment mis en place une série de mises à jour de ses politiques afin d'améliorer la sécurité des enfants et des adolescents sur sa plateforme. Ces changements ont été apportés en réponse à des rapports faisant état de prédateurs exploitant l'application pour créer et distribuer du matériel pédopornographique (CSAM), ainsi que pour tromper de jeunes adolescents.
Interdiction du matériel pédopornographique généré par l'IA. L'une des mises à jour les plus importantes est l'interdiction explicite des CSAM photoréalistes générés par l'IA. Cela fait suite à une tendance inquiétante soulignée par TWP, où l'essor de l'IA générative a conduit à une prolifération d'images réalistes représentant des enfants sexualisés. En effet, des discussions ont été découvertes sur Discord concernant l'utilisation d'une IA générative texte-image appelée Midjourney pour créer des images inappropriées de mineurs.
Interdiction des contenus à caractère sexuel pour les enfants et des serveurs de rencontres pour adolescents.
En plus d'interdire les CSAM générés par l'IA, Discord a introduit une interdiction explicite de toute forme de texte ou de contenu multimédIA qui sexualise les enfants.
La plateforme a également interdit les serveurs de rencontres pour adolescents et s'est engagée à prendre des mesures contre les utilisateurs qui ont un comportement inapproprié.
Des enquêtes antérieures ont permis d'identifier des serveurs Discord annoncés comme des plateformes de rencontres pour adolescents, dont les participants demandaient des images nues de mineurs.
Faire face au harcèlement scolaire et aux réseaux criminels.. Discord a connu des cas d'utilisateurs adultes manipulant des enfants, et il existe même des réseaux criminels extorquant des utilisateurs mineurs pour qu'ils envoient des images explicites d'eux-mêmes. Une interdiction totale des serveurs de rencontres pour adolescents pourrait contribuer à atténuer ce problème. De plus, Discord a inclus dans sa politique une disposition stipulant que les adolescents plus âgés qui harcèlent les plus jeunes feront l'objet d'une enquête et de poursuites conformément à sa politique sur les comportements sexuels inappropriés avec des mineurs et le grooming.
Family Center : Outil de supervision parentale. En plus de mettre à jour ses règles, Discord a lancé un outil appelé Family Center, qui permet aux parents de surveiller l'activité de leurs enfants sur le service de chat. Bien que les parents ne puissent pas accéder au contenu réel des messages de leurs enfants, cet outil basé sur un abonnement leur permet de voir les amis de leurs enfants et les personnes avec lesquelles ils interagissent sur la plateforme. Discord espère que ces nouvelles mesures et ces nouveaux outils, combinés à ses efforts existants, tels que l'analyse proactive des images téléchargées à l'aide de PhotoDNA, protégeront efficacement ses utilisateurs mineurs, tout comme le fait Facebook.
L'engagement de Discord en faveur de la sécurité des enfants
L'engagement de Discord en faveur de la sécurité des enfants est louable, car l'entreprise travaille activement à lutter contre les dangers posés par les prédateurs et les contenus inappropriés.
En mettant en place des politiques plus strictes et en fournissant des outils de supervision parentale, Discord vise à créer un environnement plus sûr pour les jeunes utilisateurs. Cependant, il est crucial que les parents et la communauté restent vigilants, en s'éduquant eux-mêmes et en éduquant leurs enfants sur la sécurité en ligne afin d'éviter tout dommage potentiel.
Collaboration et technologie de pointe pour lutter contre l'exploitation sexuelle des enfants.. Discord s'efforce continuellement d'améliorer la sécurité de ses utilisateurs adolescents et a investi dans des talents et des ressources pour s'en assurer. La plateforme utilise des technologies avancées, telles que les modèles d'apprentissage automatique et la correspondance d'images PhotoDNA, pour identifier et supprimer les contenus préjudiciables. Elle travaille également en étroite collaboration avec des experts du secteur et des organisations pour lutter contre l'exploitation sexuelle des enfants et renforcer les pratiques de modération et les initiatives de sécurité.
