- Snapchat ajoute des outils de filtrage de l'âge et de contrôle parental pour améliorer la sécurité de son chatbot IA.
- My AI, le chatbot de Snapchat, utilise l'historique des conversations pour fournir aux utilisateurs des réponses adaptées à leur âge.
- Snap met en œuvre la technologie de modération OpenAI pour restreindre temporairement l'accès des utilisateurs qui abusent de son chatbot.
Snapchat a mis en place de nouvelles mesures de sécurité pour son chatbot IA après que des réponses dangereuses et inappropriées de ce dernier aient été rapportées par le Washington Post. La société a lancé un filtre d'âge qui fournit aux utilisateurs des réponses adaptées à leur âge et a annoncé son intention de partager des informations avec Les parents par le biais de son Family Center.
Publicité
Snap a également expliqué que le bot “Mon IA” n'est pas un “véritable ami“et qu'elle utilise l'historique des conversations pour améliorer les réponses. En outre, l'entreprise a ajouté la technologie de modération d'OpenAI à son ensemble d'outils existants pour limiter l'utilisation abusive de My AI.
Filtre d'âge pour fournir des réponses appropriées.
Le nouveau filtre d'âge intégré au chatbot de Snapchat permet à l'intelligence artificielle de connaître la date de naissance des utilisateurs et de leur fournir des réponses adaptées à leur âge.
Snap a veillé à ce que le chatbot “tiendra constamment compte de votre âge” lors des conversations avec les utilisateurs. Cette mesure vise à améliorer la sécurité et à protéger les jeunes des interactions inappropriées.
En outre, dans les semaines à venir, Snap prévoit de fournir plus d'informations aux parents ou tuteurs sur les interactions des enfants avec le chatbot dans son Family Center, qui a été lancé en août 2022.
Publicité
Cette nouvelle fonctionnalité permet de savoir si les adolescents communiquent avec l'IA et de connaître la fréquence de ces interactions. Pour utiliser ces fonctions de contrôle parental, le tuteur et l'enfant doivent choisir d'utiliser le Family Center. De cette manière, les parents peuvent avoir une vision plus claire de l'activité en ligne de leurs enfants et prendre des mesures préventives.
Limiter l'utilisation abusive du service grâce à la technologie de modération d'OpenAI
La technologie de modération d'OpenAI a été ajoutée à l'ensemble des outils existants de Snapchat pour limiter l'utilisation abusive de Mon IA. Si un utilisateur utilise le service à mauvais escient, l'entreprise bloquera temporairement l'accès des robots d'intelligence artificielle. Cette mesure vise à garantir la sécurité et la confidentialité des utilisateurs de Snapchat, en particulier lorsqu'ils sont exposés à des contenus préjudiciables.
Avec la prolifération rapide des outils alimentés par l'IA, de nombreuses personnes s'inquiètent de leur sécurité et de leur vie privée. La semaine dernière, un groupe d'éthique appelé Center for Artificial Intelligence and Digital Policy a écrit à la FTC pour lui demander d'arrêter le lancement de la technologie GPT-4 d'OpenAI, l'accusant d'être une “technologie très dangereuse et nuisible”.biaisée, trompeuse et dangereuse pour la vie privée et la sécurité publique.“.
Les experts en technologie exhortent les entreprises à s'assurer que les outils de chatbot sont dotés de garanties suffisantes pour éviter qu'ils ne deviennent indésirables et protéger les utilisateurs contre l'exposition à des contenus préjudiciables.
