Suicide, automutilation : Meta AI va désormais alerter les parents 🛡️

Click here to read in English

L’entreprise a annoncé une nouvelle fonctionnalité qui avertit les parents lorsqu’un adolescent évoque le suicide ou l’automutilation dans une conversation avec Meta AI. Déployée aux États-Unis, au Royaume-Uni, au Canada et en Australie, cette mesure combine détection par intelligence artificielle et vérification humaine avant l’envoi de toute alerte.

Une alerte destinée aux parents 👨‍👩‍👧

La nouvelle fonctionnalité permet à Meta AI d’identifier les conversations dans lesquelles un adolescent exprime des pensées liées au suicide ou à l’automutilation. L’alerte est déclenchée même lorsque les propos sont formulés de manière indirecte ou ambiguë.

Dans ce cas, les parents reçoivent une notification les invitant à engager la discussion avec leur enfant. L’alerte est accompagnée de ressources et de conseils pour aborder le sujet. En revanche, le contenu des échanges entre l’adolescent et Meta AI n’est pas communiqué aux parents.

Une détection en deux étapes 🤖

Le dispositif repose sur un processus de vérification en deux phases. Tout d’abord, un système d’intelligence artificielle analyse les conversations afin de détecter d’éventuels signes de détresse psychologique. Ensuite, chaque conversation signalée est examinée par une équipe humaine avant qu’une notification ne soit envoyée aux parents.

Selon Meta, cette double vérification vise à limiter les erreurs tout en privilégiant une approche préventive. L’entreprise indique qu’en cas de doute sur l’intention réelle du jeune utilisateur, elle préfère transmettre une alerte plutôt que de ne pas intervenir. Les notifications sont envoyées par SMS, par courrier électronique ou directement dans l’application, selon les paramètres définis lors de la configuration des outils de supervision parentale.

Et en cas d’urgence 🚨

Au-delà des notifications adressées aux parents, Meta prévoit également d’étendre à Meta AI un mécanisme déjà utilisé sur Facebook et Instagram. En effet, lorsque les systèmes estiment qu’une personne se trouve en danger immédiat, l’entreprise peut transmettre un signalement aux services d’urgence.

Cette fonctionnalité n’est pas encore disponible pour les conversations avec Meta AI. Toutefois, elle est déjà opérationnelle sur Facebook et Instagram. L’entreprise indique qu’elle a donné lieu à plus de 19 000 signalements auprès des services de secours dans le monde au cours de l’année écoulée.

Une réponse aux enjeux de protection des mineurs 🛡️

Cette annonce intervient dans un contexte de renforcement des exigences en matière de sécurité des jeunes utilisateurs sur les plateformes numériques. Ces derniers mois, Meta a notamment fait l’objet de procédures judiciaires portant sur la protection des mineurs et les effets de ses plateformes sur les adolescents.

Parallèlement, plusieurs pays renforcent leur réglementation. En Australie, par exemple, les réseaux sociaux sont interdits aux moins de 16 ans depuis décembre. De plus, les autorités demandent aux plateformes numériques de préciser les mesures mises en place pour protéger les jeunes utilisateurs. Avec cette nouvelle fonctionnalité, Meta entend renforcer les outils de prévention et de détection des situations à risque au sein de son assistant conversationnel.

Pensez-vous que l’intelligence artificielle peut contribuer efficacement à protéger les mineurs en ligne, ou ces dispositifs soulèvent-ils des inquiétudes pour la vie privée des familles ?