L’entreprise notifiera les parents utilisant les outils de supervision lorsque leur enfant évoque le suicide ou l’automutilation dans une conversation avec son agent IA.
Flatteurs et complaisants, les agents conversationnels peuvent offrir une oreille attentive aux adolescents traversant une mauvaise passe. Au risque que la machine n’apporte pas le soutien psychologique adapté. C’est pourquoi le groupe Meta, propriétaire de Facebook, Instagram et WhatsApp, va notifier les parents utilisant le contrôle parental si leur enfant évoque le suicide ou l’automutilation dans une conversation avec son intelligence artificielle Meta AI. La nouveauté fait partie d’une série de mesures annoncées ce jeudi par Meta pour muscler son dispositif de protection des mineurs. Elle intervient alors que l’étau se resserre autour des éditeurs d’IA, accusés de faciliter le passage à l’acte d’utilisateurs vulnérables.
Selon des informations fournies par OpenAI, concurrent de Meta AI, un million de personnes auraient confié des pensées suicidaires à son agent conversationnel ChatGPT. Meta n’a pas partagé de chiffres équivalents. En août 2025, les parents d’un adolescent californien de seize ans ont porté plainte contre OpenAI après le suicide de leur fils. Selon la plainte consultée par l’AFP, ChatGPT aurait aidé le garçon à dérober de la vodka chez ses parents et fourni une analyse technique du nœud coulant qu’il avait réalisé, confirmant qu’il «pouvait potentiellement suspendre un être humain». Et les affaires similaires se multiplient avec d’autres éditeurs d’IA.
En novembre 2025, la Californie est devenue le premier État américain à légiférer sur l’utilisation de l’IA par les jeunes, obligeant les éditeurs à vérifier l’âge de leurs utilisateurs et à afficher régulièrement (toutes les trois heures pour les mineurs) des messages rappelant à l’internaute que son interlocuteur est une machine.
Vérification humaine avant l’alerte
C’est donc dans un contexte sensible, et sous la pression grandissante des régulateurs, que Meta annonce réguler son chatbot pour les adolescents. Jusqu’alors, le robot se contentait d’orienter les utilisateurs évoquant le suicide ou l’automutilation vers des lignes d’écoute spécialisées, et d’encourager l’internaute à contacter un adulte de confiance. Désormais, les parents utilisant le contrôle parental seront directement informés. «Nous sommes conscients que recevoir ce type d’alerte peut être particulièrement difficile pour les parents. C’est pourquoi, dans une logique de prudence, toutes les conversations identifiées par l’IA feront l’objet d’une vérification humaine avant l’envoi d’une alerte», précise Meta dans un communiqué.
«Lorsque l’intention de l’adolescent est ambiguë, nous privilégions la prudence en envoyant malgré tout une notification. Cela signifie que certains parents pourront être alertés même lorsqu’il n’existe pas de risque avéré», poursuit l’entreprise américaine. Ces alertes sont d’ores et déjà disponibles pour les parents utilisant la supervision sur Instagram aux États-Unis, au Royaume-Uni, au Canada et en Australie, avant un déploiement mondial prévu d’ici la fin de l’année. En outre, lorsqu’un parent active le paramètre «contenu limité» pour son adolescent sur Instagram, Meta AI limitera également les types de conversations autorisées. Meta affirme que les conversations à caractère sexuel ou romantique sont déjà bloquées par défaut sur les comptes adolescents.
Meta est déjà pointé du doigt sur un autre dossier. Les algorithmes des réseaux sociaux Facebook et Instagram, caractérisés par des contenus ultra-personnalisés et défilement infini des publications, sont accusés de renforcer des mécanismes addictifs malsains. De quoi faire émerger la question de la majorité numérique pour protéger les mineurs, particulièrement vulnérables. Depuis décembre 2025, l’Australie interdit aux moins de seize ans l’accès à certains réseaux sociaux, dont YouTube mais aussi Instagram, TikTok, Reddit ou encore Snapchat. Le président Emmanuel Macron défend de son côté une mesure similaire pour les moins de 15 ans en France et dans l’Union européenne.
L’IA dans le viseur des pouvoirs publics
Redoutant des interdictions pures et simples de leurs services aux mineurs, les grandes plateformes du numérique semblent donc déterminées à montrer qu’une utilisation responsable de leurs services est possible en multipliant les fonctionnalités de contrôle parental. Ce fut justement le cas avec la création en octobre 2025 de l’option «contenu limité», pour empêcher certaines recherches sur les comptes adolescents d’Instagram. Des mesures inefficaces selon Bruxelles : « La Commission [européenne] considère que les contrôles parentaux de Meta ne sont efficaces que si les parents possèdent une expertise technique adéquate et consacrent des efforts et du temps à les comprendre », écrit-elle.
Le même phénomène semble se répéter sur les agents conversationnels. Partout dans le monde, les risques posés par l’IA inquiètent les pouvoirs publics. À Évian-les-Bains, en juin 2026, les pays du G7 et leurs cinq partenaires ont mis en garde contre les risques que peuvent comporter certains outils, y compris l’IA, « pour les enfants et les jeunes » : « L’usage de certains services numériques dotés de fonctionnalités destinées à capter l’attention et à renforcer l’engagement au maximum, qui peuvent entraîner des comportements compulsifs et addictifs et d’autres risques, suscite des préoccupations », ont-ils écrit.
À l’échelle européenne, l’AI Act entre progressivement en vigueur dans l’Union des 27, et la régulation des assistants IA pourrait par ailleurs s’intégrer dans un nouveau texte, le Digital Fairness Act, attendu à l’automne. Pour Clara Chappaz, ambassadrice française pour le numérique et l’IA, le besoin de régulation est urgent : « Les risques pour les mineurs liés aux chatbots et aux compagnons virtuels, notamment sur la dépendance émotionnelle et le renforcement des biais, ne sont pas suffisamment pris en charge aujourd’hui par les entreprises» estimait-elle dans nos colonnes en avril dernier. «N’attendons pas quinze ans comme on l’a fait avec les réseaux sociaux. »
