Face à l’essor de ChatGPT comme confident numérique, OpenAI déploie une fonctionnalité baptisée « Contact de confiance ». Destinée à prévenir les risques liés aux pensées suicidaires ou à l’automutilation, elle permet à l’utilisateur de désigner un proche majeur qui sera alerté en cas de détresse. Une mesure jugée indispensable pour encadrer l’usage de l’IA, notamment chez les plus jeunes.
Par Yakout Abina
Le service d’intelligence artificielle ChatGPT s’enrichit d’une option baptisée « Contact de confiance », conçue pour intervenir dans les situations de détresse psychologique. Cette nouveauté permet à l’utilisateur adulte (18 ans et plus) de désigner une personne proche qui sera alertée en cas de pensées suicidaires, de pulsions d’automutilation ou de mal-être profond.
Pour activer cette fonctionnalité, il suffit de renseigner dans les paramètres le nom, l’adresse e-mail et, éventuellement, le numéro de téléphone du contact choisi. Une invitation est alors envoyée à ce proche, qui dispose d’une semaine pour accepter ou refuser. En cas de refus, l’utilisateur peut désigner un autre contact. En cas d’acceptation, l’alerte est immédiatement activée.
Lorsqu’un échange révèle une détresse psychologique, ChatGPT peut déclencher une alerte transmise par e-mail, SMS ou notification à la personne de confiance. L’IA encourage également l’utilisateur à prendre lui-même contact avec son proche, en proposant des amorces de conversation pour faciliter l’échange.
Il est important de préciser que ChatGPT ne transmet jamais le contenu des discussions ni d’informations personnelles. Le message envoyé reste volontairement bref et se limite à signaler une situation préoccupante. De plus, une équipe spécialisée et formée à la gestion des situations de crise analyse le contexte avant d’autoriser l’envoi de l’alerte.
Cette mesure vient compléter le contrôle parental déjà disponible. Elle apparaît essentielle, car ChatGPT est utilisé par des millions d’internautes comme confident, y compris par les plus jeunes. Selon les estimations, plus d’un million d’utilisateurs évoquent des pensées suicidaires dans leurs échanges avec l’IA. Or, dépourvue d’empathie et d’émotions, celle-ci peut parfois accentuer la fragilité d’un utilisateur en détresse, voire aggraver son mal-être. Dans les cas les plus extrêmes, cette absence de sensibilité pourrait contribuer à un risque suicidaire.
Y.A
