Cette nouvelle recherche émergente, riche en pistes originales, s’attaque à une question qui devient difficile à ignorer : que se passe-t-il lorsque les données issues des wearables et les grands modèles de langage commencent à parler à l’utilisateur comme si le corps livrait directement des faits en langage courant ? Dans Front-End Ethics for Sensor-Fused Health Conversational Agents: An Ethical Design Space for Biometrics, Lee et Calvo (2026) soutiennent que le problème éthique central ne se situe plus uniquement à l’arrière-plan des systèmes d’IA — dans les algorithmes, les classifieurs ou les modèles de fusion — mais de plus en plus à l’avant-plan, là où les signaux physiologiques sont convertis en langage persuasif.
Ce déplacement est particulièrement important pour notre domaine. Le biofeedback est un processus qui aide une personne à apprendre à réguler son activité physiologique en lui fournissant des informations en temps réel sur des signaux corporels comme la fréquence cardiaque, la respiration, la conductance cutanée ou la tension musculaire. Le neurofeedback est une forme de biofeedback qui utilise plus spécifiquement des mesures de l’activité cérébrale, le plus souvent en ÉEG, afin de soutenir l’autorégulation des états neuronaux. Dans les deux cas, l’intervention ne dépend pas seulement de l’acquisition du signal, mais aussi de son interprétation. Un chiffre à l’écran n’est presque jamais neutre une fois devenu message.
Lee et Calvo s’intéressent aux agents conversationnels de santé fondés sur la fusion capteurs-IA, c’est-à-dire à des systèmes combinant des flux continus de données issues de wearables ou d’autres capteurs avec des dialogues générés par des LLM. Leur avertissement central est à la fois simple et important : les données de capteurs peuvent créer une illusion d’objectivité. Dès qu’un LLM transforme un profil physiologique fluctuant en phrases comme « vous êtes stressé » ou « votre récupération est mauvaise », l’incertitude peut se figer en affirmation quasi diagnostique. Pour les cliniciens, chercheurs et développeurs qui travaillent en biofeedback ou en neurofeedback, cet article propose une carte éthique utile pour réfléchir à la manière dont le feedback devrait être formulé, temporisé, contesté et compris avec prudence.
Méthodes
Cet article n’est ni un essai expérimental, ni une étude d’issue clinique, ni un benchmark technique. Il s’agit plutôt d’une analyse conceptuelle et orientée design visant à clarifier les enjeux éthiques des agents conversationnels de santé fusionnant capteurs et IA. Ce point compte pour l’interprétation : les auteurs ne testent pas si un chatbot relié à des wearables améliore un résultat clinique précis, mais construisent un cadre pour réfléchir à la manière dont ces systèmes devraient communiquer en contexte d’incertitude.
Le texte commence par décrire l’architecture typique de ces agents. Comme l’illustre la figure, le fonctionnement progresse en quatre grandes étapes : la captation, la fusion, la traduction et la conversation. La captation comprend des entrées physiologiques et comportementales telles que la fréquence cardiaque, la variabilité de la fréquence cardiaque, le sommeil, la respiration, la température et les journaux d’activité. La fusion correspond à la couche de modélisation, où ces séries temporelles sont combinées pour inférer des états comme le stress, la charge, la récupération, les stades de sommeil ou certaines anomalies. La traduction constitue l’étape charnière : le système convertit les sorties latentes du modèle en résumés, étiquettes, récits et hypothèses de coaching. Enfin, la conversation est la couche de livraison, là où ces traductions atteignent l’utilisateur sous forme de questions-réponses, de messages de soutien ou d’alertes.
Les auteurs distinguent ensuite deux contextes d’interaction. Dans les interactions de type pull, l’utilisateur initie l’échange et se trouve généralement dans de meilleures dispositions pour réfléchir à ses données. Dans les interactions de type push, le système envoie une alerte sans avoir été sollicité, souvent à un moment où la personne peut être occupée, anxieuse, exposée socialement ou déjà activée sur le plan physiologique. Cette distinction structure une grande partie de l’argument éthique, car un même message peut être recevable dans un contexte réflexif pull et devenir déstabilisant dans un contexte push.
À partir de là, Lee et Calvo proposent un espace de conception éthique en cinq dimensions : la divulgation des données, la temporalité du monitoring, le cadrage interprétatif, la posture de l’IA et la contestabilité. Plutôt que de considérer ces éléments comme des choix fixes, l’article les présente comme des leviers modulables selon le niveau de risque, la vulnérabilité, le contexte et l’état de l’utilisateur. Les auteurs proposent également des garde-fous adaptatifs, dont une « divulgation adaptative » et de courtes routines de vérification intégrées, comme mécanismes pratiques de sécurité à l’interface.
Résultats
Comme il s’agit d’un article conceptuel issu d’un workshop, il ne rapporte ni résultats sur participants, ni tailles d’effet, ni comparaisons randomisées, ni données longitudinales comportementales. On n’y trouve pas de mesures de symptômes, d’adhésion ou d’expérience utilisateur. Cette absence est importante : le texte avance une proposition de design, pas une démonstration empirique qu’une interface donnée réduit effectivement les risques.
Ses principaux « résultats » doivent donc être compris comme des productions conceptuelles.
D’abord, l’article identifie un problème éthique central dans les agents de santé fusionnant capteurs et IA : l’illusion d’objectivité. Les signaux physiologiques paraissent souvent très autoritaires pour l’utilisateur, même lorsqu’ils sont bruités, ambigus ou fortement dépendants du contexte. Une fois traduits en langage naturel par un LLM, surtout sur un ton assuré, ils risquent d’être reçus comme des faits établis. Les auteurs soutiennent que cela peut amplifier des risques déjà connus des LLM — hallucinations, surconfiance, persuasion émotionnelle et dynamiques de dépendance — tout en ajoutant des risques spécifiquement liés à la santé, comme l’amplification de l’anxiété, les mésinterprétations de soi et des réactions de type nocebo.
Ensuite, l’espace de conception en cinq dimensions fournit une structure utile pour anticiper l’émergence potentielle du dommage. Les dimensions vont d’une divulgation implicite à explicite, d’un monitoring à la demande à un monitoring continu, d’un cadrage réflexif à directif, d’une posture humble à autoritaire de l’IA, et d’interprétations figées à des interprétations corrigibles. Chaque dimension est associée à une tension éthique : transparence versus anxiété, intervention versus dépendance, autonomie versus charge cognitive, sécurité versus surconfiance, et impuissance versus empowerment.
Enfin, l’article propose des garde-fous adaptatifs en front-end. La suggestion la plus cliniquement utile est sans doute que les systèmes devraient se déplacer vers des styles de communication plus prudents lorsque l’utilisateur semble vulnérable — par exemple en réduisant l’exposition aux données brutes, en adoucissant le degré de certitude interprétative et en privilégiant des formulations réflexives plutôt que des étiquettes déclaratives. Les auteurs recommandent aussi de courtes routines de vérification, par exemple présenter d’abord un signal comme un « niveau d’activation accru », puis demander si un exercice récent, la caféine, l’excitation ou l’anxiété pourraient expliquer ce profil avant de stabiliser l’interprétation.
Autrement dit, la contribution principale de l’article est de fournir un vocabulaire éthique pratique pour concevoir une traduction biométrique orientée utilisateur en contexte d’incertitude.
Discussion
Cet article est particulièrement intéressant pour le biofeedback et le neurofeedback parce qu’il reformule un problème que nous connaissons déjà bien : les signaux ne parlent pas d’eux-mêmes. En clinique, les données physiologiques et les données d’ÉEG ne deviennent utiles que lorsqu’elles sont interprétées dans leur contexte, avec suffisamment d’humilité et de collaboration pour que la personne qui reçoit le feedback demeure actrice de la construction du sens, plutôt que simple destinataire d’une autorité machinique.
Ce que le papier montre très clairement, c’est que lorsqu’une donnée biométrique est relayée par un agent conversationnel, le danger ne réside pas seulement dans une lecture erronée. Le risque plus profond est celui d’une inflation rhétorique. Un motif probabiliste devient une phrase, la phrase sonne comme une autorité, et cette autorité modifie le comportement. Un wearable peut détecter une fréquence cardiaque élevée, une VFC plus basse, un sommeil fragmenté ou une activité inhabituelle. Aucun de ces états ne correspond de façon simple et univoque à une seule signification psychologique. Pourtant, un système qui affirme « vous êtes stressé » peut provoquer de l’inquiétude, augmenter la vigilance, intensifier l’activation corporelle et créer précisément la boucle de feedback qu’il prétend mesurer. Voilà une intuition très pertinente pour le biofeedback.
Pour les clients, l’implication pratique est simple mais essentielle : le feedback physiologique peut soutenir la conscience de soi, mais il peut aussi surmodeler le récit que la personne se raconte sur elle-même lorsqu’il est livré avec trop d’assurance. Certains utilisateurs bénéficient des chiffres et des tendances. D’autres deviennent plus anxieux, plus obsessionnels ou plus dépendants d’une interprétation externe. Cet article vient donc renforcer un principe clinique bien connu : davantage de données ne signifie pas toujours davantage de régulation. Parfois, un feedback moins explicite, présenté au bon moment et avec le bon cadrage, constitue le choix le plus thérapeutique.
Pour les professionnels référents et les équipes multidisciplinaires, le papier sert aussi de mise en garde utile. À mesure que les plateformes de santé alimentées par l’IA se multiplient, les cliniciens rencontreront probablement plus souvent des personnes qui arrivent avec des interprétations issues de capteurs déjà intégrées à leur compréhension d’elles-mêmes. « Ma bague dit que je ne récupère pas. » « Mon appli dit que je suis chroniquement stressé. » « Le système a détecté un burnout. » Ces affirmations peuvent avoir le poids émotionnel d’un diagnostic alors même que l’inférence sous-jacente est fragile. L’accent mis par l’article sur la contestabilité est ici particulièrement précieux. L’utilisateur devrait pouvoir corriger le système, rejeter une étiquette et faire remonter les situations ambiguës ou à haut risque vers un professionnel humain.
Pour les professionnels du neurofeedback, la pertinence est immédiate. Le neurofeedback en ÉEG consiste déjà à traduire des signaux complexes et probabilistes en cibles compréhensibles pour l’utilisateur et en attentes cliniques. Idéalement, cette traduction se fait de manière collaborative, dépendante de l’état, et façonnée graduellement par approximations successives plutôt que par déclarations abruptes sur ce que le cerveau « est ». Le cadre proposé par Lee et Calvo prolonge cette logique dans l’ère de l’IA. Une couche conversationnelle ajoutée à l’ÉEG, à la VFC, à la conductance cutanée, à la respiration ou au suivi du sommeil ne devrait jamais faire semblant de savoir davantage que ce que la mesure permet réellement de conclure. Elle devrait soutenir l’autorégulation, pas remplacer le raisonnement clinique.
La contribution interprétative la plus utile de l’article réside peut-être dans cette idée : le front-end n’est pas un simple vernis esthétique. En technologie de santé, le choix des mots est une intervention. Le moment d’envoi est une intervention. Le niveau de divulgation est une intervention. Le fait qu’un message soit push ou pull est une intervention. Cette intuition rejoint ce que de nombreux cliniciens expérimentés en biofeedback découvrent dans la pratique : un même signal peut apaiser, troubler, motiver, culpabiliser ou déréguler selon la manière dont il est introduit et accompagné.
L’article a toutefois de vraies limites. Il s’agit d’un texte conceptuel bref, non d’une étude empirique complète. Il ne teste pas si la divulgation adaptative réduit l’anxiété, si un cadrage réflexif améliore l’adhésion, ni si différents profils cliniques nécessitent des réglages distincts de garde-fous. Il ne traite pas non plus toute la complexité du tri clinique, du remboursement, de la charge d’implantation, ou du comportement de ces systèmes chez des populations avec TOC, trouble panique, anxiété de santé, autisme, trauma ou dépression sévère — des contextes où le langage du feedback peut avoir des effets très différents. Le cadre est donc solide, mais il reste un cadre.
Malgré ces limites, l’article formule un point important : les systèmes fusionnant capteurs et IA devraient être conçus non seulement pour détecter des motifs, mais pour préserver l’autonomie tout en gérant l’incertitude. C’est un objectif profondément compatible avec une bonne pratique du biofeedback et du neurofeedback.
La perspective de Brendan
Cet article tombe exactement sur la ligne de fracture de la direction que prend notre domaine. Quand les wearables rencontrent l’IA, le biofeedback ne reste plus confiné à la clinique, à la salle d’entrainement ou à la séance soigneusement supervisée. Des signaux qui vivaient autrefois dans des logiciels cliniques sont maintenant collectés en continu par des bagues, des montres, des sangles thoraciques, des headbands et des téléphones, puis acheminés vers des systèmes capables de faire quelque chose de très puissant : raconter le corps à la personne en langage courant.
C’est enthousiasmant. C’est aussi précisément l’endroit où, comme domaine, nous devons gagner en maturité.
Parce que cette intégration n’arrive pas un jour, plus tard. Elle est déjà là. Les plateformes grand public traduisent de plus en plus la fréquence cardiaque, la VFC, les stades de sommeil, la température cutanée, la charge d’activité et parfois des proxys de type ÉEG en interprétations, recommandations et résumés pseudo-cliniques. Ajoutez à cela une IA conversationnelle, et soudain la personne ne regarde plus simplement un graphique. On lui raconte une histoire à propos d’elle-même : qu’elle est stressée, sous-récupérée, dérégulée, résiliente, inflammée, cognitivement surchargée, peut-être même au bord du burnout. Et dès qu’un système raconte cette histoire avec suffisamment de fluidité, beaucoup d’utilisateurs la traiteront comme une vérité.
C’est exactement pour cela que je pense que les professionnels du biofeedback, les cliniciens en neurofeedback, les chercheurs et les développeurs doivent aider à orienter cette intégration au lieu de rester sur le bord du terrain à s’en plaindre après coup. Si l’avenir est sensor-fused et médié par l’IA pour soutenir l’autorégulation, alors notre responsabilité est d’y apporter la sagesse durement acquise du domaine : respecter le signal, respecter le contexte, respecter l’incertitude, et ne jamais confondre une métrique avec une personne.
Il y a ici un vieux principe qui s’applique parfaitement : garbage in, garbage out. En biofeedback et en neurofeedback, nous avons toujours su que l’élégance de l’interface compte très peu si le signal sous-jacent est mauvais. Si le capteur est bruité, si le contact des électrodes est instable, si l’échantillonnage est inadéquat, si les artéfacts de mouvement sont pris pour de la physiologie, si la chaîne de transformation est opaque, ou si la métrique n’entretient qu’un lien faible avec le construit qu’elle prétend décrire, alors le langage produit en aval ne deviendra pas plus valide simplement parce qu’il paraît raffiné. Il deviendra seulement plus persuasif.
Et une absurdité persuasive est plus dangereuse qu’une absurdité évidente.
Ce point vaut tout autant pour le neurofeedback en ÉEG que pour les wearables. Un système conversationnel superposé à l’ÉEG ne devrait pas parler comme si un simple franchissement de seuil à Cz, Fz, C3, C4, Pz, ou à n’importe quel autre site d’entrainement, donnait accès directement à l’état mental d’une personne dans toute sa richesse. Des variations du SMR, de l’alpha, des ratios thêta/bêta, de l’inhibition du bêta, des transitions alpha-thêta, des indices de cohérence ou d’asymétrie peuvent être cliniquement utiles dans un cadre bien délimité. Mais ce ne sont pas des vérités auto-interprétatives. Ce sont des caractéristiques de signal inscrites dans un modèle d’évaluation, un modèle d’entrainement et un contexte relationnel. Le travail du clinicien ne consiste pas seulement à renforcer des fréquences. Il consiste à façonner l’apprentissage sans exagérer ce que le signal signifie.
Donc, lorsque je pense à l’entrée de l’IA dans notre espace, je ne veux pas de systèmes qui sonnent plus certains qu’un clinicien prudent ne le serait lui-même. Je veux des systèmes qui héritent de la maturité des bonnes pratiques. Cela suppose plusieurs choses.
D’abord, la qualité du signal doit passer avant le récit. Si une plateforme n’est pas capable d’expliquer à l’utilisateur quel capteur est utilisé, où il est placé, ce qui est réellement mesuré, comment les artéfacts sont gérés, quelle transformation est appliquée et comment un indice synthétique est dérivé, alors l’interprétation devrait rester proportionnellement modeste. Le récit de santé en boîte noire n’est pas de la maturité. C’est du marketing.
Ensuite, les applications de niveau clinique doivent reposer sur une logique physiologique transparente. Si l’on dit à quelqu’un que son niveau d’activation est élevé, je veux savoir si cette affirmation repose sur la fréquence cardiaque seule, sur des caractéristiques de VFC, sur l’activité électrodermale, sur la respiration, sur le mouvement, sur les effets de l’heure de la journée, ou sur un modèle de fusion validé dans une population ressemblant à l’utilisateur. Si l’on interprète de l’ÉEG, je veux de la clarté sur le montage, la référence, le rejet des artéfacts, les définitions de bandes, les critères de récompense et d’inhibition, la dépendance à l’état, et sur le fait que la cible soit un changement de trait, une régulation d’état, un apprentissage de compétence, ou un mélange de tout cela. En d’autres termes, le système devrait montrer son raisonnement — au moins suffisamment pour que les cliniciens et les utilisateurs avertis comprennent la chaîne allant du signal brut jusqu’au conseil.
Troisièmement, nous devons préserver l’intuition centrale du biofeedback : l’objectif est l’autorégulation, pas la dépendance algorithmique. Un bon biofeedback rend la personne plus attentive, plus flexible et moins dépendante des signaux externes avec le temps. Une IA mal conçue pourrait pousser exactement dans la direction opposée. Elle pourrait entrainer les gens à externaliser leur intéroception vers des dashboards et à faire davantage confiance à la description machinique de leur corps qu’à leur propre vécu. Ce serait un résultat franchement paradoxal pour un domaine censé promouvoir l’agentivité.
C’est particulièrement vrai chez les clients anxieux, obsessionnels, perfectionnistes ou très orientés monitoring. Certains tireront profit des tendances et des prompts réflexifs doux. D’autres deviendront de plus en plus préoccupés par des scores de récupération, des drapeaux de readiness ou de petites déviations physiologiques peut-être banales ou ambiguës. Dans ces populations, la vraie question éthique n’est pas « tout ce que nous pouvons mesurer », mais « quelle présentation de cette mesure soutient la régulation plutôt que la rumination ? » Parfois, l’interface la plus intelligente cliniquement n’est pas la plus détaillée. C’est celle qui sait quand ne pas surinterpréter.
Je pense aussi que notre domaine a quelque chose d’important à apporter à la conception de l’IA sur le plan philosophique. Le biofeedback et le neurofeedback ont toujours vécu à l’intersection du signal, de l’apprentissage et de la relation. Le feedback lui-même n’est qu’une partie de l’intervention. Le façonnement, l’entrainement dépendant de l’état, la contextualisation, l’interprétation collaborative et le transfert dans la vie quotidienne sont tout aussi importants. Ces principes devraient informer la prochaine génération de systèmes d’IA en santé. Un système mature ne dirait pas simplement : « Vos biométriques indiquent un stress. » Il pourrait plutôt dire : « Il semble y avoir des signes d’activation accrue. Voulez-vous vérifier si cela correspond à de l’exercice, à une pression temporelle, à la caféine, à de la douleur, à de l’excitation ou à de l’inquiétude ? » Même données, psychologie bien plus saine.
Donc oui, je pense que cet article peut tout à fait être présenté comme un texte sur le moment où les wearables rencontrent l’IA. Mais j’ajouterais ceci : la vraie opportunité n’est pas seulement l’intégration. C’est l’intégration responsable. Il nous faut de meilleurs capteurs, de meilleures validations, plus de transparence, un meilleur langage et davantage d’humilité. Il nous faut des systèmes capables de reconnaître l’incertitude sans devenir inutiles, et d’offrir une guidance sans devenir autoritaires.
Si nous faisons cela correctement, l’IA pourrait réellement étendre la portée du biofeedback — en apportant une conscience physiologique moment par moment, un coaching personnalisé, et même des passerelles vers des soins informés par le neurofeedback en ÉEG à des personnes qui n’y auraient peut-être jamais accès autrement. Mais cela n’arrivera que si nous résistons à la tentation de transformer une physiologie bruitée en récit surconfiant. L’avenir de notre domaine ne devrait pas reposer sur des interprétations magiques de signaux médiocres. Il devrait reposer sur une mesure soignée, des transformations transparentes, un cadrage cliniquement rigoureux et un engagement constant à aider les personnes à mieux réguler leurs propres corps et esprits.
Conclusion
L’article de Lee et Calvo est bref, mais il cible avec précision un problème émergent majeur. À mesure que les technologies de santé deviennent capables de fusionner wearables, journaux comportementaux et modèles de langage, la question éthique n’est plus seulement de savoir si le modèle peut détecter un motif. Elle est de savoir s’il peut le traduire d’une manière qui soutient la réflexion sans surjouer la certitude, provoquer de l’anxiété ou éroder l’agentivité.
C’est précisément là que cet article me semble particulièrement pertinent pour le biofeedback et le neurofeedback. Notre domaine a toujours vécu à la frontière entre le signal et le sens. Nous travaillons avec une physiologie bien réelle, mais nous savons aussi que cette physiologie doit être interprétée avec prudence, en collaboration et dans son contexte. Lee et Calvo transposent ce même principe au design des agents conversationnels fusionnant capteurs et IA.
Le message le plus constructif n’est pas anti-technologie. Il est pro-humilité. Les meilleurs agents de santé ne seront probablement pas ceux qui paraissent les plus sûrs d’eux. Ce seront ceux qui communiquent bien l’incertitude, invitent à la correction, adaptent leur niveau de divulgation à l’état de préparation de l’utilisateur et préservent la personne dans son rôle de participante active à sa propre régulation. C’est une direction prometteuse — et une direction qui mérite clairement notre attention.
Références
Lee, H., & Calvo, R. A. (2026). Front-end ethics for sensor-fused health conversational agents: An ethical design space for biometrics. In Proceedings of the CHI 2026 Workshop: Ethics at the Front-End: Responsible User-Facing Design for AI Systems.
