Aller au contenu
KindredMind

KindredMind · Français

Comprendre l’IA centrée sur l’humain et ses principes

Source : Consulter le texte original (en anglais)

Fondements de la démence et soutien centré sur la personne

Par L’équipe éditoriale de KindredMind

L’intelligence artificielle centrée sur l’humain est une approche de conception et d’utilisation de l’IA axée sur les besoins, les droits, les capacités et les valeurs humaines, avec une supervision humaine significative. Elle interroge qui en bénéficie, qui supporte les risques et qui peut contester ou mettre fin à l’utilisation d’un système. Une voix amicale ou une interface simple ne suffisent pas à rendre une IA centrée sur l’humain. [1][2]

Les principes nécessitent des preuves concrètes

Balayez le tableau pour accéder à chaque colonne. Les utilisateurs de clavier peuvent sélectionner la zone du tableau et utiliser les touches fléchées.

Les principes nécessitent des preuves concrètes
PrincipeUne question pratiqueUne réponse de conception utile
Dignité et autonomieQuelqu’un peut-il refuser sans pression ni humiliation ?Explications respectueuses et option viable sans IA
Consentement éclairéLa personne comprend-elle l’utilisation proposée et la gestion des données pertinente ?Explications accessibles et spécifiques, et opportunités continues de reconsidérer
TransparenceEst-il clair quand l’IA est impliquée et ce qu’elle ne peut pas faire ?Descriptions honnêtes plutôt qu’une identité ou une expertise humaine suggérée
AccessibilitéLes personnes ayant des capacités sensorielles, langagières, motrices ou cognitives différentes peuvent-elles participer ?Tests auprès des utilisateurs prévus et alternatives lorsqu’un format ne convient pas
Protection de la vie privéeQuelles informations sont collectées, partagées et conservées ?Limites d’utilisation, contrôles appropriés et explications utilisables par les personnes
Sécurité et limitesQu’est-ce qui peut mal tourner, et qui intervient ?Évaluation, frontières claires et plan d’intervention humaine
Supervision et responsabilitéQui a l’autorité pour examiner, intervenir et répondre aux plaintes ?Responsabilité nommée, suivi et processus de contestation utilisable
Relations humainesLa conception soutient-elle le contact avec les personnes ou le remplace-t-elle ?Utilisation complémentaire avec une implication humaine convenue

Il s’agit de questions d’évaluation, et non d’une affirmation selon laquelle chaque produit fournit ces contrôles. Le « AI Risk Management Framework » du NIST organise le travail sur les risques à travers la gouvernance, la cartographie, la mesure et la gestion. Les principes de l’OCDE mettent l’accent sur les droits humains, la transparence, la robustesse et la responsabilité. Ni l’un ni l’autre ne constitue une certification générale garantissant qu’un service particulier est sûr. [2][3]

Le concept d’« humain dans la boucle » (human-in-the-loop) décrit l'implication humaine dans une partie d'un processus. Une personne cliquant sur un bouton d'approbation ne constitue pas une supervision significative si elle manque d'informations, de temps, d'autorité ou d'une alternative réaliste.

L'IA responsable est un domaine plus large de gouvernance et de pratiques traitant de la manière dont l'IA est développée et utilisée de façon responsable. La sécurité de l'IA concerne la prévention et la gestion des risques; un fonctionnement sûr nécessite davantage qu'une interaction attrayante. Ces domaines chevauchent l'IA centrée sur l'humain sans pour autant être identiques.

Les soins centrés sur la personne constituent une philosophie de soins fondée sur la vie, les préférences, les relations et les besoins d'une personne. Il ne s'agit pas d'une architecture d'IA ou d'un algorithme de personnalisation. Les soins de la démence centrés sur la personne peuvent orienter une décision concernant la technologie sans pour autant rendre les deux concepts interchangeables.

Pourquoi le changement cognitif exige une conception particulièrement minutieuse

Les personnes aînées ne constituent pas un groupe d'utilisateurs unique. L'audition, la vision, le niveau de littératie, la langue, le contexte culturel, l'expérience numérique et les préférences varient. Un diagnostic de démence n'établit pas qu'une personne est incapable de prendre des décisions, souhaite utiliser un appareil particulier ou consent au plan d'un proche.

Déterminez si une explication est compréhensible, comment la volonté est vérifiée au fil du temps et ce qui se passe lorsque la personne est en détresse ou souhaite arrêter. L'autorisation pour un compte, une voix ou une photographie sont des questions distinctes; un lien de parenté ne confère pas automatiquement l'autorité sur chaque décision.

Les orientations de l'OMS sur l'IA en santé soulignent l'autonomie, le bien-être, la transparence, la responsabilité et l'inclusion. Elles n'établissent pas qu'une conversation avec une IA traite la démence ou remplace l'évaluation ou les soins humains. [4]

Évaluez une utilisation réelle, pas une étiquette

Avant d'adopter un système, identifiez sa tâche prévue, ses limites connues et la personne responsable en cas de défaillance. Demandez quels tests utilisateurs soutiennent les affirmations d'accessibilité et quelles données appuient toute allégation de résultats. Demandez comment le refus d'utiliser le système affecte l'accès au soutien habituel et si les plaintes mènent à une véritable révision.

Chez KindredMind, cette approche (en anglais) est un exemple de philosophie de conception déclarée. Évaluez ses réelles informations sur la protection de la vie privée (en anglais), ses limites et les préférences de la personne plutôt que de traiter cette philosophie comme une preuve d'avantage clinique ou une certification indépendante. L'IA centrée sur l'humain devrait compléter les relations humaines, non justifier leur retrait.

Où cela s'inscrit-il dans les technologies de soins

L'AgeTech concerne la technologie pour les besoins liés au vieillissement; la CareTech concerne les tâches de soins et les relations. L'IA pour les personnes aînées (en anglais) est un contexte d'utilisation, alors que l'IA dans les soins de la démence nécessite une attention supplémentaire à la communication, au consentement et aux limites des allégations cliniques. Les catégories technologiques n'établissent pas qu'un système spécifique convient à une personne en particulier.