Saltar al contenido
KindredMind

KindredMind · Español

¿Qué es la inteligencia artificial centrada en las personas?

Fuente original: Leer la versión original (página en inglés)

Fundamentos de la demencia y apoyo en la atención centrada en la persona

Por el equipo editorial de KindredMind

La inteligencia artificial centrada en las personas es un enfoque para diseñar y utilizar la inteligencia artificial en torno a las necesidades, derechos, capacidades y valores humanos, con una supervisión humana significativa. Se pregunta quién se beneficia, quién asume los riesgos y quién puede cuestionar o detener el uso de un sistema. Una voz amable o una interfaz sencilla por sí solas no hacen que la IA sea centrada en las personas. [1][2]

Los principios necesitan evidencia práctica

Deslice dentro de la tabla para acceder a todas las columnas. Los usuarios de teclado pueden enfocar el área de la tabla y usar las teclas de flecha.

Los principios necesitan evidencia práctica
PrincipioUna pregunta prácticaUna respuesta de diseño útil
Dignidad y autonomía¿Puede alguien declinar sin presión o humillación?Explicaciones respetuosas y una opción viable que no sea IA
Consentimiento informado¿La persona entiende el uso propuesto y el manejo relevante de datos?Explicaciones accesibles y específicas, y oportunidades continuas para reconsiderar
Transparencia¿Está claro cuándo interviene la IA y qué es lo que no puede hacer?Descripciones honestas en lugar de una identidad o experiencia humana implícita
Accesibilidad¿Pueden participar personas con diferentes capacidades sensoriales, lingüísticas, motoras o cognitivas?Pruebas con los usuarios previstos y alternativas cuando un formato no se ajusta
Privacidad¿Qué información se recopila, comparte y conserva?Límites en el propósito, controles apropiados y explicaciones que las personas puedan usar
Seguridad y límites¿Qué puede salir mal y quién responde?Evaluación, límites claros y un plan de respuesta humana
Supervisión y rendición de cuentas¿Quién tiene la autoridad para revisar, intervenir y responder a las quejas?Responsabilidad nombrada, monitoreo y un proceso de desafío utilizable
Relaciones humanas¿El diseño apoya el contacto con las personas o lo desplaza?Uso complementario con la participación humana acordada

Estas son preguntas de evaluación, no una afirmación de que cada producto proporcione estos controles. El Marco de Gestión de Riesgos de IA del NIST organiza el trabajo de riesgo en torno a la gobernanza, el mapeo, la medición y la gestión. Los principios de la OCDE enfatizan los derechos humanos, la transparencia, la robustez y la rendición de cuentas. Ninguno es una certificación general de que un servicio en particular sea seguro. [2][3]

Humano en el bucle (Human-in-the-loop) describe la participación humana en alguna parte de un proceso. Una persona que hace clic en un botón de aprobación no constituye una supervisión significativa si carece de información, tiempo, autoridad o una alternativa realista.

IA responsable es un área más amplia de gobernanza y práctica que aborda cómo se desarrolla y utiliza la IA de manera responsable. Seguridad de la IA se refiere a la prevención y gestión de daños; la operación segura requiere más que una interacción atractiva. Estas áreas se superponen con la inteligencia artificial centrada en las personas, pero no son idénticas.

Atención centrada en la persona es una filosofía de cuidado construida en torno a la vida, las preferencias, las relaciones y las necesidades de cada individuo. No es una arquitectura de IA ni un algoritmo de personalización. Atención centrada en la persona con demencia puede guiar una decisión sobre tecnología sin que ambos conceptos sean intercambiables.

Por qué el cambio cognitivo requiere un diseño especialmente cuidadoso

Las personas mayores no son un grupo de usuarios único. La audición, la visión, la alfabetización, el idioma, el contexto cultural, la experiencia digital y las preferencias varían. Un diagnóstico de demencia no establece que alguien no pueda tomar decisiones, quiera un dispositivo en particular o esté de acuerdo con el plan de un familiar.

Considere si una explicación es comprensible, cómo se verifica la disposición a lo largo del tiempo y qué sucede cuando la persona está angustiada o quiere detenerse. El permiso para una cuenta, una voz o una fotografía son preguntas distintas; una relación familiar no otorga automáticamente autoridad sobre cada decisión.

La guía de salud-IA de la OMS enfatiza la autonomía, el bienestar, la transparencia, la responsabilidad y la inclusión. No establece que una conversación con IA trate la demencia ni que sustituya la evaluación o el cuidado humano. [4]

Evalúe un uso real, no una etiqueta

Antes de adoptar un sistema, identifique su tarea prevista, sus límites conocidos y la persona responsable cuando falla. Pregunte qué pruebas de usuario respaldan las afirmaciones de accesibilidad y qué datos respaldan cualquier afirmación de resultados. Pregunte cómo afecta la exclusión (opt-out) al acceso al apoyo ordinario y si las quejas conducen a una revisión real.

El enfoque (en inglés) de KindredMind es un ejemplo de una filosofía de diseño declarada. Evalúe su información de privacidad (en inglés), las limitaciones y las preferencias de la persona en lugar de tratar esa filosofía como prueba de beneficio clínico o como una certificación independiente. La inteligencia artificial centrada en las personas debe complementar las relaciones humanas, no justificar su retirada.

Dónde encaja esto en la tecnología de los cuidados

AgeTech se refiere a la tecnología para las necesidades relacionadas con el envejecimiento; CareTech se refiere a las tareas de cuidado y las relaciones. La IA para personas mayores (en inglés) es un contexto de uso, mientras que la IA en la atención a la demencia necesita atención adicional a la comunicación, el consentimiento y los límites de las afirmaciones clínicas. Las categorías de tecnología no establecen que un sistema específico se ajuste a una persona en particular.