Agency First
Un manifiesto por la autonomía humana en la era de la inteligencia contextual
La tecnología siempre ha prometido hacer la vida más fácil.
Automatizar el esfuerzo.
Reducir la fricción.
Optimizar las decisiones.
A medida que la inteligencia artificial se vuelve cada vez más capaz, surge una nueva posibilidad:
Sistemas que pueden comprender el contexto, anticipar necesidades y actuar en nombre de las personas.
Esta capacidad plantea una pregunta importante.
Si un sistema puede tomar decisiones por nosotros, ¿debería hacerlo?
En Kaevor, creemos que la respuesta exige reflexión cuidadosa.
El propósito de la inteligencia no es sustituir la agencia humana.
El propósito de la inteligencia es fortalecerla.
Este manifiesto define esa convicción.
La capacidad humana incluye la elección humana
La atención importa.
La energía importa.
El enfoque importa.
La recuperación importa.
La autonomía también.
Un sistema que protege la atención mientras elimina el control personal no ha mejorado la experiencia humana.
Simplemente ha cambiado una forma de carga por otra.
El bienestar humano no depende únicamente de los resultados.
Depende de la capacidad de tomar decisiones con sentido.
La agencia no es una funcionalidad.
La agencia es parte de la capacidad humana en sí misma.
Asistencia, no control
Kaevor existe para asistir.
No para imponer.
No para obligar.
No para controlar.
La inteligencia contextual debe ayudar a las personas a tomar mejores decisiones.
No reemplazar su capacidad de decidir.
El papel del sistema es generar conciencia, reducir la fricción y mejorar el momento de la acción.
La decisión final permanece en manos humanas.
Recomendación antes que automatización
Siempre que sea posible, la orientación debe preceder a la automatización.
La comprensión debe preceder a la acción.
La conciencia debe preceder a la intervención.
La automatización puede reducir el esfuerzo en ocasiones.
La sobreautomatización puede reducir la responsabilidad.
El objetivo no es maximizar el control del sistema.
El objetivo es maximizar la efectividad humana.
El consentimiento es continuo
El consentimiento no es una casilla que se marca.
El consentimiento es una relación en curso.
Las personas deben entender:
- qué señales se utilizan
- por qué se utilizan
- qué acciones pueden producirse
- qué controles siguen disponibles
La confianza crece cuando la participación permanece intencional.
La autonomía crece cuando la participación puede revertirse.
La transparencia genera confianza
Las personas no deberían verse obligadas a adivinar por qué actuó un sistema.
Cada recomendación.
Cada intervención.
Cada decisión de orquestación.
Debe ser comprensible.
No porque las explicaciones sean legalmente obligatorias.
Sino porque comprender refuerza la agencia.
Las personas confían más fácilmente en los sistemas que permanecen inteligibles.
Los humanos definen el propósito
La inteligencia artificial puede optimizar.
No debe definir el propósito.
Las personas definen las prioridades.
Las personas definen los valores.
Las personas definen los compromisos.
Las personas determinan qué significa el éxito.
Kaevor puede ayudar a las personas a avanzar hacia sus objetivos.
Nunca debe decidir esos objetivos por ellas.