Asistentes, agentes y permisos

Identifica cómo actúa el sistema

Un asistente puede explicar código, proponer un plan o sugerir una implementación. Un agente también puede usar herramientas y actuar sobre el entorno. Los nombres de los productos no establecen un límite fiable. Algunas interfaces de chat pueden ejecutar comandos. Algunas herramientas de programación solo sugieren texto.

Inspecciona las herramientas disponibles. Una descripción útil indica qué puede leer, cambiar, ejecutar y publicar el sistema. También identifica qué credenciales y qué entorno usa cada acción.

Anthropic distingue los flujos de trabajo predefinidos de los agentes que eligen su propia secuencia de uso de herramientas. Esta distinción ayuda a explicar cómo avanza el trabajo. No determina si una acción concreta es segura. Ambos diseños necesitan un límite explícito de permisos.

Separa el objetivo de los permisos

Considera una petición ficticia: «Corrige la exportación de facturas». Un agente puede inspeccionar el repositorio, reproducir el defecto, editar una rama y ejecutar comprobaciones. También podría encontrar en su entorno credenciales de la base de datos de producción.

El objetivo no autoriza todas las acciones disponibles. Leer una tabla de producción, cambiar registros de facturas y desplegar una nueva versión tienen consecuencias distintas. Una instrucción general como «completa la tarea» no explica cuáles permite la organización.

Define el límite antes de empezar. En este ejemplo, el agente puede usar datos inventados y una base de datos local. Puede crear una pull request. No puede acceder a registros de producción ni desplegar el cambio. Un proceso de publicación independiente se ocupa de esas acciones.

Aplica controles técnicos a los permisos

Las instrucciones ayudan al agente a entender la tarea. Las credenciales y los controles de acceso determinan qué puede hacer realmente. Usa ambos.

Una tarea de solo lectura no debe recibir credenciales de escritura por comodidad. Un entorno de pruebas no debe heredar en silencio acceso a producción. Revisa las conexiones entre herramientas, identidades y recursos. Un comando aparentemente inocuo puede tener un gran efecto si usa una identidad con muchos privilegios.

Define cuándo debe detenerse el trabajo

Un agente necesita una condición de parada cuando la siguiente acción excede sus permisos. También la necesita cuando las pruebas disponibles son insuficientes.

En el ejemplo de las facturas, debe detenerse si el defecto requiere corregir datos de producción. También debe detenerse si el comportamiento solicitado contradice la regla contable documentada. Debe comunicar el conflicto, aportar las pruebas pertinentes e indicar qué decisión necesita de una persona responsable.

Un límite de tiempo o coste resulta útil para los intentos repetidos. No sustituye a un límite de permisos. Diez intentos autorizados y un despliegue no autorizado son problemas distintos.

Evalúa el resultado y el registro de acciones

Al terminar, inspecciona algo más que la respuesta final. Revisa los archivos modificados, las comprobaciones ejecutadas y la incertidumbre restante. Comprueba si las acciones se mantuvieron dentro del alcance acordado.

Un agente capaz puede reducir el trabajo manual. La organización sigue teniendo que definir las acciones permitidas, verificar los resultados importantes y asumir la decisión de publicación. Cuanta más autonomía se concede, más importantes son estas responsabilidades.