AWS lanza un entorno de pruebas de código abierto para agentes de IA
AWS ha lanzado Strands Box, una nueva herramienta de código abierto diseñada para proporcionar un entorno de aislamiento y control para agentes de IA autónomos. La iniciativa busca mitigar riesgos operativos y evitar que los agentes realicen acciones no deseadas sin supervisión humana.
AWS ha lanzado Strands Box, una nueva herramienta de código abierto diseñada para proporcionar un entorno de aislamiento y control para agentes de IA autónomos. La iniciativa busca mitigar riesgos operativos y evitar que los agentes realicen acciones no deseadas sin supervisión humana.
Control de agentes autónomos y el problema del "modo YOLO"
Strands Box es la última herramienta de control de IA de código abierto del gigante de la nube; al igual que sus predecesores, promete un control más estricto sobre los agentes autónomos. AWS ha ofrecido múltiples estrategias de código abierto para responsabilizar a los agentes de IA y ahora está añadiendo un entorno de pruebas (sandbox) completo a este conjunto de herramientas.
Bautizada como Strands Box, la nueva solución utiliza aislamiento a nivel de sistema operativo y otras herramientas recientes de control de IA de AWS para, en teoría, mantener un mayor control sobre el comportamiento de los agentes de IA autónomos. El equipo de AWS explicó en su anuncio: «Los agentes ejecutan cada vez más en "modo YOLO", aprobando cada acción sin revisión humana. La solución habitual a este problema es un entorno de pruebas... pero el acceso es solo una parte de lo que queremos controlar».
Limitaciones de los contenedores y la importancia del contexto
El problema con los contenedores y las microVM que se suelen utilizar para aislar a los agentes de IA, según explica AWS, es que su fuerte aislamiento no viene acompañado de la aplicación de reglas contextuales. En otras palabras, cuando un agente contenedorizado o virtualizado toma el control de una herramienta, puede no haber nada que le impida hacer lo que quiera, como eliminar una base de datos de producción o ganar acceso a Internet y realizar acciones impredecibles.
Es aquí donde entran en juego las otras herramientas de código abierto dentro de Strands Box: utiliza el Dogwood Local Engine para proporcionar al motor de políticas en Box conciencia temporal, de modo que las llamadas a herramientas puedan verificarse no solo en función de lo que el agente quiere hacer, sino de lo que ya ha hecho.\n Como ejemplo, AWS señaló que se podría permitir que un agente publique actualizaciones de estado en Slack, pero no más de tres veces cada diez minutos para evitar que sature a sus operadores humanos. Un portavoz de AWS explicó además que Box podría utilizarse para controlar cuándo un agente puede realizar un "push" en Git, o podría utilizarse para poner un límite a las llamadas a la API que podrían acabar costando una fortuna.
Integración de intérpretes y políticas precisas
Además, Strands Box incluye Strands Shell y Monty para Python, que exponen las operaciones de shell y Python al mismo motor de políticas Dogwood e historial de eventos, haciendo que las acciones de los agentes sean más claras para los desarrolladores y permitiendo que las políticas tengan en cuenta lo que un agente está intentando hacer.\n Marc Brooker, vicepresidente e ingeniero distinguido de AWS y una de las personas detrás de Dogwood y Strands Box, explicó a The Register que los intérpretes son una parte clave para hacer que el comportamiento de los agentes sea más inteligible, lo que permite a los desarrolladores escribir políticas más precisas para evitar que los agentes realicen acciones incorrectas.
"Los intérpretes de Shell y Python de Box exponen operaciones como las eliminaciones de archivos, mientras que sus puertas de enlace exponen las solicitudes a la API y las llamadas a herramientas", nos dijo Brooker en un correo electrónico. "Las políticas pueden entonces tener en cuenta la acción que se intenta y la actividad anterior".
Seguridad y responsabilidad del desarrollador
Box, añadió Brooker, aplica esas reglas sin confiar ni depender de que los agentes sigan realmente las instrucciones, lo que idealmente debería evitar que pasen por encima de los deseos de sus operadores. En cuanto al motivo detrás del impulso de AWS para desarrollar herramientas de código abierto como Dogwood, el Dogwood Local Engine y Strands Box, Brooker dijo que AWS quiere encontrar el equilibrio adecuado entre los límites y las políticas que evitan desastres de IA por agentes del tipo que informamos regularmente.
"Box aplica las políticas que los desarrolladores configuran de forma determinista, y el agente no puede eludir estas reglas", explicó Brooker, aunque añadió que, incluso con permisos correctamente configurados, una acción de un agente aún puede producir un resultado no deseado. "Los desarrolladores siguen siendo responsables de decidir qué acceso conceder y dónde es necesaria la revisión humana", añadió Brooker; en otras palabras, no dejen que su modo YOLO se vuelva demasiado extremo. Todavía es necesaria una supervisión humana.
"La seguridad de los agentes es un área en la que la industria todavía tiene mucho trabajo por hacer, y estamos comprometidos a seguir invirtiendo en ella, tanto dentro de la nube de AWS como en el código abierto", afirmó Brooker.
Strands Box es compatible con cualquier agente o marco que se desee confinar dentro de sus muros y está disponible en GitHub ahora, aunque por el momento solo para macOS. El soporte para Linux está en desarrollo y AWS nos informó de que un cliente para Windows está "en nuestro radar", pero ninguno de los dos tiene una fecha de lanzamiento prevista. También está previsto el despliegue en plataformas como AgentCore, ECS y Kubernetes.\n La implementación de herramientas de control como Strands Box refleja la creciente necesidad de establecer barreras de seguridad robustas a medida que las organizaciones integran agentes autónomos en sus flujos de trabajo críticos.
Contenido traducido al español con fines informativos, cualquier cambio en la publicación original no será reflejada en esta entrada, favor referirse a la fuente para obtener el acceso a cualquier actualización del contenido. Para la traducción se utilizó un LLM, al ser una traducción automática puede contener errores gramaticales o de otro tipo, me pueden enviar un mensaje.
Comentarios
Publicar un comentario