Este proyecto es una herramienta de investigación defensiva / AI-safety. Su objetivo es estudiar y contener el comportamiento emergente de agentes autónomos, no facilitar ataques.
- Un laboratorio sellado (sin ruta a internet) para observar coordinación emergente de enjambres de agentes LLM contra objetivos vulnerables que el propio investigador hospeda.
- Un marco de contención (5 capas) con instrumentación para detectar pérdida de aislamiento.
- ❌ No contiene exploits armados contra software de terceros.
- ❌ No incluye capacidad de targeting de sistemas ajenos, escaneo de internet ni C2 hacia infra real.
- ❌ No incluye técnicas de evasión de detección para uso malicioso.
- ❌ No incluye mecanismos de auto-propagación fuera del lab.
Los "targets" incluidos son aplicaciones deliberadamente vulnerables pensadas para correr en la red aislada del lab. Los exploits que un agente pueda descubrir aplican a esos objetivos de juguete.
- Red sin internet —
docker-compose.ymlusainternal: true. Verifícalo conscripts/verify-isolation.sh. - HTTP anclado al target —
harness/tools.pyrechaza cualquier host que no sea el objetivo del lab y lo registra como alertaegress_fuera_de_target. - Shell gated — la herramienta shell del agente está deshabilitada salvo
ACL_IN_SANDBOX=1(definido solo dentro del contenedor), para que clonar/ejecutar no toque tu host. - Monitoreo siempre activo —
harness/observer.pyregistra y alerta sobre egress, escalada, acceso a metadata de nube y manipulación de logs.
Apuntar cualquier parte de este software a sistemas que no te pertenecen o para los que no tienes autorización escrita es contrario a su propósito y muy probablemente ilegal (p.ej., en Colombia, Ley 1273 de 2009; leyes equivalentes en otras jurisdicciones). La responsabilidad es de quien lo usa.
Si encuentras una forma en que este proyecto podría facilitar un mal uso (p.ej. una herramienta que se salga del sellado), abre un issue describiendo el problema de contención — sin publicar un exploit funcional contra terceros. Los PRs que refuercen la contención son especialmente bienvenidos.