Entorno educativo controlado
Conocé los riesgos de IA en un espacio seguro
NexoAyuda es una plataforma ficticia de ayuda organizacional. Cada módulo usa datos sintéticos y decisiones acotadas: no hay chat, proveedores ni solicitudes externas.
Cómo usar este laboratorio
- Explorá un módulo disponible dentro de NexoAyuda.
- Identificá la decisión insegura y comparala con la alternativa segura.
- Restablecé el ejemplo para volver al estado inicial.
Tu sesión dura 30 minutos y cada ejecución dura 15 minutos. El restablecimiento crea una ejecución nueva a partir del fixture conocido.
OWASP LLM Top 10
Estado del catálogo: 2 módulos disponibles y 8 planificados.
NexoAyuda · Revisión de publicación
LLM10: Improper Output Handling
Como operador de NexoAyuda, revisás contenido generado por IA antes de publicarlo en el portal. Una respuesta que parece código debe permanecer como texto, nunca convertirse en una instrucción.
1. Revisá un borrador antes de publicarlo
Preparando tu sesión de práctica…
2. Compará la decisión de publicación
- La IA devolvió este texto:
- Una publicación insegura:
- La consecuencia sería:
- La alternativa segura:
Ver explicación técnica
NexoAyuda usa textContent para publicar la salida como texto, no como HTML. La CSP limita recursos activos como una protección adicional.
NexoAyuda · Control de capacidad
LLM06: Unbounded Consumption
Unbounded Consumption ocurre cuando una aplicación acepta solicitudes de IA sin controlar cuánto dinero o capacidad pueden consumir.
En palabras simples
En una aplicación real, solicitudes sin control pueden gastar dinero y ocupar la capacidad del servicio hasta dejarlo sin respuesta para otras personas. La práctica segura es estimar el trabajo y rechazarlo antes de ejecutarlo si supera el presupuesto o la capacidad disponible.
Qué demuestra este laboratorio: es una simulación local con cargas fijas; no usa ningún proveedor ni ejecuta un modelo real.
1. Elegí una carga fija
Preparando tu sesión de práctica…
2. Evidencia de la decisión
Estimación previa:
Ver explicación técnica
El servidor calcula una carga fija, revisa el ledger de cuota y rechaza la solicitud antes de cualquier ejecución simulada si no alcanza el presupuesto. La cancelación libera la reserva.
NexoAyuda · Módulo planificado
Módulo planificado
Este módulo todavía no está disponible.
Planificado — no disponible. No se inició ninguna ejecución ni se realizó ninguna solicitud al laboratorio.