Inyección de prompts
Evaluamos si instrucciones en documentos, webs o mensajes pueden desviar al asistente, revelar información o provocar acciones no autorizadas.
SEGURIDAD DE APLICACIONES CON IAComprueba hasta dónde
Comprueba hasta dónde
llega tu IA.
Tu asistente puede leer documentos, llamar a APIs y actuar por los usuarios. Comprobamos si esas capacidades respetan los permisos y las aprobaciones de los que depende tu producto.
DÓNDE ESTÁ EL RIESGOEl modelo es una parte.
El modelo es una parte.
Los permisos están en todas.
Seguimos datos y acciones a través de la aplicación, la recuperación de información y las herramientas conectadas.
Recuperación y aislamiento entre empresas
¿Recibe cada usuario solo los documentos que puede leer? Comparamos usuarios, empresas, contenido recuperado y citas, incluidos los cambios de permisos.
Agentes, herramientas y MCP
¿Puede un agente usar herramientas con permisos excesivos, sustituir identificadores o saltarse aprobaciones? Si MCP entra en el alcance, revisamos herramientas expuestas, autenticación y permisos del sistema de destino.
Salidas y uso posterior
¿Qué ocurre cuando el contenido generado se convierte en HTML, una consulta o la entrada de otro servicio? Comprobamos los controles de la aplicación en el punto de uso.
Memoria y contexto compartido
¿Puede el contenido subido por un usuario alterar las respuestas de otro o revelar información guardada? Acordamos qué memoria y procesos de conocimiento se deben evaluar.
Controles de la aplicación
Evaluamos la autenticación, autorización por objeto, revocación de sesiones y archivos de la API del chat dentro del alcance acordado.
Empezamos por el modelo de permisos
Documentamos los permisos de cada usuario, el contenido de confianza y las aprobaciones necesarias. Comparamos las decisiones de acceso esperadas con los datos devueltos y las acciones ejecutadas.
Cuándo un resultado se convierte en hallazgo
Las evidencias recogen entrada, rol, configuración y resultado. Los registros de la aplicación confirman las acciones y las repeticiones permiten registrar comportamientos inconsistentes.
Qué necesitamos de tu equipo
Arquitectura y proveedor, funciones e integraciones incluidas, cuentas con distintos roles y empresas y registros ficticios con permisos claros. Para acciones mediante herramientas, acordamos objetos seguros, límites de gasto, condiciones de parada y registros.
Qué recibes
Registro de cobertura, hallazgos validados con pasos de reproducción, cambios prácticos en recuperación o permisos de herramientas y criterios de verificación. Indicamos vías no evaluadas, accesos pendientes y comportamientos dependientes del modelo. Acordamos el tratamiento de prompts, documentos y registros, incluido cualquier servicio de IA externo.
Cobertura de la evaluación
El informe identifica funciones, configuración del modelo e integraciones evaluadas. Los cambios de prompts, modelos, fuentes de conocimiento o permisos pueden requerir nuevas comprobaciones. El entrenamiento y la certificación normativa necesitan otro alcance.
REFERENCIAS TÉCNICASVincula los riesgos
Vincula los riesgos
a tu arquitectura.
Guías OWASP sobre permisos de aplicaciones, comportamiento de agentes e inyección de prompts.
Hablemos del alcance¿Qué necesitas
¿Qué necesitas
evaluar?
Cuéntanos qué aplicación o infraestructura necesitas evaluar y para cuándo. Definiremos contigo el alcance y prepararemos una propuesta.
ping [at] azacus.io ↗¿Prefieres llamar? 0131 287 7869
No incluyas credenciales ni datos sensibles de las pruebas aquí.