AI/RAG seguridad

Comience desde el dominio verificado

VICE comienza con el dominio verificado y descubre rutas del mismo origen que se comportan como AI aplicaciones APIs. El descubrimiento está limitado por el protocolo, DNS, IP, redireccionamientos, origen, solicitud y controles de tamaño de respuesta.

El módulo construye su plan de investigación a partir del comportamiento público observado. No es necesario conocer todas las rutas API antes de que comience la auditoría.

Cubrir cuatro límites de seguridad

• API: acceso anónimo, comportamiento de autenticación no válido, CORS y aplicación de límite de velocidad.
• LLM: inyección de prompts, exposición de instrucciones del sistema y señales de salida sensibles.
• RAG: aislamiento de recuperación, exposición entre inquilinos, contexto envenenado y comportamiento de documentos eliminados.
• Herramientas: obtención de URL inseguras, acceso a destinos internos y acciones ejecutadas sin autorización suficiente.

Lanzar la auditoría enfocada

Abra AI/RAG en un espacio de trabajo de dominio verificado e inicie el análisis. La ejecución aparece en la lista de auditoría central con los mismos estados en cola, en ejecución, completada y fallida que otras auditorías administradas.

Los problemas detectados se agregan a la vista de problemas detectados del dominio. Utilice el filtro de auditoría para aislar una ejecución o comparar los resultados después de una corrección.

Lea la evidencia antes de la gravedad.

Un resultado procesable describe el comportamiento observado, la confianza, los marcadores de evidencia y una recomendación concreta. Un estado HTTP o un nombre de ruta por sí solo no establece una vulnerabilidad.

Un error de descubrimiento o rastreo es una limitación de la cobertura operativa. No debe reportarse como una vulnerabilidad crítica.

Priorizar las fallas en los límites de confianza

• Bloquee el acceso anónimo o entre usuarios a operaciones privadas AI y a datos recuperados.
• Separa las instrucciones del sistema y el contexto de confianza del contenido de usuario no fiable.
• Autorice cada acción de herramienta conectada en el servidor con el usuario actual y el alcance del recurso.
• Rechace destinos privados, de bucle invertido, de enlace local y de metadatos antes de que cualquier herramienta busque.
• Aplique límites de tarifas por identidad y operación, luego verifique su comportamiento bajo repetición acotada.

Reparar y volver a probar la misma superficie.

Corrija la autorización, recuperación, aviso o límite de herramienta que produjo la evidencia. Vuelva a ejecutar AI/RAG desde el mismo espacio de trabajo del dominio y compare la cobertura equivalente antes de marcar el problema como resuelto.

Si el descubrimiento cambia después de una implementación, revise las rutas y la cobertura recientemente observadas antes de comparar los cambios en la puntuación de seguridad.