AI/RAG sicurezza

Inizia dal dominio verificato

VICE inizia con il dominio verificato e scopre percorsi della stessa origine che si comportano come l'applicazione AI APIs. Il rilevamento è limitato dai controlli di protocollo, DNS, IP, reindirizzamenti, origine, richiesta e dimensione della risposta.

Il modulo costruisce il suo piano di indagine in base al comportamento pubblico osservato. Non è necessario conoscere ogni percorso API prima dell'inizio del controllo.

Coprire quattro confini di sicurezza

• API: accesso anonimo, comportamento di autenticazione non valido, CORS e applicazione del limite di velocità.
• LLM: prompt injection, esposizione delle istruzioni di sistema e segnali di output sensibili.
• RAG: isolamento del recupero, esposizione tra tenant, contesto avvelenato e comportamento dei documenti eliminati.
• Strumenti: recupero di URL non sicuri, accesso a destinazioni interne e azioni eseguite senza autorizzazione sufficiente.

Avviare l'audit mirato

Apri AI/RAG in un'area di lavoro del dominio verificato e avvia la scansione. L'esecuzione viene visualizzata nell'elenco di audit centrale con gli stessi stati In coda, In esecuzione, Completato e Non riuscito degli altri audit gestiti.

I problemi rilevati vengono aggiunti alla visualizzazione dei problemi rilevati nel dominio. Utilizzare il filtro di controllo per isolare un'esecuzione o confrontare i risultati dopo una correzione.

Leggere le prove prima della gravità

Un risultato utilizzabile descrive il comportamento osservato, la fiducia, gli indicatori di prova e una raccomandazione concreta. Uno stato HTTP o il nome del percorso da solo non stabilisce una vulnerabilità.

Un errore di rilevamento o scansione costituisce una limitazione della copertura operativa. Non dovrebbe essere segnalato come una vulnerabilità critica.

Dare priorità agli errori dei limiti di trust

• Blocca l'accesso anonimo o tra utenti alle operazioni private AI e ai dati recuperati.
• Separa le istruzioni di sistema e il contesto attendibile dai contenuti utente non attendibili.
• Autorizzare ogni azione dello strumento connesso sul server con l'utente corrente e l'ambito della risorsa.
• Rifiuta destinazioni private, loopback, link-local e metadati prima che qualsiasi strumento recuperi.
• Applicare i limiti di velocità per identità e operazione, quindi verificarne il comportamento in caso di ripetizione limitata.

Correggere e ripetere il test sulla stessa superficie

Correggere l'autorizzazione, il recupero, il prompt o il limite dello strumento che ha prodotto la prova. Esegui nuovamente AI/RAG dallo stesso spazio di lavoro del dominio e confronta la copertura equivalente prima di contrassegnare il problema come risolto.

Se il rilevamento cambia dopo una distribuzione, esaminare i percorsi e la copertura appena osservati prima di confrontare le modifiche del punteggio di sicurezza.