AI/RAG sikkerhed

Start fra det bekræftede domæne

VICE begynder med det verificerede domæne og opdager ruter med samme oprindelse, der opfører sig som AI applikation APIs. Opdagelse er afgrænset af kontrolelementer for protokol, DNS, IP, omdirigeringer, oprindelse, anmodning og svarstørrelse.

Modulet bygger sin sondeplan ud fra observeret offentlig adfærd. Du behøver ikke kende hver API sti, før revisionen starter.

Dæk fire sikkerhedsgrænser

• API: anonym adgang, ugyldig godkendelsesadfærd, CORS og håndhævelse af hastighedsgrænser.
• LLM: promptinjektion, eksponering af systeminstruktioner og signaler i følsomme output.
• RAG: isolering af hentning, eksponering på tværs af lejere, forgiftet kontekst og adfærd med slettede dokumenter.
• Værktøjer: Usikker URL-hentning, adgang til interne destinationer og handlinger udført uden tilstrækkelig autorisation.

Start den fokuserede revision

Åbn AI/RAG i et verificeret domænearbejdsområde, og start scanningen. Kørslen vises i den centrale revisionsliste med de samme tilstande i kø, kørende, afsluttet og mislykket som andre administrerede revisioner.

Registrerede problemer føjes til visningen af ​​domæneregistrerede problemer. Brug revisionsfilteret til at isolere én kørsel eller sammenligne resultater efter en rettelse.

Læs bevis før sværhedsgrad

Et handlingsegnet resultat beskriver observeret adfærd, tillid, evidensmarkører og en konkret anbefaling. En HTTP status eller rutenavn alene etablerer ikke en sårbarhed.

En opdagelses- eller gennemgangsfejl er en operationel dækningsbegrænsning. Det bør ikke rapporteres som en kritisk sårbarhed.

Prioriter tillidsgrænsesvigt

• Bloker anonym eller krydsbrugeradgang til private AI-operationer og hentede data.
• Adskil systeminstruktioner og betroet kontekst fra ikke-betroet brugerindhold.
• Godkend hver tilsluttet værktøjshandling på serveren med det aktuelle bruger- og ressourceomfang.
• Afvis private, loopback, link-lokale og metadata-destinationer før nogen værktøjshentning.
• Anvend hastighedsgrænser efter identitet og operation, og bekræft derefter deres adfærd under begrænset gentagelse.

Fix og gentest den samme overflade

Ret autorisation, hentning, prompt eller værktøjsgrænse, der frembragte beviset. Kør AI/RAG igen fra det samme domænearbejdsområde, og sammenlign tilsvarende dækning, før du markerer problemet løst.

Hvis opdagelsen ændres efter en implementering, skal du gennemgå de nyligt observerede ruter og dækning, før du sammenligner ændringer i sikkerhedsscore.