AI/RAG säkerhet

Börja från den verifierade domänen

VICE börjar med den verifierade domänen och upptäcker rutter med samma ursprung som beter sig som AI applikation APIs. Upptäckt är begränsat av protokoll, DNS, IP, omdirigeringar, ursprung, begäran och svarsstorlekskontroller.

Modulen bygger sin sondplan från observerat offentligt beteende. Du behöver inte känna till varje API sökväg innan granskningen startar.

Täck fyra säkerhetsgränser

• API: anonym åtkomst, ogiltigt autentiseringsbeteende, CORS och upprätthållande av hastighetsgränser.
• LLM: promptinjektion, exponering av systeminstruktioner och signaler i känsliga utdata.
• RAG: isolering av hämtning, exponering för flera hyresgäster, förgiftat sammanhang och beteende i raderade dokument.
• Verktyg: osäker URL-hämtning, åtkomst till interna destinationer och åtgärder som utförs utan tillräcklig auktorisation.

Starta den fokuserade revisionen

Öppna AI/RAG i en verifierad domänarbetsyta och starta skanningen. Körningen visas i den centrala granskningslistan med samma tillstånd i kö, körning, slutförd och misslyckad som andra hanterade granskningar.

Upptäckta problem läggs till i vyn för domänupptäckta problem. Använd granskningsfiltret för att isolera en körning eller jämföra resultat efter en fix.

Läs bevis före svårighetsgrad

Ett handlingsbart resultat beskriver observerat beteende, förtroende, evidensmarkörer och en konkret rekommendation. En HTTP-status eller ruttnamn enbart etablerar inte en sårbarhet.

Ett upptäckts- eller genomsökningsfel är en begränsning av operativ täckning. Det ska inte rapporteras som en kritisk sårbarhet.

Prioritera förtroendegränsöverskridande misslyckanden

• Blockera anonym eller korsanvändare åtkomst till privata AI-operationer och hämtade data.
• Separera systeminstruktioner och betrodd kontext från opålitligt användarinnehåll.
• Auktorisera alla anslutna verktygsåtgärder på servern med den aktuella användaren och resursomfånget.
• Avvisa privata, loopback-, länklokala och metadatadestinationer innan någon verktygshämtning.
• Tillämpa hastighetsgränser efter identitet och operation, verifiera sedan deras beteende under begränsad upprepning.

Fixa och testa om samma yta

Korrigera auktoriseringen, hämtningen, uppmaningen eller verktygsgränsen som gav bevisen. Kör AI/RAG igen från samma domänarbetsyta och jämför motsvarande täckning innan du markerar problemet som löst.

Om upptäckten ändras efter en distribution, granska de nyligen observerade rutterna och täckningen innan du jämför ändringar i säkerhetspoängen.