AI/RAG beveiliging

Begin vanaf het geverifieerde domein

VICE begint met het geverifieerde domein en ontdekt routes van dezelfde oorsprong die zich gedragen als AI applicatie APIs. Ontdekking wordt begrensd door protocol, DNS, IP, omleidingen, oorsprong, verzoek en controles op de responsgrootte.

De module bouwt zijn onderzoeksplan op op basis van waargenomen publiek gedrag. U hoeft niet elk API pad te kennen voordat de audit begint.

Bestrijk vier veiligheidsgrenzen

• API: anonieme toegang, ongeldig authenticatiegedrag, CORS en handhaving van snelheidslimieten.
• LLM: promptinjectie, blootstelling van systeeminstructies en signalen van gevoelige uitvoer.
• RAG: isolatie bij het ophalen, blootstelling aan meerdere tenants, vergiftigde context en gedrag bij verwijderde documenten.
• Tools: onveilig ophalen van URL's, toegang tot interne bestemmingen en acties die worden uitgevoerd zonder voldoende autorisatie.

Start de gerichte audit

Open AI/RAG in een geverifieerde domeinwerkruimte en start de scan. De uitvoering wordt weergegeven in de centrale auditlijst met dezelfde status in de wachtrij, actief, voltooid en mislukt als andere beheerde audits.

Gedetecteerde problemen worden toegevoegd aan de weergave van gedetecteerde problemen in het domein. Gebruik het auditfilter om één run te isoleren of de resultaten na een oplossing te vergelijken.

Lees bewijs vóór ernst

Een bruikbaar resultaat beschrijft waargenomen gedrag, vertrouwen, bewijsmarkeringen en een concrete aanbeveling. Alleen een HTTP-status of routenaam duidt niet op een kwetsbaarheid.

Een detectie- of crawlfout is een beperking van de operationele dekking. Het mag niet worden gerapporteerd als een kritieke kwetsbaarheid.

Geef prioriteit aan mislukkingen op het gebied van vertrouwensgrenzen

• Blokkeer anonieme toegang of toegang voor meerdere gebruikers tot privé AI-bewerkingen en opgehaalde gegevens.
• Scheid systeeminstructies en vertrouwde context van niet-vertrouwde gebruikersinhoud.
• Autoriseer elke verbonden toolactie op de server met de huidige gebruikers- en resourcescope.
• Weiger privé-, loopback-, link-local- en metadatabestemmingen voordat een tool wordt opgehaald.
• Pas snelheidslimieten toe op basis van identiteit en werking en verifieer vervolgens hun gedrag onder begrensde herhaling.

Repareer en test hetzelfde oppervlak opnieuw

Corrigeer de autorisatie-, ophaal-, prompt- of toolgrens die het bewijsmateriaal heeft opgeleverd. Voer AI/RAG opnieuw uit vanuit dezelfde domeinwerkruimte en vergelijk de gelijkwaardige dekking voordat u het probleem als opgelost markeert.

Als de detectie na een implementatie verandert, bekijk dan de nieuw waargenomen routes en dekking voordat u de wijzigingen in de beveiligingsscore vergelijkt.