AI/RAG sikkerhet

Start fra det bekreftede domenet

VICE begynner med det verifiserte domenet og oppdager ruter med samme opprinnelse som oppfører seg som AI-applikasjonen APIs. Oppdagelse er avgrenset av kontroller for protokoll, DNS, IP, omdirigeringer, opprinnelse, forespørsel og svarstørrelse.

Modulen bygger sin sondeplan fra observert offentlig atferd. Du trenger ikke å kjenne hver API-bane før revisjonen starter.

Dekker fire sikkerhetsgrenser

• API: anonym tilgang, ugyldig autentiseringsatferd, CORS og håndhevelse av hastighetsgrenser.
• LLM: promptinjeksjon, eksponering av systeminstruksjoner og signaler i sensitive utdata.
• RAG: gjenfinningsisolasjon, eksponering på tvers av leietakere, forgiftet kontekst og atferd med slettede dokumenter.
• Verktøy: usikker URL-henting, tilgang til interne destinasjoner og handlinger utført uten tilstrekkelig autorisasjon.

Start den fokuserte revisjonen

Åpne AI/RAG i et verifisert domenearbeidsområde og start skanningen. Kjøringen vises i den sentrale revisjonslisten med de samme tilstandene i kø, kjører, fullført og mislyktes som andre administrerte revisjoner.

Oppdagede problemer legges til visningen for domeneoppdagede problemer. Bruk revisjonsfilteret til å isolere én kjøring eller sammenligne resultater etter en retting.

Les bevis før alvorlighetsgrad

Et handlingsbart resultat beskriver observert atferd, selvtillit, bevismarkører og en konkret anbefaling. En HTTP status eller rutenavn alene etablerer ikke en sårbarhet.

En oppdagelses- eller gjennomsøkingsfeil er en operasjonell dekningsbegrensning. Det skal ikke rapporteres som en kritisk sårbarhet.

Prioriter svikt i tillitsgrense

• Blokker anonym eller kryssbrukertilgang til private AI-operasjoner og hentede data.
• Skill systeminstruksjoner og pålitelig kontekst fra upålitelig brukerinnhold.
• Autoriser hver tilkoblet verktøyhandling på serveren med gjeldende bruker- og ressursomfang.
• Avvis private, loopback, lenkelokale og metadatadestinasjoner før noen verktøyhenting.
• Bruk hastighetsgrenser etter identitet og operasjon, og bekreft deretter oppførselen deres under begrenset repetisjon.

Fiks og test den samme overflaten på nytt

Korriger autorisasjonen, hentingen, forespørselen eller verktøygrensen som ga bevisene. Kjør AI/RAG på nytt fra samme domenearbeidsområde og sammenlign tilsvarende dekning før du merker at problemet er løst.

Hvis oppdagelsen endres etter en utrulling, se gjennom de nylig observerte rutene og dekningen før du sammenligner endringer i sikkerhetspoeng.