AI/RAG zabezpečení

Začněte z ověřené domény

VICE začíná ověřenou doménou a objevuje cesty stejného původu, které se chovají jako AI aplikace APIs. Zjišťování je omezeno protokolem, DNS, IP, přesměrováním, původem, požadavky a ovládacími prvky velikosti odezvy.

Modul staví svůj plán sondy z pozorovaného chování veřejnosti. Před zahájením auditu nemusíte znát každou cestu API.

Pokryjte čtyři bezpečnostní hranice

• API: anonymní přístup, neplatné chování při ověřování, CORS a vynucení limitu rychlosti.
• LLM: vložení škodlivých promptů, odhalení systémových instrukcí a signály citlivých výstupů.
• RAG: izolace načítání, vystavení mezi nájemci, otrávený kontext a chování smazaných dokumentů.
• Nástroje: nebezpečné načítání adres URL, přístup k interním cílům a akce prováděné bez dostatečné autorizace.

Spusťte cílený audit

Otevřete AI/RAG v pracovním prostoru ověřené domény a spusťte kontrolu. Spuštění se objeví v seznamu centrálních auditů se stejnými stavy ve frontě, spuštěnými, dokončenými a neúspěšnými jako ostatní spravované audity.

Zjištěné problémy jsou přidány do zobrazení problémů zjištěných v doméně. Použijte filtr auditu k izolaci jednoho spuštění nebo k porovnání výsledků po opravě.

Přečtěte si důkazy před závažností

Použitelný výsledek popisuje pozorované chování, důvěru, důkazní značky a konkrétní doporučení. Samotný stav HTTP nebo název trasy nestanoví chybu zabezpečení.

Selhání zjišťování nebo procházení je omezením provozního pokrytí. Neměla by být hlášena jako kritická chyba zabezpečení.

Upřednostněte selhání na hranici důvěry

• Blokujte anonymní přístup nebo přístup mezi uživatele k soukromým operacím AI a získaným datům.
• Oddělte systémové instrukce a důvěryhodný kontext od nedůvěryhodného uživatelského obsahu.
• Autorizujte každou akci připojeného nástroje na serveru s aktuálním rozsahem uživatele a prostředků.
• Před načtením jakéhokoli nástroje odmítněte soukromé cíle, cíle zpětné smyčky, místní odkazy a metadata.
• Použijte limity rychlosti podle identity a operace a poté ověřte jejich chování při omezeném opakování.

Opravte a znovu otestujte stejný povrch

Opravte autorizaci, vyhledání, výzvu nebo hranici nástroje, která vytvořila důkaz. Spusťte znovu AI/RAG ze stejného pracovního prostoru domény a porovnejte ekvivalentní pokrytí, než označíte problém za vyřešený.

Pokud se zjištění po nasazení změní, zkontrolujte nově pozorované trasy a pokrytí, než porovnáte změny skóre zabezpečení.