AI/RAG Sicherheit

Beginnen Sie mit der verifizierten Domäne

VICE beginnt mit der verifizierten Domäne und erkennt Routen mit demselben Ursprung, die sich wie AI-Anwendungs-APIs verhalten. Die Erkennung ist durch Protokoll-, DNS-, IP-, Weiterleitungs-, Ursprungs-, Anforderungs- und Antwortgrößenkontrollen begrenzt.

Das Modul erstellt seinen Untersuchungsplan auf der Grundlage des beobachteten öffentlichen Verhaltens. Sie müssen nicht jeden API-Pfad kennen, bevor die Prüfung beginnt.

Decken Sie vier Sicherheitsgrenzen ab

• API: anonymer Zugriff, ungültiges Authentifizierungsverhalten, CORS und Durchsetzung von Ratenbegrenzungen.
• LLM: Prompt Injection, Offenlegung von Systemanweisungen und Signale sensibler Ausgaben.
• RAG: Abrufisolation, mandantenübergreifende Offenlegung, vergifteter Kontext und Verhalten bei gelöschten Dokumenten.
• Tools: unsicherer URL-Abruf, Zugriff auf interne Ziele und ohne ausreichende Autorisierung ausgeführte Aktionen.

Starten Sie das gezielte Audit

Öffnen Sie AI/RAG in einem verifizierten Domänenarbeitsbereich und starten Sie den Scan. Der Lauf erscheint in der zentralen Audit-Liste mit den gleichen Status „Warteschlange“, „Läuft ausgeführt“, „Abgeschlossen“ und „Fehlgeschlagen“ wie andere verwaltete Audits.

Erkannte Probleme werden zur Ansicht „Domäne erkannte Probleme“ hinzugefügt. Verwenden Sie den Überwachungsfilter, um einen Lauf zu isolieren oder die Ergebnisse nach einem Fix zu vergleichen.

Lesen Sie Beweise vor der Schwere

Ein umsetzbares Ergebnis beschreibt beobachtetes Verhalten, Vertrauen, Evidenzmarker und eine konkrete Empfehlung. Ein HTTP-Status oder Routenname allein stellt keine Schwachstelle dar.

Ein Erkennungs- oder Crawling-Fehler stellt eine Einschränkung der betrieblichen Abdeckung dar. Es sollte nicht als kritische Schwachstelle gemeldet werden.

Priorisieren Sie Ausfälle an Vertrauensgrenzen

• Blockieren Sie den anonymen oder benutzerübergreifenden Zugriff auf private AI-Vorgänge und abgerufene Daten.
• Trennen Sie Systemanweisungen und vertrauenswürdigen Kontext von nicht vertrauenswürdigen Benutzerinhalten.
• Autorisieren Sie jede verbundene Toolaktion auf dem Server mit dem aktuellen Benutzer- und Ressourcenbereich.
• Lehnen Sie private, Loopback-, Link-Local- und Metadatenziele vor jedem Tool-Abruf ab.
• Wenden Sie Ratenbegrenzungen nach Identität und Betrieb an und überprüfen Sie dann deren Verhalten bei begrenzter Wiederholung.

Fixieren Sie die gleiche Oberfläche und testen Sie sie erneut

Korrigieren Sie die Autorisierung, den Abruf, die Eingabeaufforderung oder die Toolgrenze, die den Beweis erbracht hat. Führen Sie AI/RAG im selben Domänenarbeitsbereich erneut aus und vergleichen Sie die entsprechende Abdeckung, bevor Sie das Problem als gelöst markieren.

Wenn sich die Erkennung nach einer Bereitstellung ändert, überprüfen Sie die neu beobachteten Routen und die Abdeckung, bevor Sie die Änderungen der Sicherheitsbewertung vergleichen.