AI/RAG bezpieczeństwo

Zacznij od zweryfikowanej domeny

VICE zaczyna od zweryfikowanej domeny i odkrywa trasy tego samego pochodzenia, które zachowują się jak AI aplikacji API. Odnajdywanie jest ograniczone protokołem, DNS, adresem IP, przekierowaniami, pochodzeniem, żądaniem i kontrolą rozmiaru odpowiedzi.

Moduł buduje swój plan sondy na podstawie zaobserwowanych zachowań publicznych. Nie musisz znać każdej ścieżki API przed rozpoczęciem audytu.

Zabezpiecz cztery granice bezpieczeństwa

• API: dostęp anonimowy, nieprawidłowe uwierzytelnianie, CORS i egzekwowanie limitów szybkości.
• LLM: wstrzykiwanie promptów, ujawnianie instrukcji systemowych i sygnały poufnych danych wyjściowych.
• RAG: izolacja pobierania, narażenie między dzierżawcami, zatruty kontekst i zachowanie związane z usuniętymi dokumentami.
• Narzędzia: pobieranie niebezpiecznych adresów URL, dostęp do wewnętrznych miejsc docelowych i działania wykonywane bez wystarczającej autoryzacji.

Rozpocznij audyt ukierunkowany

Otwórz AI/RAG w zweryfikowanym obszarze roboczym domeny i rozpocznij skanowanie. Przebieg pojawia się na centralnej liście audytów z tymi samymi stanami w kolejce, uruchomionym, zakończonym i zakończonym niepowodzeniem, co inne audyty zarządzane.

Wykryte problemy są dodawane do widoku wykrytych problemów w domenie. Użyj filtra audytu, aby wyizolować jedno uruchomienie lub porównać wyniki po naprawie.

Przeczytaj dowody przed dotkliwością

Wynik, który można podjąć, opisuje zaobserwowane zachowanie, pewność, markery dowodowe i konkretne zalecenie. Sam stan HTTP lub nazwa trasy nie oznaczają luki w zabezpieczeniach.

Błąd wykrywania lub indeksowania stanowi ograniczenie zasięgu operacyjnego. Nie należy jej zgłaszać jako krytycznej luki.

Nadaj priorytet błędom granic zaufania

• Blokuj dostęp anonimowy lub między użytkownikami do prywatnych operacji AI i pobranych danych.
• Oddziel instrukcje systemowe i zaufany kontekst od niezaufanych treści użytkownika.
• Autoryzuj każdą akcję podłączonego narzędzia na serwerze przy użyciu bieżącego użytkownika i zakresu zasobów.
• Odrzuć miejsca docelowe prywatne, pętlowe, lokalne i metadanych przed pobraniem jakiegokolwiek narzędzia.
• Zastosuj limity szybkości według tożsamości i operacji, a następnie sprawdź ich zachowanie w przypadku ograniczonej powtarzalności.

Napraw i przetestuj ponownie tę samą powierzchnię

Popraw autoryzację, pobieranie, monit lub granicę narzędzia, która wygenerowała dowód. Uruchom ponownie AI/RAG z tego samego obszaru roboczego domeny i porównaj równoważny zasięg przed oznaczeniem problemu jako rozwiązany.

Jeśli wykrywanie zmieni się po wdrożeniu, przejrzyj nowo zaobserwowane trasy i zasięg przed porównaniem zmian wyniku bezpieczeństwa.