AI/RAG безпеки

Почніть із перевіреного домену

VICE починає з перевіреного домену та виявляє маршрути з однаковим джерелом, які поводяться як AI додаток APIs. Виявлення обмежується протоколом, DNS, IP, перенаправленнями, джерелом, запитом і елементами керування розміром відповіді.

Модуль будує свій план дослідження на основі спостережуваної поведінки людей. Вам не потрібно знати кожен шлях API перед початком перевірки.

Покрийте чотири рубежі безпеки

• API: анонімний доступ, недійсна поведінка автентифікації, CORS та обмеження швидкості.
• LLM: ін’єкція промптів, розкриття системних інструкцій та ознаки конфіденційних вихідних даних.
• RAG: ізоляція пошуку, перехресний контакт із клієнтами, шкідливий контекст і поведінка видалених документів.
• Інструменти: отримання небезпечних URL-адрес, доступ до внутрішніх місць призначення та дії, що виконуються без достатнього дозволу.

Запустіть сфокусований аудит

Відкрийте AI/RAG у підтвердженій робочій області домену та почніть сканування. Запуск відображається в центральному списку аудитів із такими ж станами: у черзі, виконується, завершено та не вдалося, як і інші керовані аудити.

Виявлені проблеми додаються до перегляду виявлених проблем домену. Використовуйте фільтр аудиту, щоб виділити один запуск або порівняти результати після виправлення.

Прочитайте докази перед серйозністю

Дійсний результат описує спостережувану поведінку, впевненість, доказові маркери та конкретну рекомендацію. Сам по собі статус HTTP або назва маршруту не вказує на вразливість.

Помилка виявлення або сканування є обмеженням покриття. Про це не слід повідомляти як про критичну вразливість.

Надайте пріоритет збоям на межі довіри

• Блокувати анонімний або міжкористувацький доступ до приватних операцій AI і отриманих даних.
• Відокремлюйте системні інструкції та довірений контекст від недовіреного вмісту користувача.
• Авторизуйте кожну дію підключеного інструменту на сервері за допомогою поточного користувача та обсягу ресурсу.
• Відхиляйте приватні, петлеві, локальні посилання та призначення метаданих перед будь-яким отриманням інструменту.
• Застосуйте обмеження швидкості за ідентичністю та операцією, а потім перевірте їх поведінку при обмеженому повторенні.

Виправте та повторно протестуйте ту саму поверхню

Виправте авторизацію, пошук, підказку або межу інструменту, які створили докази. Повторно запустіть AI/RAG з тієї самої робочої області домену та порівняйте еквівалентне покриття, перш ніж позначати проблему як вирішену.

Якщо виявлення змінюється після розгортання, перегляньте нещодавно виявлені маршрути та покриття, перш ніж порівнювати зміни оцінки безпеки.