AI/RAG безопасность

Начните с подтвержденного домена

VICE начинается с проверенного домена и обнаруживает маршруты того же происхождения, которые ведут себя как приложение AI APIs. Обнаружение ограничено протоколом, DNS, IP, перенаправлением, источником, запросом и размером ответа.

Модуль строит план расследования на основе наблюдаемого поведения общественности. Вам не нужно знать каждый путь API перед началом аудита.

Покройте четыре границы безопасности

• API: анонимный доступ, недопустимое поведение при аутентификации, CORS и принудительное ограничение скорости.
• LLM: внедрение промптов, раскрытие системных инструкций и признаки конфиденциальных выходных данных.
• RAG: изоляция извлечения, перекрестное воздействие, отравленный контекст и поведение удаленных документов.
• Инструменты: небезопасное получение URL-адресов, доступ к внутренним местам назначения и действия, выполняемые без достаточной авторизации.

Запустить целенаправленный аудит

Откройте AI/RAG в рабочей области проверенного домена и запустите сканирование. Запуск отображается в списке централизованного аудита с теми же состояниями «в очереди», «выполнено», «завершено» и «неудачно», что и другие управляемые аудиты.

Обнаруженные проблемы добавляются в представление обнаруженных проблем домена. Используйте фильтр аудита, чтобы изолировать одно выполнение или сравнить результаты после исправления.

Прочтите доказательства до серьезности

Практический результат описывает наблюдаемое поведение, уверенность, маркеры доказательств и конкретную рекомендацию. Статус HTTP или имя маршрута сами по себе не указывают на уязвимость.

Сбой обнаружения или сканирования является ограничением операционного покрытия. Об этом не следует сообщать как о критической уязвимости.

Приоритизация сбоев на границе доверия

• Блокируйте анонимный или перекрестный доступ пользователей к частным операциям AI и полученным данным.
• Отделяйте системные инструкции и доверенный контекст от недоверенного пользовательского содержимого.
• Авторизуйте каждое действие подключенного инструмента на сервере с текущим пользователем и объемом ресурсов.
• Отклоняйте частные адреса, адреса обратной связи, локальные ссылки и метаданные перед извлечением любого инструмента.
• Примените ограничения скорости по идентификатору и операции, затем проверьте их поведение при ограниченном повторении.

Исправьте и повторно протестируйте ту же поверхность

Исправьте авторизацию, извлечение, подсказку или границу инструмента, создавшего доказательства. Повторно запустите AI/RAG из той же рабочей области домена и сравните эквивалентное покрытие, прежде чем отмечать проблему как решенную.

Если обнаружение изменилось после развертывания, просмотрите новые наблюдаемые маршруты и покрытие, прежде чем сравнивать изменения показателей безопасности.