AI/RAG 보안

확인된 도메인에서 시작

VICE는 확인된 도메인으로 시작하여 AI 애플리케이션 APIs처럼 작동하는 동일 출처 경로를 검색합니다. 검색은 프로토콜, DNS, IP, 리디렉션, 원본, 요청 및 응답 크기 제어에 의해 제한됩니다.

모듈은 관찰된 공개 행동을 바탕으로 프로브 계획을 구축합니다. 감사가 시작되기 전에 모든 API 경로를 알 필요는 없습니다.

4가지 보안 경계를 커버하세요

• API: 익명 액세스, 유효하지 않은 인증 동작, CORS 및 속도 제한 적용.
• LLM: 프롬프트 인젝션, 시스템 지침 노출 및 민감한 출력 신호.
• RAG: 검색 격리, 테넌트 간 노출, 오염된 컨텍스트 및 삭제된 문서 동작.
• 도구: 안전하지 않은 URL 가져오기, 내부 대상에 대한 액세스, 충분한 승인 없이 실행되는 작업.

집중 감사 시작

검증된 도메인 작업 공간에서 AI/RAG을 열고 스캔을 시작하세요. 실행은 다른 관리 감사와 동일한 대기 중, 실행 중, 완료 및 실패 상태로 중앙 감사 목록에 표시됩니다.

감지된 문제는 도메인 감지 문제 보기에 추가됩니다. 감사 필터를 사용하여 한 번의 실행을 격리하거나 수정 후 결과를 비교하세요.

심각도 이전에 증거 읽기

실행 가능한 결과는 관찰된 행동, 신뢰도, 증거 지표 및 구체적인 권장 사항을 설명합니다. HTTP 상태 또는 경로 이름만으로는 취약점이 발생하지 않습니다.

검색 또는 크롤링 실패는 운영 범위 제한입니다. 이는 심각한 취약점으로 보고되어서는 안 됩니다.

신뢰 경계 오류 우선순위 지정

• 비공개 AI 작업 및 검색된 데이터에 대한 익명 또는 교차 사용자 액세스를 차단합니다.
• 시스템 지침과 신뢰할 수 있는 컨텍스트를 신뢰할 수 없는 사용자 콘텐츠와 분리하세요.
• 현재 사용자 및 리소스 범위를 사용하여 서버에서 연결된 모든 도구 작업에 권한을 부여합니다.
• 도구를 가져오기 전에 개인, 루프백, 링크 로컬 및 메타데이터 대상을 거부합니다.
• ID 및 작업별로 속도 제한을 적용한 다음 제한된 반복에서 동작을 확인합니다.

동일한 표면을 수정하고 다시 테스트하세요.

증거를 생성한 승인, 검색, 프롬프트 또는 도구 경계를 수정합니다. 문제가 해결된 것으로 표시하기 전에 동일한 도메인 작업 공간에서 AI/RAG을(를) 다시 실행하고 동등한 적용 범위를 비교하십시오.

배포 후 검색이 변경되면 보안 점수 변경 사항을 비교하기 전에 새로 관찰된 경로와 적용 범위를 검토하세요.