Скачать или смотреть C5. RAG 핵심 — 프롬프트 인젝션과 권한 보안: 신뢰를 지키는 RAG 가드레일

검색 증강 생성이 잘 만들어져도 **보안이 허술하면 신뢰는 무너집니다**.
이번 영상은 래그에서 꼭 필요한 **프롬프트 인젝션 차단과 권한 보안**을 8단계로 정리합니다. 문서는 데이터로만 취급하고, 지침은 고정하며, 허용된 도메인과 도구만 쓰는 **운영 가능한 보안 설계**를 제공합니다.

배울 내용

위협 모델 인젝션, 권한 우회, 출처 변조, 악성 링크
신뢰 경계 사용자 입력와 검색 문서 불신, 시스템 지침 보호
입력 방역 지시형 문구 고립, 구획자 적용, 링크 허용 목록
프롬프트 가드 도구 호출와 비밀 노출 규칙, 지침 채널 고정
권한과 격리 사용자 권한 검색, 문서 메타데이터, 인덱스 격리
허용 도메인와 도구 계약 입력 출력 실패 규칙을 계약으로 고정
출력 제약 인용 범위와 날짜 필수, 스키마 포맷 강제, 안전 밸브
모니터링 인젝션 패턴 탐지, 허니 토큰, 위반 시 차단와 롤백

추천 기본값 시작점

외부 호출은 **허용 목록 도메인**만 사용
코드 실행와 도구 호출 *샌드박스* 필수
답변에는 *문서 아이디와 날짜* 인용, 근거 없으면 *모른다*
인덱스는 *테넌트 격리* 또는 *행 수준 필터*
위반 탐지 시 *자동 롤백와 알림*

체크리스트

문서 지시를 지침보다 우선 처리하지 않는가
권한 밖 문서가 검색 결과에 섞이지 않는가
인용 누락 답변을 차단하고 로그로 남기는가
허용 목록 밖 도구 호출이 차단되는가
경보와 롤백이 실제로 동작하는가

해시태그
#AIMakers #RAG #보안 #프롬프트인젝션 #권한관리 #샌드박스 #출처표기 #가드레일 #거버넌스 #LLM