Copy & Run
검색
제목, 요약, 태그에서 찾습니다.
3건
- Ollama 로컬 LLM에 입력 가드레일 붙이기
사용자 입력이 로컬 LLM에 닿기 전에 규칙 필터와 판정 모델 두 개를 거치게 하는 파이썬 스크립트를 만듭니다. 원문 대신 해시와 길이만 JSONL로 남기고, Ollama 장애 때 차단하는 방식을 확인하며, 철자 변형과 다른 언어로 우회되는 사례와 판정 모델의 오탐과 미탐을 실제 결과로 확인합니다.
- 임베딩 유사도로 프롬프트 인젝션 문장을 걸러 보기
Ollama 컨테이너의 nomic-embed-text 로 알려진 인젝션 문구와 입력 문장의 코사인 유사도를 구하는 파이썬 스크립트를 만듭니다. 임계값별 오탐과 미탐을 표로 확인하고, 이 방식이 인젝션의 절반 이상을 놓친다는 점과 긴 입력의 뒷부분이 잘리는 한계, 접두어와 규칙 필터를 바꿔 본 결과를 실제 수치로 봅니다.
- RAG 포이즈닝과 간접 프롬프트 인젝션을 로컬에서 재현하기
문서 한 건이 RAG 챗봇의 컨텍스트에 섞여 들어가는 과정과 권한 밖 문서가 검색되는 과정을 로컬에서 재현합니다. 접근 제어와 지시문 필터를 걸어 막아 보고, 필터가 우회되는 지점까지 확인합니다.