Copy & Run

OWASP 에이전트 앱 Top 10을 내가 해 본 실습 결과에 대응시키기

OWASP Top 10 for Agentic Applications 2026의 ASI01부터 ASI10까지를 이 블로그에서 직접 실행해 본 글과 하나씩 맞춰 봅니다. 확인한 관찰은 링크로 잇고, 시험하지 않은 항목은 그렇다고 표시한 뒤 점검 체크리스트만 남깁니다. 대응 표, 화면 앱, 링크 점검 스크립트를 함께 싣습니다.

정리 노트 · 2026-10-25 발행 · 22분 · 2026-10 확인

OWASP GenAI Security Project는 2025년 12월에 자율형 에이전트용 위험 목록인 OWASP Top 10 for Agentic Applications for 2026을 냈습니다. 항목 번호가 ASI01부터 ASI10까지입니다. 이 글에서는 그 열 개를 이 블로그에서 직접 실행해 본 글과 하나씩 맞춰 봅니다.

맞추는 기준은 하나입니다. 해당 글 본문에서 실제로 확인한 사실만 적습니다. 글이 없는 항목은 "아직 시험하지 않음"으로 표시하고 점검 체크리스트만 남깁니다. 열 개 중 세 개가 그렇습니다. 마지막에는 내 환경에 적용할 최소 설정 표와, 대응 표가 가리키는 글이 실제로 있는지 검사하는 스크립트를 둡니다.

준비물

항목 내용
Python 3.12 (이 글의 출력은 3.12.10에서 확인)
외부 패키지 화면 앱에만 Flask (pip install flask), 점검 스크립트는 표준 라이브러리만 사용
LLM 키 필요 없음
컨테이너 필요 없음 (이 글의 코드는 대응 표만 다루고, 에이전트는 실행하지 않습니다)

공식 목록 한 장으로 보기

목록의 원문은 OWASP Top 10 for Agentic Applications for 2026 자료 페이지에서 내려받는 문서입니다. 자료 페이지 자체에는 열 개 항목이 나열되어 있지 않아서, 항목 이름은 같은 프로젝트 사이트의 발표 소개 글과 2026년 3분기 사고 요약에서 확인했습니다. 내려받는 문서 본문은 열어 보지 못했으므로 아래 설명은 문서 문구가 아니라 제가 우리말로 줄여 쓴 것입니다. ASI02는 소개 글에서 Tool Misuse, 3분기 요약에서 Tool Misuse and Exploitation으로 적혀 있어 긴 쪽을 썼습니다.

번호 공식 영문 제목 한 줄 설명
ASI01 Agent Goal Hijack 에이전트가 읽는 문서나 입력 속 지시문으로 목표와 판단 경로가 바뀌는 위험
ASI02 Tool Misuse and Exploitation 정당하게 받은 도구를 의도와 다르게 쓰거나 악용하는 위험
ASI03 Identity and Privilege Abuse 에이전트가 자신의 신원이나 위임받은 자격을 넘어선 권한을 쓰는 위험
ASI04 Agentic Supply Chain Vulnerabilities 런타임에 불러오는 도구, 서버, 스킬 같은 외부 구성 요소가 오염되는 위험
ASI05 Unexpected Code Execution 자연어 요청이 의도하지 않은 코드나 명령 실행으로 이어지는 위험
ASI06 Memory and Context Poisoning 저장된 메모리나 컨텍스트가 오염되어 이후 세션의 행동까지 바뀌는 위험
ASI07 Insecure Inter-Agent Communication 에이전트끼리 주고받는 메시지가 인증되지 않거나 변조되는 위험
ASI08 Cascading Failures 한 에이전트의 잘못된 신호나 오류가 연결된 곳으로 번지는 위험
ASI09 Human-Agent Trust Exploitation 에이전트의 자신 있는 설명을 믿은 사람이 해로운 동작을 승인하는 위험
ASI10 Rogue Agents 정상으로 보이면서 숨은 목표를 따르거나 의도에서 벗어나 행동하는 에이전트

시험 상태를 세 가지로 나누기

상태는 세 가지만 씁니다. 시험함은 해당 글에서 그 위험의 핵심 동작을 직접 확인한 경우입니다. 일부만 시험함은 한 측면만 확인했고 나머지는 하지 않은 경우입니다. 아직 시험하지 않음은 이 블로그에 해당 글이 없는 경우입니다. 시험했다고 적어도 무엇을 못 했는지는 각 항목의 "범위" 줄에 남깁니다.

결과는 시험함 2, 일부만 5, 미시험 3입니다.

상태 항목
시험함 ASI01, ASI02
일부만 시험함 ASI03, ASI04, ASI05, ASI06, ASI09
아직 시험하지 않음 ASI07, ASI08, ASI10

같은 내용을 화면으로 보기 위해 작은 Flask 앱을 만들었습니다. 코드는 아래 "코드 전체"에 있고, 실행하면 다음과 같은 표가 나옵니다.

열 개 항목 전체가 시험 상태, 확인한 글과 관찰, 점검 체크리스트와 함께 한 표에 나오는 것을 확인합니다.
열 개 항목 전체가 시험 상태, 확인한 글과 관찰, 점검 체크리스트와 함께 한 표에 나오는 것을 확인합니다.

위쪽의 필터 버튼으로 상태별로 걸러 볼 수 있습니다. 시험함 필터를 누르면 두 항목만 남고, 두 항목 모두 글 링크와 관찰 문장이 붙어 있습니다.

시험함 필터에서 ASI01과 ASI02만 남고 각 항목에 글 세 편의 링크와 관찰이 붙은 것을 확인합니다.
시험함 필터에서 ASI01과 ASI02만 남고 각 항목에 글 세 편의 링크와 관찰이 붙은 것을 확인합니다.

미시험 필터에서는 반대로 글 칸이 비어 있고 체크리스트만 남습니다.

미시험 필터에서 ASI07, ASI08, ASI10의 글 칸이 비어 있고 점검 체크리스트만 채워진 것을 확인합니다.
미시험 필터에서 ASI07, ASI08, ASI10의 글 칸이 비어 있고 점검 체크리스트만 채워진 것을 확인합니다.

일부만 시험한 항목은 범위 줄에서 무엇이 빠졌는지 읽을 수 있습니다.

일부만 필터에서 ASI03, 04, 05, 06, 09의 범위 줄에 시험하지 않은 부분이 적혀 있는 것을 확인합니다.
일부만 필터에서 ASI03, 04, 05, 06, 09의 범위 줄에 시험하지 않은 부분이 적혀 있는 것을 확인합니다.

ASI01 Agent Goal Hijack: 시험함

범위: 지시문이 컨텍스트까지 도달하는 것과 입력 방어의 우회는 확인했습니다. 모델이 그 지시를 실제로 따르는지는 확인하지 않았습니다.

세 글의 공통점은 입력 검사만으로는 막히지 않는다는 점입니다. 그래서 권한 쪽 방어(ASI02, ASI03)가 함께 필요합니다.

ASI02 Tool Misuse and Exploitation: 시험함

범위: 파일 도구와 셸 승인 절차에서 확인했습니다. 결제나 메일 같은 외부 서비스 도구는 시험하지 않았습니다.

smart 모드에서 에이전트가 ls로 확인한 뒤 rm -r old-notes를 승인 질문 없이 실행하고 삭제를 완료했다고 답한 화면을 확인합니다.
smart 모드에서 에이전트가 ls로 확인한 뒤 rm -r old-notes를 승인 질문 없이 실행하고 삭제를 완료했다고 답한 화면을 확인합니다.

동작을 명령 패턴으로 막으면 에이전트는 같은 목적의 다른 명령으로 우회합니다. 도구가 닿는 범위 자체를 줄여야 합니다.

ASI03 Identity and Privilege Abuse: 일부만 시험함

범위: 접근 범위(폴더 권한)만 시험했습니다. 토큰 위임, 자격 증명 수명, 에이전트별 신원 분리는 시험하지 않았습니다.

허용 폴더 밖의 secret.txt를 에이전트가 내장 Read 도구로 읽고 내용을 그대로 알려 준 화면을 확인합니다.
허용 폴더 밖의 secret.txt를 에이전트가 내장 Read 도구로 읽고 내용을 그대로 알려 준 화면을 확인합니다.

한 도구에 걸어 둔 제한은 같은 일을 하는 다른 도구에는 적용되지 않습니다. 제한은 에이전트가 가진 모든 경로에 맞춰야 합니다.

점검 체크리스트는 다음과 같습니다.

  • 에이전트가 쓰는 계정과 토큰이 작업에 필요한 범위만 갖는지 확인합니다.
  • 허용 범위를 한 도구에만 걸지 않고 내장 도구까지 같은 범위로 맞춥니다.

ASI04 Agentic Supply Chain Vulnerabilities: 일부만 시험함

범위: MCP 서버를 가져오는 방식만 관찰했습니다. 서버나 스킬이 나중에 바뀌는 경우는 시험하지 않았습니다.

점검 체크리스트는 다음과 같습니다.

  • MCP 서버 패키지는 버전을 지정해 실행합니다.
  • 외부에서 받은 스킬과 서버는 SKILL.md와 설정을 사람이 읽고 나서 켭니다.
  • 에이전트가 서버를 스스로 설치하는 도구(connections)는 필요 없으면 끕니다.

ASI05 Unexpected Code Execution: 일부만 시험함

범위: 연습용 컨테이너 안에서 명령과 스크립트가 실행되는 경로를 관찰했습니다. 샌드박스 탈출은 시험하지 않았습니다.

점검 체크리스트는 다음과 같습니다.

  • 에이전트를 컨테이너 안에서 실행하고 지워도 되는 볼륨만 연결합니다.
  • 자동화에 일회성 실행을 쓰면 승인이 꺼진 것과 같다고 보고 그 환경을 따로 제한합니다.

ASI06 Memory and Context Poisoning: 일부만 시험함

범위: 무엇이 어디에 저장되는지와 정리 방법을 확인했습니다. 공격자 입력이 메모리에 들어가 이후 행동을 바꾸는 시나리오는 시험하지 않았습니다.

점검 체크리스트는 다음과 같습니다.

  • 대화에 비밀 값을 적지 않고, 적었다면 세션과 입력 기록을 지웁니다.
  • 메모리 저장 전에 사람이 승인하는 기능이 있으면 켭니다.
  • RAG는 문서를 프롬프트에 넣기 전에 검색 단계에서 권한을 거릅니다.

ASI07 Insecure Inter-Agent Communication: 아직 시험하지 않음

에이전트 사이의 통신 구간은 시험하지 않았습니다. 하위 에이전트에게 작업을 넘기는 장면은 MCP filesystem 글에서 보았지만 메시지 보호는 보지 않았으므로 관찰로 치지 않습니다.

  • 에이전트 사이 호출에 인증이 있는지 확인합니다.
  • 하위 에이전트가 상위 에이전트보다 넓은 도구를 갖지 않게 합니다.
  • 메시지 형식과 길이를 검증하고 위임 기록을 남깁니다.

ASI08 Cascading Failures: 아직 시험하지 않음

여러 에이전트가 이어진 구성을 만들지 않아서 시험하지 않았습니다.

  • 연쇄 호출의 깊이와 횟수에 상한을 둡니다.
  • 한 단계의 출력을 다음 단계가 검증 없이 믿지 않게 합니다.
  • 이상 징후가 보이면 파이프라인을 멈추는 차단 스위치를 둡니다.

ASI09 Human-Agent Trust Exploitation: 일부만 시험함

범위: 승인 창이 동작하는 방식을 확인했습니다. 에이전트가 사람을 설득해 승인을 받아 내는 경우는 시험하지 않았습니다.

  • Hermes Agent의 명령 승인 절차 확인하기: manual 모드의 승인 창은 전체 명령과 사유를 보여 주었고, Deny를 고르자 에이전트는 재시도하지 않고 멈췄습니다. smart 모드에서는 승인 질문 없이 실행되었고, 승인 판단에 같은 로컬 모델이 쓰인 것을 로그에서 확인했습니다.

점검 체크리스트는 다음과 같습니다.

  • 되돌릴 수 없는 동작은 smart가 아니라 manual로 사람이 승인하게 합니다.
  • 승인 창에서 전체 명령을 펼쳐 읽고 누릅니다.
  • 영구 허용 목록에는 recursive delete 같은 넓은 규칙을 넣지 않습니다.

ASI10 Rogue Agents: 아직 시험하지 않음

에이전트의 행동 이탈을 탐지하는 구성은 시험하지 않았습니다.

  • 에이전트가 호출한 도구와 인자를 기록으로 남깁니다.
  • 평소와 다른 호출 패턴을 점검하는 기준을 정합니다.
  • 문제가 생기면 도구 권한을 즉시 회수할 수 있는 방법을 정해 둡니다.

내 환경에서 적용할 최소 설정

위 관찰 중에서 바로 설정으로 옮길 수 있는 것만 모았습니다. 마지막 칸이 "확인함"이면 해당 글에서 그 값으로 동작을 보았다는 뜻이고, "권고"는 이 블로그에서 시험하지 않은 항목입니다.

영역 설정 이유 근거 글 상태
명령 승인 approvals.mode를 manual로 smart는 판단을 모델이 해서 질문이 생략되었습니다 명령 승인 확인함
명령 승인 command_allowlist를 비워 둠 recursive delete 규칙 이름이 저장되자 다른 폴더 삭제도 질문이 없었습니다 명령 승인 확인함
명령 승인 자동화에 hermes -z 쓰지 않기 manual이어도 승인이 생략되었습니다 명령 승인 확인함
도구 범위 MCP tools.include에 읽기 도구만 쓰기 도구를 빼면 쓰기가 막혔습니다 MCP filesystem 확인함
도구 범위 내장 terminal, file, code_execution, browser, delegation, cronjob, connections 끄기 MCP 제한이 내장 도구에는 적용되지 않았고 우회 시도가 있었습니다 MCP filesystem 확인함
도구 코드 realpath로 정규화한 뒤 허용 폴더 안인지 비교 ..로 빠져나가는 경로까지 막혔습니다 Excessive Agency 확인함
저장 정보 대화에 비밀 값 쓰지 않기, 쓰면 세션과 입력 기록 정리 메모리가 아니라 기록 파일과 세션 저장소에 남았습니다 스킬과 메모리 확인함
RAG 검색 단계에서 권한으로 문서 거르기 권한 밖 문서가 후보에서 빠졌습니다 RAG 포이즈닝 확인함
입력 검사 검사기 장애 때 통과시키지 않기(fail-closed) Ollama를 멈추자 정상 입력도 막혔습니다 입력 가드레일 확인함
격리 에이전트는 컨테이너 안에서 실행 승인이 뚫려도 피해를 컨테이너와 연습용 볼륨에서 끝냅니다 명령 승인 확인함
공급망 MCP 서버 패키지 버전 지정 최신판을 그때그때 내려받고 있었습니다 MCP filesystem 권고

입력 검사는 표에서 보조 수단입니다. 입력 검사를 다룬 두 글 모두에서 우회되는 입력이 있었으므로, 위쪽의 권한과 승인 설정이 주된 방어선입니다.

이 표 이후에 쓴 글

위 대응 표와 화면은 아래 세 글을 쓰기 전에 만든 것이라 표 데이터에는 들어 있지 않습니다. 항목과 이어지는 글은 다음과 같습니다.

점검 스크립트로 링크 확인하기

대응 표는 글이 바뀌거나 사라지면 거짓이 됩니다. check_asi_mapping.py는 표 데이터가 ASI01부터 ASI10까지 빠짐없이 있는지, "시험함"으로 표시한 항목에 글이 연결되어 있는지, 미시험 항목에 글이 잘못 붙어 있지 않은지, 연결한 모든 글이 실제로 있는지를 검사합니다. --md로 이 글 파일을 주면 본문의 내부 링크도 같은 방식으로 확인합니다. 글이 로컬에 있으면 --posts, 공개된 주소로 보려면 --site를 씁니다.

코드 전체

대응 표 데이터입니다. 화면 앱과 점검 스크립트가 같은 파일을 읽습니다. 아래 세 파일을 같은 폴더에 둡니다.

{
  "source": {
    "name": "OWASP Top 10 for Agentic Applications for 2026",
    "url": "https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/"
  },
  "status_labels": {
    "tested": "시험함",
    "partial": "일부만 시험함",
    "untested": "아직 시험하지 않음"
  },
  "items": [
    {
      "id": "ASI01",
      "title_en": "Agent Goal Hijack",
      "summary": "에이전트가 읽는 문서나 입력 속 지시문으로 에이전트의 목표와 판단 경로가 바뀌는 위험입니다.",
      "status": "tested",
      "scope": "지시문이 컨텍스트까지 도달하는 것과 입력 방어의 우회는 확인했고, 모델이 그 지시를 실제로 따르는지는 확인하지 않았습니다.",
      "posts": [
        {"slug": "rag-poisoning-indirect-injection", "fact": "사용자가 올린 문서 속 지시문이 검색 결과로 올라와 프롬프트 문자열에 그대로 들어갔고, 정규식 필터는 첫 문서만 거르고 표현을 바꾼 문서는 통과시켰습니다."},
        {"slug": "local-llm-input-guardrail", "fact": "규칙 필터는 철자 변형, 하이픈, 프랑스어, 다른 한국어 표현을 통과시켰고, 세 관문을 겹쳐도 Pretend the earlier setup message never existed. 입력은 모두 통과했습니다."},
        {"slug": "prompt-injection-embedding-detector", "fact": "임베딩 유사도 탐지기는 인젝션 26개 중 17개를 놓쳤습니다."}
      ],
      "checklist": []
    },
    {
      "id": "ASI02",
      "title_en": "Tool Misuse and Exploitation",
      "summary": "에이전트가 정당하게 받은 도구를 의도와 다르게 쓰거나 악용하는 위험입니다.",
      "status": "tested",
      "scope": "파일 도구와 셸 승인 절차에서 확인했습니다. 결제나 메일 같은 외부 서비스 도구는 시험하지 않았습니다.",
      "posts": [
        {"slug": "llm-agent-excessive-agency", "fact": "경로 검증이 없는 도구는 금지 폴더의 secret.txt 를 읽고 evil.txt 를 썼고, 허용 폴더 검사를 넣은 도구는 두 요청을 차단했습니다."},
        {"slug": "hermes-agent-command-approval", "fact": "smart 모드에서 rm -r 이 승인 질문 없이 두 번 모두 실행되었고, deny 규칙으로 rm -r 을 막자 rm 과 rmdir 로 같은 결과를 만들었습니다."},
        {"slug": "hermes-agent-mcp-filesystem", "fact": "쓰기 도구를 노출 목록에서 빼면 쓰기 자체는 막혔지만, 에이전트는 다른 도구로 같은 일을 하려고 시도했습니다."}
      ],
      "checklist": []
    },
    {
      "id": "ASI03",
      "title_en": "Identity and Privilege Abuse",
      "summary": "에이전트가 자신의 신원이나 위임받은 자격 증명을 넘어서는 권한을 쓰게 되는 위험입니다.",
      "status": "partial",
      "scope": "접근 범위(폴더 권한)만 시험했습니다. 토큰 위임, 자격 증명 수명, 에이전트별 신원 분리는 시험하지 않았습니다.",
      "posts": [
        {"slug": "hermes-agent-mcp-filesystem", "fact": "MCP 서버는 허용 폴더 밖 읽기를 Access denied 로 거부했지만, 내장 Read 도구는 같은 파일을 그대로 읽었습니다."},
        {"slug": "llm-agent-excessive-agency", "fact": "도구가 파일 시스템 전체를 열 수 있으면 읽으면 안 되는 파일에 닿는다는 것을 취약 도구와 보안 도구의 비교로 확인했습니다."}
      ],
      "checklist": ["에이전트가 쓰는 계정과 토큰이 작업에 필요한 범위만 갖는지 확인합니다.", "허용 범위를 한 도구에만 걸지 않고 내장 도구까지 같은 범위로 맞춥니다."]
    },
    {
      "id": "ASI04",
      "title_en": "Agentic Supply Chain Vulnerabilities",
      "summary": "에이전트가 런타임에 불러오는 도구, 서버, 스킬 같은 외부 구성 요소가 오염되는 위험입니다.",
      "status": "partial",
      "scope": "MCP 서버를 가져오는 방식만 관찰했습니다. 서버나 스킬이 나중에 바뀌는 경우는 시험하지 않았습니다.",
      "posts": [
        {"slug": "hermes-agent-mcp-filesystem", "fact": "MCP 서버를 npx 가 실행 때 내려받는 최신판으로 썼고, 에이전트가 MCP 카탈로그에서 터미널 서버를 설치하려고 시도했습니다."},
        {"slug": "hermes-agent-skills-and-memory", "fact": "스킬이 SKILL.md 와 스크립트 파일로 디스크에 저장되어 새 세션에서 다시 쓰이는 것을 확인했습니다. 외부에서 받은 스킬은 시험하지 않았습니다."}
      ],
      "checklist": ["MCP 서버 패키지는 버전을 지정해 실행합니다.", "외부에서 받은 스킬과 서버는 SKILL.md 와 설정을 사람이 읽고 나서 켭니다.", "에이전트가 서버를 스스로 설치하는 도구(connections)는 필요 없으면 끕니다."]
    },
    {
      "id": "ASI05",
      "title_en": "Unexpected Code Execution",
      "summary": "자연어 요청이 의도하지 않은 코드나 명령 실행으로 이어지는 위험입니다.",
      "status": "partial",
      "scope": "연습용 컨테이너 안에서 명령과 스크립트가 실행되는 경로를 관찰했습니다. 샌드박스 탈출은 시험하지 않았습니다.",
      "posts": [
        {"slug": "hermes-agent-command-approval", "fact": "approvals.mode 가 manual 인데도 hermes -z 일회성 실행에서는 승인 없이 rm -r 이 실행되었습니다."},
        {"slug": "hermes-agent-mcp-filesystem", "fact": "쓰기 도구가 없자 에이전트가 예약 작업(cronjob)의 스크립트 기능으로 파일을 쓰는 방법을 계획했습니다."},
        {"slug": "hermes-agent-skills-and-memory", "fact": "에이전트가 스스로 만든 스킬에 실행용 스크립트(count_errors.py)가 함께 들어 있었습니다."}
      ],
      "checklist": ["에이전트를 컨테이너 안에서 실행하고 지워도 되는 볼륨만 연결합니다.", "자동화에 일회성 실행을 쓰면 승인이 꺼진 것과 같다고 보고 그 환경을 따로 제한합니다."]
    },
    {
      "id": "ASI06",
      "title_en": "Memory and Context Poisoning",
      "summary": "저장된 메모리나 컨텍스트가 오염되어 이후 세션의 행동까지 바뀌는 위험입니다.",
      "status": "partial",
      "scope": "무엇이 어디에 저장되는지와 정리 방법을 확인했습니다. 공격자 입력이 메모리에 들어가 이후 행동을 바꾸는 시나리오는 시험하지 않았습니다.",
      "posts": [
        {"slug": "hermes-agent-skills-and-memory", "fact": "메모리는 새 세션에서도 유지되었고, 가짜 토큰은 메모리에는 없었지만 .hermes_history 와 state.db 에 남아 있다가 정리 스크립트 뒤에 사라졌습니다."},
        {"slug": "rag-poisoning-indirect-injection", "fact": "검색 단계의 접근 제어는 권한 밖 문서를 후보에서 뺐지만, 표현을 바꾼 포이즌 문서는 필터를 통과해 프롬프트에 남았습니다."}
      ],
      "checklist": ["대화에 비밀 값을 적지 않고, 적었다면 세션과 입력 기록을 지웁니다.", "메모리 저장 전에 사람이 승인하는 기능이 있으면 켭니다.", "RAG 는 문서를 프롬프트에 넣기 전에 검색 단계에서 권한을 거릅니다."]
    },
    {
      "id": "ASI07",
      "title_en": "Insecure Inter-Agent Communication",
      "summary": "에이전트끼리 주고받는 메시지가 인증되지 않거나 변조되어 오동작을 일으키는 위험입니다.",
      "status": "untested",
      "scope": "에이전트 사이의 통신 구간은 시험하지 않았습니다. 하위 에이전트에게 작업을 넘기는 장면은 보았지만 메시지 보호는 보지 않았습니다.",
      "posts": [],
      "checklist": ["에이전트 사이 호출에 인증이 있는지 확인합니다.", "하위 에이전트가 상위 에이전트보다 넓은 도구를 갖지 않게 합니다.", "메시지 형식과 길이를 검증하고 위임 기록을 남깁니다."]
    },
    {
      "id": "ASI08",
      "title_en": "Cascading Failures",
      "summary": "한 에이전트의 잘못된 신호나 오류가 연결된 에이전트와 파이프라인으로 번지는 위험입니다.",
      "status": "untested",
      "scope": "여러 에이전트가 이어진 구성을 만들지 않아서 시험하지 않았습니다.",
      "posts": [],
      "checklist": ["연쇄 호출의 깊이와 횟수에 상한을 둡니다.", "한 단계의 출력을 다음 단계가 검증 없이 믿지 않게 합니다.", "이상 징후가 보이면 파이프라인을 멈추는 차단 스위치를 둡니다."]
    },
    {
      "id": "ASI09",
      "title_en": "Human-Agent Trust Exploitation",
      "summary": "에이전트의 자신 있는 설명을 믿은 사람이 해로운 동작을 승인하게 되는 위험입니다.",
      "status": "partial",
      "scope": "승인 창이 동작하는 방식을 확인했습니다. 에이전트가 사람을 설득해 승인을 받아 내는 경우는 시험하지 않았습니다.",
      "posts": [
        {"slug": "hermes-agent-command-approval", "fact": "manual 모드의 승인 창은 전체 명령과 사유를 보여 주었고, Deny 를 고르자 에이전트는 재시도하지 않고 멈췄습니다. smart 모드에서는 승인 질문 없이 실행되었고, 승인 판단에 같은 로컬 모델이 쓰인 것을 로그에서 확인했습니다."}
      ],
      "checklist": ["되돌릴 수 없는 동작은 smart 가 아니라 manual 로 사람이 승인하게 합니다.", "승인 창에서 전체 명령을 펼쳐 읽고 누릅니다.", "영구 허용 목록에는 recursive delete 같은 넓은 규칙을 넣지 않습니다."]
    },
    {
      "id": "ASI10",
      "title_en": "Rogue Agents",
      "summary": "정상으로 보이면서 숨은 목표를 따르거나 의도에서 벗어나 행동하는 에이전트의 위험입니다.",
      "status": "untested",
      "scope": "에이전트의 행동 이탈을 탐지하는 구성은 시험하지 않았습니다.",
      "posts": [],
      "checklist": ["에이전트가 호출한 도구와 인자를 기록으로 남깁니다.", "평소와 다른 호출 패턴을 점검하는 기준을 정합니다.", "문제가 생기면 도구 권한을 즉시 회수할 수 있는 방법을 정해 둡니다."]
    }
  ]
}

화면 앱 asi_table.py입니다. ?filter=all, tested, partial, untested로 걸러 봅니다.

"""OWASP Agentic Top 10 항목별 대응 현황 표를 브라우저로 보여 주는 작은 Flask 앱.

실행: pip install flask && python asi_table.py
열기: http://127.0.0.1:5410/?filter=all  (tested, partial, untested 도 가능)
"""
import json
from html import escape
from pathlib import Path

from flask import Flask, request

BASE = Path(__file__).resolve().parent
DATA = json.loads((BASE / "asi_mapping.json").read_text(encoding="utf-8"))
SITE = "https://copyandrun.com/blog/"
LABELS = DATA["status_labels"]
FILTERS = [("all", "전체"), ("tested", "시험함"), ("partial", "일부만"), ("untested", "미시험")]

app = Flask(__name__)

CSS = """
body{font-family:'Malgun Gothic',sans-serif;margin:24px;background:#f6f7f9;color:#1d2330}
h1{font-size:20px;margin:0 0 4px}
.sub{color:#5b6475;font-size:13px;margin-bottom:14px}
.tabs a{display:inline-block;padding:6px 14px;margin-right:6px;border:1px solid #c9ced8;border-radius:6px;
 text-decoration:none;color:#1d2330;background:#fff;font-size:14px}
.tabs a.on{background:#1f4fd8;color:#fff;border-color:#1f4fd8}
table{border-collapse:collapse;width:100%;background:#fff;margin-top:14px;font-size:14px}
th,td{border:1px solid #d5d9e2;padding:8px 10px;text-align:left;vertical-align:top}
th{background:#eceff5}
.tag{display:inline-block;padding:2px 8px;border-radius:10px;font-size:12px;font-weight:700;white-space:nowrap}
.tested{background:#d8f0dc;color:#17602a}.partial{background:#fff0c9;color:#7a5200}.untested{background:#e6e8ee;color:#444b5a}
.fact{margin:0 0 6px}.scope{color:#5b6475;font-size:13px}
a{color:#1f4fd8}
"""


def row(item):
    status = item["status"]
    posts = "".join(
        f'<p class="fact"><a href="{SITE}{p["slug"]}/">{escape(p["slug"])}</a><br>{escape(p["fact"])}</p>'
        for p in item["posts"]
    ) or '<p class="fact">이 항목을 다룬 글이 아직 없습니다.</p>'
    checks = "".join(f"<li>{escape(c)}</li>" for c in item["checklist"])
    check_html = f"<ul>{checks}</ul>" if checks else "-"
    return (
        f'<tr><td><b>{item["id"]}</b><br>{escape(item["title_en"])}</td>'
        f'<td>{escape(item["summary"])}</td>'
        f'<td><span class="tag {status}">{LABELS[status]}</span><div class="scope">{escape(item["scope"])}</div></td>'
        f"<td>{posts}</td><td>{check_html}</td></tr>"
    )


@app.route("/")
def index():
    flt = request.args.get("filter", "all")
    items = [i for i in DATA["items"] if flt == "all" or i["status"] == flt]
    tabs = "".join(
        f'<a class="{"on" if k == flt else ""}" href="/?filter={k}">{name}</a>' for k, name in FILTERS
    )
    count = {k: sum(1 for i in DATA["items"] if i["status"] == k) for k in LABELS}
    head = f"시험함 {count['tested']} / 일부만 {count['partial']} / 미시험 {count['untested']}"
    return (
        f"<!doctype html><meta charset='utf-8'><title>ASI 대응 현황</title><style>{CSS}</style>"
        f"<h1>OWASP Agentic Top 10 항목별 대응 현황</h1><div class='sub'>{head} (총 10개)</div>"
        f"<div class='tabs'>{tabs}</div>"
        "<table><tr><th>항목</th><th>한 줄 설명</th><th>시험 상태</th><th>확인한 글과 관찰</th><th>점검 체크리스트</th></tr>"
        + "".join(row(i) for i in items)
        + "</table>"
    )


if __name__ == "__main__":
    app.run(host="127.0.0.1", port=5410)

점검 스크립트 check_asi_mapping.py입니다.

"""대응 표(asi_mapping.json)가 일관된지, 연결한 글이 실제로 있는지 검사한다.

사용법:
  python check_asi_mapping.py --posts <글 폴더>     로컬에 글 파일(<slug>.md)이 있을 때
  python check_asi_mapping.py --site https://copyandrun.com   공개된 글 주소로 확인할 때
추가로 --md <글.md> 를 주면 그 글 본문의 /blog/<slug>/ 내부 링크도 같은 방식으로 검사한다.
"""
import argparse
import json
import re
import sys
import urllib.request
from pathlib import Path

BASE = Path(__file__).resolve().parent
IDS = [f"ASI{n:02d}" for n in range(1, 11)]


def exists_local(posts, slug):
    return (Path(posts) / f"{slug}.md").is_file()


def exists_site(site, slug):
    req = urllib.request.Request(f"{site.rstrip('/')}/blog/{slug}/", method="HEAD")
    try:
        with urllib.request.urlopen(req, timeout=15) as r:
            return r.status == 200
    except Exception:
        return False


def main():
    sys.stdout.reconfigure(encoding="utf-8")
    ap = argparse.ArgumentParser()
    ap.add_argument("--posts")
    ap.add_argument("--site")
    ap.add_argument("--md")
    ap.add_argument("--data", default=str(BASE / "asi_mapping.json"))
    a = ap.parse_args()
    if not a.posts and not a.site:
        sys.exit("--posts 또는 --site 가 필요합니다")
    exists = (lambda s: exists_local(a.posts, s)) if a.posts else (lambda s: exists_site(a.site, s))

    data = json.loads(Path(a.data).read_text(encoding="utf-8"))
    problems = []
    ids = [i["id"] for i in data["items"]]
    if ids != IDS:
        problems.append(f"항목 id 가 ASI01 부터 ASI10 까지 순서대로 있어야 합니다: {ids}")

    slugs = set()
    for item in data["items"]:
        st = item["status"]
        if st not in data["status_labels"]:
            problems.append(f"{item['id']}: 알 수 없는 상태 {st}")
        if st in ("tested", "partial") and not item["posts"]:
            problems.append(f"{item['id']}: 시험했다고 표시했지만 연결한 글이 없습니다")
        if st == "untested" and item["posts"]:
            problems.append(f"{item['id']}: 미시험인데 글이 연결되어 있습니다")
        if st != "tested" and not item["checklist"]:
            problems.append(f"{item['id']}: 완전히 시험하지 않은 항목에는 체크리스트가 필요합니다")
        for p in item["posts"]:
            slugs.add(p["slug"])
            if not p.get("fact"):
                problems.append(f"{item['id']}/{p['slug']}: 관찰 내용이 비어 있습니다")

    if a.md:
        body = Path(a.md).read_text(encoding="utf-8")
        slugs |= set(re.findall(r"\]\(/blog/([a-z0-9-]+)/?\)", body))

    for s in sorted(slugs):
        if not exists(s):
            problems.append(f"링크 대상 글이 없습니다: {s}")

    if problems:
        print("\n".join(problems))
        sys.exit(1)
    print(f"대응 표 일치: 항목 {len(IDS)}개, 확인한 글 {len(slugs)}편 모두 존재")


if __name__ == "__main__":
    main()

실행하기

화면은 다음 명령으로 띄우고 브라우저로 http://127.0.0.1:5410/?filter=all을 엽니다. 끝나면 Ctrl+C로 멈춥니다.

pip install flask
python -X utf8 asi_table.py

링크 점검은 글 폴더를 지정해 실행합니다. 이 글 본문까지 함께 검사하는 명령입니다.

python -X utf8 check_asi_mapping.py --posts web/content/posts --md web/content/posts/owasp-agentic-top10-mapped-to-hands-on.md

기대 출력은 다음과 같습니다.

대응 표 일치: 항목 10개, 확인한 글 7편 모두 존재

글이 없으면 어떻게 나오는지도 확인해 둡니다. 데이터 파일을 복사해 한 항목의 글 이름을 없는 이름으로 바꾼 뒤 --data로 지정하면 실패합니다.

링크 대상 글이 없습니다: llm-agent-no-such-post
종료 코드: 1

문제가 있으면 종료 코드가 1이어서 CI에 그대로 붙일 수 있습니다. 새 글이 생기면 해당 항목의 posts에 slug와 fact를 추가하고 status를 올린 다음 이 스크립트를 다시 돌립니다.

이 단계의 파일 내려받기:asi_mapping.jsonasi_table.pycheck_asi_mapping.py

자주 막히는 곳

증상 원인과 해결
--posts 또는 --site 가 필요합니다 글을 찾을 위치를 지정하지 않았습니다. 둘 중 하나를 줍니다.
링크 대상 글이 없습니다 데이터의 slug가 글 파일 이름과 다릅니다. 확장자를 뺀 파일 이름과 같아야 합니다.
--site에서 모든 글이 없다고 나옵니다 글이 아직 배포되지 않았거나 주소 끝 경로가 다릅니다. 공개된 /blog/<slug>/ 주소를 직접 열어 봅니다.
화면의 글자가 깨집니다 파일을 UTF-8로 저장하고 python -X utf8로 실행합니다.

이어서 해 볼 것

  • 미시험 세 항목 채우기: 에이전트 두 개를 이어 하위 에이전트의 도구 범위를 비교하면 ASI07과 ASI08의 첫 관찰이 나옵니다. 호출 기록을 남기는 구성은 ASI10의 출발점입니다.
  • ASI01의 남은 절반: 포이즌 문서를 실제 모델에 넣어 지시를 따르는지 확인하면 "시험함" 범위의 마지막 칸이 채워집니다.
  • ASI06 확장: 메모리 저장 전에 사람이 승인하는 기능을 켜고, 공격자 입력이 메모리에 들어가는지 막히는지 봅니다.

확인 범위

  • 해 본 것: 이 블로그의 해당 글 본문에서 확인한 내용을 옮겼습니다. 새로 실행한 실험은 없습니다. 화면 앱과 점검 스크립트는 Windows 11의 Python 3.12.10과 Flask 3.1.3에서 직접 실행했습니다. 화면과 출력은 그 결과입니다. 점검 스크립트는 --posts 방식으로만 실행했습니다.
  • 해 보지 않은 것: 점검 스크립트의 --site 방식. OWASP GenAI Security Project 사이트에서 내려받는 문서 본문.
  • 읽을 때 주의: 항목별 한 줄 설명은 공식 정의가 아니라 제 요약입니다. 공식 정의는 위 자료 페이지의 문서에서 확인해야 합니다. 이 글의 각 관찰은 연결한 글의 결과이며 모델과 버전에 따라 달라질 수 있습니다. 다른 환경에서는 같지 않을 수 있습니다.

이 글의 다음 단계

AI·LLM 보안 과정의 일부입니다

이 실습은 교육에서 참가자마다 독립된 환경으로 진행합니다. 원하는 일정을 고르면 문의 양식에 미리 채워집니다.

과정 보기

팀이나 교육 담당자에게 이 글 제안하기

교육 진행 순서와 자주 묻는 질문 보기

같은 카테고리의 글