# fail2ban SSH 무차별 대입 차단: 3번 실패 차단과 40초 뒤 해제 확인

> sshd가 도는 컨테이너에 fail2ban 1.0.2를 올리고 다른 컨테이너에서 비밀번호를 3번 틀려 차단되는 과정을 확인합니다. 차단 뒤에는 올바른 비밀번호도 거절되는 것, 다른 컨테이너는 영향이 없는 것, iptables 규칙과 로그, 수동 해제와 시간이 지난 자동 해제, 컨테이너에서 로그가 안 남는 문제까지 다룹니다.

- 주소: https://copyandrun.com/blog/fail2ban-sshd-ban-test/
- 분야: DevSecOps
- 발행일: 2026-10-30
- 태그: fail2ban, SSH, 무차별 대입, iptables, 차단

인터넷에 열린 SSH 포트에는 비밀번호를 계속 바꿔 대입하는 시도가 끊이지 않습니다. 비밀번호 로그인을 끄는 것이 먼저이지만, 켜 둘 수밖에 없다면 같은 곳에서 실패가 반복될 때 그 주소를 일정 시간 막는 도구가 도움이 됩니다. fail2ban은 인증 로그를 읽다가 실패가 쌓이면 방화벽 규칙을 추가합니다. 이 글에서는 컨테이너 두 개로 그 과정을 끝까지 실행해 봅니다. 서버 컨테이너에 sshd와 fail2ban을 올리고, 공격 역할의 컨테이너가 비밀번호를 틀리면 언제 차단되는지, 차단된 주소와 그렇지 않은 주소가 어떻게 다르게 보이는지, 어떻게 풀리는지를 확인하고 결과를 종료 코드로 바꿉니다. 내 PC의 컨테이너끼리만 접속합니다.

## 준비물

| 항목 | 확인한 값 |
|---|---|
| Docker | 29.5.3 (Windows 11, Git Bash에서 실행) |
| 서버 컨테이너 | `ubuntu:24.04` + `openssh-server`, `fail2ban` 1.0.2, `iptables` 1.8.10(nf_tables), `rsyslog` |
| 서버 권한 | `--cap-add NET_ADMIN --cap-add NET_RAW` (방화벽 규칙을 넣기 위해 필요) |
| 클라이언트 컨테이너 | 공격 역할 `osk-fa-atk`, 정상 사용자 역할 `osk-fa-ok` (`openssh-client`, `sshpass`) |
| 네트워크 | 전용 네트워크 `osk-fa-f2b-net`, 서버의 이름은 `srv.lab` |

서버에만 방화벽 권한을 주었고 포트는 바깥에 열지 않았습니다. 사용자 `labuser`의 비밀번호는 시험용 값이며 실제 계정에는 쓰지 않습니다.

## 1. 시험용 감옥(jail) 설정

<!-- files: jail.local -->

```
[DEFAULT]
ignoreip =
banaction = iptables-multiport

[sshd]
enabled  = true
port     = ssh
backend  = auto
logpath  = /var/log/auth.log
maxretry = 3
findtime = 60
bantime  = 40
```

- **`maxretry = 3`, `findtime = 60`:** 60초 안에 3번 실패하면 차단합니다.
- **`bantime = 40`:** 확인을 빨리 끝내려고 40초로 줄였습니다. 실제로는 훨씬 길게 잡습니다.
- **`ignoreip =`:** 제외할 주소를 비웠습니다. 시험을 단순하게 하려는 것이며, 실제 서버에서는 관리용 주소를 넣어 스스로를 막지 않게 해야 합니다.

## 2. 컨테이너에서 먼저 막힌 두 가지

<!-- files: f2b_demo.sh -->

fail2ban은 `/var/log/auth.log`를 읽는데, 컨테이너에서는 이 파일에 로그가 저절로 쌓이지 않았습니다.

- **rsyslog가 필요합니다.** 컨테이너에는 시스템 로그 데몬이 없어서 sshd의 인증 로그를 받아 줄 `rsyslog`를 따로 설치해 띄워야 했습니다. 로그가 없는 동안 fail2ban의 `Total failed`가 0으로 남아 있었습니다.
- **rsyslog 설정과 순서를 맞춰야 했습니다.** `imklog` 모듈이 컨테이너에서 커널 로그를 읽지 못해(`Operation not permitted`) 시작이 실패했고, 설정에서 그 모듈을 주석 처리한 뒤 `auth.log`의 소유자를 `syslog`로 바꿨습니다. 또 rsyslog보다 sshd를 먼저 띄웠더니 로그가 쌓이지 않아서, rsyslog를 먼저 띄운 뒤 sshd를 시작하는 순서로 고정했습니다. 먼저 뜬 sshd가 끊긴 로그 소켓을 계속 쓰는 것으로 보이며 내부 원인까지는 확인하지 않았습니다.

이 준비는 스크립트의 설치 부분에 들어 있습니다.

## 3. 차단되는 순간

![f2b_demo.sh 실행 결과에서 공격 컨테이너가 3번 Permission denied를 받고 Currently banned 1에 공격 주소가 올라가며, 4번째 시도는 Connection refused, 올바른 비밀번호도 refused, 다른 컨테이너의 올바른 비밀번호는 로그인 성공이고, iptables의 f2b-sshd 체인과 fail2ban 로그의 Found 3번과 Ban을 확인합니다.](https://copyandrun.com/img/fail2ban-sshd-ban-test/01-fail2ban-차단-전후.png)

| 순서 | 공격 컨테이너 | 결과 |
|---|---|---|
| 1~3번째 | 틀린 비밀번호 | `Permission denied, please try again.` |
| 직후 `fail2ban-client status sshd` | | `Total failed 3`, `Currently banned 1`, 공격 컨테이너의 주소가 목록에 있음 |
| 4번째 | 틀린 비밀번호 | `Connection refused` |
| 5번째 | **올바른** 비밀번호 | `Connection refused` |
| 다른 컨테이너 | 올바른 비밀번호 | `로그인성공` |

- **차단되면 비밀번호가 맞아도 들어가지 못합니다.** 4번째부터는 인증 단계까지 가지도 못하고 연결 자체가 거절됩니다. 정상 사용자가 같은 주소를 쓰면 같이 막히므로 NAT 뒤의 여러 사용자가 한 주소를 공유하는 환경에서는 주의해야 합니다.
- **차단은 주소 단위입니다.** 다른 컨테이너(다른 주소)의 로그인은 영향이 없었습니다.
- **서버의 방화벽에는 규칙이 하나 생깁니다.** `f2b-sshd` 체인에 `-s 공격주소/32 -j REJECT --reject-with icmp-port-unreachable`이 들어 있었고, 그래서 클라이언트에는 시간 초과가 아니라 `Connection refused`로 보입니다.
- **fail2ban 로그에는 `Found`가 3번, 그 뒤에 `Ban 공격주소`가 한 줄 남았습니다.** 3번째 실패에서 차단까지는 1초가 채 안 걸렸습니다.

## 4. 차단 풀기

<!-- files: f2b_demo.sh -->

![f2b_demo.sh의 뒷부분 결과에서 수동 해제 직후 올바른 비밀번호로 로그인에 성공하고, 다시 차단한 뒤 Connection refused가 나오다가 약 38초 뒤 자동으로 풀리며 게이트 종료 코드가 0인 것을 확인합니다.](https://copyandrun.com/img/fail2ban-sshd-ban-test/02-fail2ban-수동-자동-해제.png)

### 수동 해제

`fail2ban-client set sshd unbanip 주소`로 풀면 곧바로 올바른 비밀번호로 로그인이 됐습니다.

### 시간이 지나 자동 해제

다시 3번 틀려 차단한 뒤 2초 간격으로 올바른 비밀번호로 접속을 시도해 처음 성공할 때까지 걸린 시간을 쟀습니다. `bantime = 40`에서 세 번 실행해 38초, 39초, 39초였습니다. 

## 5. 게이트로 만들기

`f2b_demo.sh`는 다음 기대가 하나라도 어긋나면 종료 코드 1로 끝납니다.

1. 4번째와 5번째 시도가 `refused`일 것
2. 다른 컨테이너의 로그인은 성공할 것
3. 수동 해제 직후 로그인이 성공할 것
4. 90초 안에 자동으로 풀릴 것

네 가지 모두 기대대로여서 종료 코드는 0이었습니다. fail2ban 설정을 바꿀 때마다 같은 스크립트를 돌려 차단과 해제가 의도대로인지 확인하는 용도로 쓸 수 있습니다.

## 6. 운영에 옮길 때

- **비밀번호 로그인 자체를 끄는 것이 먼저입니다.** 이 글에서는 비밀번호 인증을 켠 상태로만 실험했고, 키 인증만 쓰는 서버의 효과는 확인하지 않았습니다.
- **기본 `bantime`을 길게 잡고, 반복해서 차단되는 주소는 더 길게 막는 방법도 있습니다.** 이 글에서는 시험하지 않았습니다.
- **관리 주소를 `ignoreip`에 넣고, 차단 목록을 주기적으로 확인합니다.** `fail2ban-client status sshd`가 가장 빠른 확인 방법이었습니다.
- **이 글의 차단 규칙은 서버 컨테이너 안의 방화벽에만 들어갔습니다.** 호스트 방화벽 연동은 하지 않았습니다.

## 전체 코드

전체를 한 번에 돌리는 스크립트입니다. 아래 설정 파일과 같은 폴더에서 실행합니다.

```bash
# f2b_demo.sh
#!/usr/bin/env bash
# sshd 가 도는 컨테이너에 fail2ban 을 올리고, 다른 컨테이너에서 비밀번호를 틀려 차단되는지, 차단이 풀리는지 확인한다.
# 준비: Docker, 같은 폴더에 jail.local. 내 PC의 컨테이너끼리만 접속한다(서버에만 NET_ADMIN 권한을 준다).
# 실행(Git Bash): bash f2b_demo.sh   (약 3분)
export MSYS_NO_PATHCONV=1
HERE="$(pwd)"; PW='Correct-Horse-9'
cleanup() { docker rm -f osk-fa-f2b osk-fa-atk osk-fa-ok >/dev/null 2>&1; docker network rm osk-fa-f2b-net >/dev/null 2>&1; }
cleanup; FAIL=0
docker network create osk-fa-f2b-net >/dev/null
docker run -d --name osk-fa-f2b --network osk-fa-f2b-net --network-alias srv.lab --cap-add NET_ADMIN --cap-add NET_RAW ubuntu:24.04 sleep 3600 >/dev/null
for c in osk-fa-atk osk-fa-ok; do docker run -d --name $c --network osk-fa-f2b-net ubuntu:24.04 sleep 3600 >/dev/null; done
docker exec osk-fa-f2b bash -c 'apt-get update -qq >/dev/null; DEBIAN_FRONTEND=noninteractive apt-get install -y -qq openssh-server fail2ban iptables rsyslog >/dev/null 2>&1
  mkdir -p /run/sshd; ssh-keygen -A >/dev/null; useradd -m labuser; echo "labuser:'$PW'" | chpasswd
  sed -i "s/^module(load=\"imklog\".*/#&/" /etc/rsyslog.conf     # 컨테이너에서는 커널 로그를 못 읽는다
  touch /var/log/auth.log; chown syslog:adm /var/log/auth.log'
for c in osk-fa-atk osk-fa-ok; do docker exec $c bash -c 'apt-get update -qq >/dev/null; apt-get install -y -qq openssh-client sshpass >/dev/null 2>&1'; done
docker exec -i osk-fa-f2b sh -c 'cat > /etc/fail2ban/jail.local' < "$HERE/jail.local"
docker exec -d osk-fa-f2b rsyslogd -n; sleep 2           # sshd 보다 먼저 떠야 로그가 남는다
docker exec -d osk-fa-f2b /usr/sbin/sshd -D; sleep 1
docker exec osk-fa-f2b fail2ban-client -x start >/dev/null 2>&1; sleep 3
echo -n "## 0. 버전: "; docker exec osk-fa-f2b fail2ban-client --version | head -1
login() { docker exec "$1" sshpass -p "$2" ssh -o StrictHostKeyChecking=no -o ConnectTimeout=4 labuser@srv.lab "echo 로그인성공" 2>&1 | tail -1; }
jail() { docker exec osk-fa-f2b fail2ban-client status sshd | grep -E 'Currently banned|Total failed|Banned IP' | sed 's/^[ |`-]*/    /'; }
expect() { [ "$2" = "$3" ] || { echo "    ^ 기대와 다름: $2"; FAIL=1; }; }   # expect <설명> <기대 포함 문구> <실제>

echo "## 1. 차단 전: 공격 컨테이너가 비밀번호를 3번 틀림"
for i in 1 2 3; do echo -n "  시도 $i: "; login osk-fa-atk wrong; done
sleep 3; jail
echo "## 2. 차단 후: 4번째 시도와 올바른 비밀번호"
r=$(login osk-fa-atk wrong);   echo "  틀린 비밀번호: $r";   case "$r" in *refused*) ;; *) FAIL=1;; esac
r=$(login osk-fa-atk "$PW");   echo "  올바른 비밀번호: $r"; case "$r" in *refused*) ;; *) FAIL=1;; esac
r=$(login osk-fa-ok "$PW");    echo "  다른 컨테이너(올바른 비밀번호): $r"; case "$r" in *로그인성공*) ;; *) FAIL=1;; esac
echo "  서버의 iptables:"; docker exec osk-fa-f2b iptables -S f2b-sshd | sed 's/^/    /'
echo "  fail2ban 로그:"; docker exec osk-fa-f2b grep -E 'Found|Ban ' /var/log/fail2ban.log | sed 's/^[0-9-]* //' | cut -c1-90 | tail -4 | sed 's/^/    /'

echo "## 3. 수동 해제"
docker exec osk-fa-f2b fail2ban-client set sshd unbanip $(docker exec osk-fa-f2b fail2ban-client status sshd | sed -n 's/.*Banned IP list:[ \t]*//p') >/dev/null
r=$(login osk-fa-atk "$PW"); echo "  해제 직후 올바른 비밀번호: $r"; case "$r" in *로그인성공*) ;; *) FAIL=1;; esac

echo "## 4. 다시 차단하고 시간이 지나 자동으로 풀리는지(bantime 40초)"
for i in 1 2 3; do login osk-fa-atk wrong >/dev/null; done; sleep 2
r=$(login osk-fa-atk "$PW"); echo "  차단 직후: $r"
T0=$(date +%s)
until [ "$(login osk-fa-atk "$PW")" = "로그인성공" ]; do sleep 2; [ $(( $(date +%s) - T0 )) -gt 90 ] && { echo "  90초 안에 풀리지 않음"; FAIL=1; break; }; done
echo "  자동 해제까지 약 $(( $(date +%s) - T0 ))초"
cleanup
echo "## 게이트 종료 코드: $FAIL"
exit $FAIL
```

시험용 감옥 설정입니다.

`jail.local`

```text
# 시험용 sshd 감옥: 60초 안에 3번 실패하면 40초 동안 차단한다.
[DEFAULT]
ignoreip =
banaction = iptables-multiport

[sshd]
enabled  = true
port     = ssh
backend  = auto
logpath  = /var/log/auth.log
maxretry = 3
findtime = 60
bantime  = 40
```

## 자주 막히는 곳

| 증상 | 원인 | 해결 |
|---|---|---|
| `Total failed`가 계속 0 | 인증 로그가 `auth.log`에 안 쌓임 | rsyslog를 먼저 띄우고 sshd를 그 뒤에 시작 |
| `rsyslogd: imklog: cannot open kernel log` | 컨테이너에서 `/proc/kmsg`를 못 읽음 | `imklog` 모듈 줄을 주석 처리 |
| `auth.log` open error: Permission denied | 파일 소유자가 rsyslog 실행 사용자와 다름 | `chown syslog:adm /var/log/auth.log` |
| `rsyslogd: pidfile ... already exist` | 앞서 실행한 프로세스가 남음 | 이전 프로세스를 정리하고 pid 파일을 지운 뒤 다시 시작 |
| 클라이언트가 `Connection refused` | 차단된 상태 | `fail2ban-client set sshd unbanip 주소` 또는 `bantime` 대기 |
| Git Bash에서 `docker exec` 경로가 깨짐 | MSYS 경로 변환 | `MSYS_NO_PATHCONV=1` |

## 확인 범위

- **해 본 것:** 2026-10-30, Windows 11 · Docker 29.5.3 · Ubuntu 24.04 컨테이너 · fail2ban 1.0.2 · OpenSSH(Ubuntu 24.04 패키지)에서 3번 실패 뒤 차단, 차단 중 올바른 비밀번호 거절, 다른 컨테이너의 정상 로그인, iptables 규칙과 로그 확인, 수동 해제, 40초 자동 해제와 네 가지 기대의 게이트(종료 코드 0)를 실행했습니다. 전체 스크립트를 세 번 실행해 결과가 같았고, 끝에 컨테이너와 네트워크를 지웠습니다.
- **해 보지 않은 것:** 키 인증만 쓰는 서버, `recidive` 감옥과 재범 가중, 호스트 방화벽(Windows, WSL) 연동, IPv6, nftables 직접 사용, 이메일 알림, 필터 정규식 수정, 대량 시도의 성능, Linux 호스트와 macOS.
- **읽을 때 주의:** 컨테이너 안에서 rsyslog를 직접 띄운 구성이라 실제 서버(systemd 저널 또는 rsyslog 기본 설치)와 로그 경로가 다를 수 있습니다. `ignoreip`을 비운 설정은 시험용입니다. 공격 주소는 실행마다 다르며, 시간은 38~39초로 측정했으나 환경에 따라 몇 초 달라질 수 있습니다.
