SD18. 의도하지 않은 부호 확장 — 원본 타입으로 직접 검사하도록 치환

원본 항목: Part 1-4. 정수·타입변환 계열 — 18. 의도하지 않은 부호 확장 CWE-194 repo 폴더: sd18_signext/ (빌드·실행은 §3-1) 목표 시간: 1회차 15분 / 2회차 9분 / 3회차 6분 int → short 축소 변환은 구현정의 동작(UB 아님)이라 UBSan이 잡아주지 않는다. 그런데도 실제로 배열이 크게 벗어나 SIGSEGV로 확실히 크래시한다 — 새니타이저가 안 잡아주는 함정도 있다는 걸 체감하는 드릴이다.

이 드릴의 문서 구성 (SD01~SD58 공통)

① 요구사항서 — 어떤 코드가 뚫려 있고, 무엇을 만드나. ② pseudo code 템플릿 — Bad 와 Good 의 뼈대이고, 회차마다 가린다. ③ 테스트 코드 — 공격은 막히고 정상은 통과해야 끝이다. ④ 자주 하는 실수 ⑤ 모범답안 — 맨 뒤에 접어 둔다.

변형 A/B/C 는 같은 치환 규칙을 다른 소재로 다시 치는 것이다.


0. 이 드릴로 체화할 것

- s = (short)id;              /* int -> short, 음수화 가능 */
- if (s > 256) return -1;     /* 음수는 이 검사를 통과해버린다 */
- sz = (unsigned)s;           /* 음수 -> unsigned, 거대한 값 */
- return info[sz];
+ if (id < 0 || (size_t)id >= info_size) return -1;   /* 원본 int로 직접, 축소 변환 없이 검사 */
+ return info[id];

형 변환 전에 “축소했을 때 음수가 될 수 있는가”를 묻지 말고, 아예 축소 변환을 하지 않는다 — 이게 이 항목의 가장 확실한 치환이다.

회차별 진행

회차변형보는 것순서
1회차A ID로 정보 배열 조회① 요구사항서
② pseudo code 전체
1. Bad 를 그대로 쳐서 취약점을 관찰한다.
2. Good pseudo 를 한 줄씩 코드로 바꾼다.
3. ③ 테스트를 실행한다.
2회차B 권한 등급 비교① 요구사항서
② pseudo code 의 번호와 제목만 (Level 2)
1. Bad 를 치고 취약점을 확인한다.
2. 번호만 보고 Good 을 쓴다.
3. ③ 테스트를 실행한다.
3회차C 뺄셈 결과가 음수가 되지 않는지 사전 확인① 요구사항서만1. ③ 테스트를 먼저 읽는다.
2. 백지에서 Bad 부터 Good 까지 재현한다.

1회차에 막히면 같은 변형을 한 번 더 친다. 3회차를 통과하면 A 를 백지로 다시 친다.


1. 요구사항서

1-A. 변형 A — ID로 정보 배열 조회

사용자 ID(id)로 300칸짜리 정보 배열을 조회한다.

  • id 는 0 이상 300 미만이어야 한다.

함수

int lookup_info_bad(int id, const int *info);
int lookup_info_good(int id, const int *info, size_t info_size);

공격 입력표

idBad 결과이유
10 (정상)정상 값 반환유효 범위
40000SIGSEGV로 크래시short 로 잘리며 -25536 이 되어 s > 256 검사를 통과, 이후 unsigned 로 뒤집혀 info[4294941760] 접근

1-B. 변형 B — 권한 등급 비교

short level = (short)userLevel; 로 권한 등급을 비교하는 코드에서, 음수로 뒤집힌 값이 “가장 높은 권한”으로 오판되는 시나리오

1-C. 변형 C — 뺄셈 결과가 음수가 되지 않는지 사전 확인

PDF 원문의 if (userLevel > penalty) userLevel -= penalty; else userLevel = 0; 패턴을 직접 짜보고, 이 검사가 왜 필요한지 SD18의 문맥에서 설명해본다


2. pseudo code 템플릿 — 보고 쳐서 익힌다

사용법 변형별로 아래 pseudo code 를 소스 파일에 주석만 복사한다. 코드는 주석을 보고 내가 쓴다. 다 쓰면 [ ] 를 x 로 바꾼다. 막히면 §5 모범답안(A)의 해당 단계만 본다.

2-A. lookup_info_good — Level 1 (1회차, 전부 본다)

먼저 Bad 를 그대로 쳐서 §3 의 test_bad_is_vulnerable 이 통과하는지(= 실제로 뚫리는지) 확인한다. 그다음 Good 을 쓴다.

int lookup_info_bad(int id, const int *info)
{
    /* 1. short s = (short)id      ← 축소 변환, 음수화 가능
     * 2. s > 256 이면 return -1   ← 음수는 통과
     * 3. unsigned sz = (unsigned)s ← 음수 → 거대한 값
     * 4. return info[sz] */
}
 
int lookup_info_good(int id, const int *info, size_t info_size)
{
    /* [ ] 1. 원본 int 로 직접 범위 검사 (축소 변환 없이)
     *        id < 0 또는 (size_t)id >= info_size → return -1 */
 
    /* [ ] 2. return info[id] */
}

2-B. lookup_info_good — Level 2 (2회차, 번호와 제목만 본다)

int lookup_info_good(int id, const int *info, size_t info_size)
{
    /* [ ] 1. 원본 int 로 직접 범위 검사 (축소 변환 없이) */
 
    /* [ ] 2. return info[id] */
}

2-C. lookup_info_good — Level 3 (3회차, 백지)

int lookup_info_good(int id, const int *info, size_t info_size)
{
    /* 아무것도 안 본다.
     * §1 요구사항서와 §0 의 치환 규칙만 보고 친다.
     *
     * 막히면 아래만 찾아본다.
     *   - `short` / `unsigned` 변환 자체를 하지 않는다
     */
}

막혔을 때 찾는 순서

  1. 컴파일 에러가 나면 에러 문구를 본다. unknown type name / implicit declaration 이면 include 누락이다.
  2. man 3 <함수> 를 연다. SYNOPSIS 맨 위의 #include 를 확인한다.
  3. 로직이 막히면 §3 테스트의 기대값을 먼저 읽는다. 공격 입력표(§1)와 테스트가 답이다.
  4. 그래도 안 되면 모범답안의 해당 단계 하나만 본다.

3. 테스트 코드 — 이게 통과하면 끝

sd18_signext/src/info_lookup.h
sd18_signext/src/info_lookup.c
sd18_signext/test/test.c

시험 구조는 고정이다 (SD01~SD58 공통)

  1. Bad 가 실제로 뚫린다. 이 시험이 실패하면 Bad 를 잘못 옮겨 적은 것이다.
  2. Bad 도 정상 입력은 처리한다.
  3. Good 이 같은 공격을 막는다.
  4. Good 이 정상 입력까지 막지 않는다. (과잉 차단 없음)

3-0. 왜 UBSan이 못 잡는가

short s = (short)40000;   /* 40000 은 short(16비트) 범위 밖 -> 이 대입 자체는 UB가 아니라 "구현정의" */

C 표준은 부호 있는 정수형이 표현 범위를 넘는 값으로 변환될 때의 결과를 “구현정의(implementation-defined)“로 규정한다(연산 중 오버플로우인 SD17과는 다른 조항이다). 대부분의 실제 컴파일러(x86 GCC/Clang)는 하위 비트만 잘라내는 방식으로 동작해 40000 이 -25536 이 되지만, 표준적으로 보장된 동작은 아니고 새니타이저가 위반으로 보지도 않는다. 그런데 그렇게 만들어진 음수가 unsigned 로 다시 뒤집히면서(SD19와 이어지는 패턴) 배열 인덱스가 40억대로 치솟아 실제 메모리 미매핑 영역을 건드리게 되고, 이건 새니타이저 유무와 무관하게 OS가 SIGSEGV로 죽인다.

3-A. 변형 A 시험 — 이 형태를 고정한다

#define _DEFAULT_SOURCE
#include <stdio.h>
#include <sys/wait.h>
#include <unistd.h>
#include "info_lookup.h"
 
static int g_fail = 0;
#define T_TRUE(cond, msg) \
    do { if (!(cond)) { g_fail++; \
        printf("  X %s:%d %s\n", __func__, __LINE__, msg); } } while (0)
 
static int expect_crash(void (*fn)(void))
{
    pid_t pid = fork();
    if (pid == 0) { fn(); _exit(0); }
    int status = 0;
    waitpid(pid, &status, 0);
    if (WIFSIGNALED(status)) return 1;
    if (WIFEXITED(status) && WEXITSTATUS(status) != 0) return 1;
    return 0;
}
 
static int g_id;
static int g_info[300];
static void call_bad(void) { (void)lookup_info_bad(g_id, g_info); }
 
static void test_bad_is_vulnerable(void)
{
    g_id = 40000;
    T_TRUE(expect_crash(call_bad) == 1,
        "Bad는 short로 잘리며 음수가 된 값이 거대한 unsigned 인덱스가 되어 크래시해야 한다(취약점 재현)");
}
 
static void test_bad_normal(void)
{
    g_id = 10;
    T_TRUE(expect_crash(call_bad) == 0, "정상 범위의 id는 크래시 없이 동작해야 한다");
}
 
static void test_good_blocks_wraparound(void)
{
    T_TRUE(lookup_info_good(40000, g_info, 300) == -1,
        "Good은 범위를 넘는 id를 원본 int로 직접 검사해 거부해야 한다");
    T_TRUE(lookup_info_good(-1, g_info, 300) == -1, "음수 id도 거부해야 한다");
}
 
static void test_good_normal(void)
{
    g_info[10] = 99;
    T_TRUE(lookup_info_good(10, g_info, 300) == 99, "정상 id는 값을 정확히 반환해야 한다");
}
 
int main(void)
{
    test_bad_is_vulnerable();
    test_bad_normal();
    test_good_blocks_wraparound();
    test_good_normal();
    printf(g_fail ? "FAIL %d\n" : "PASS\n", g_fail);
    return g_fail ? 1 : 0;
}

3-B · 3-C. 변형 B / C 시험

3-A 와 같은 4종 구조에서 호출 함수와 입력만 바꾼다.

변형 B — 권한 등급 비교

입력BadGood
short level = (short)userLevel, userLevel = 65535음수로 뒤집혀 최고 권한원본 타입으로 비교 → 거부
userLevel = 3정상정상

변형 C — 뺄셈 결과가 음수가 되지 않는지 사전 확인

입력BadGood
userLevel > penalty 가 아닌데 -=음수/감김userLevel = 0 으로 보정
userLevel > penalty정상정상

3-1. 빌드와 실행 (Makefile, gcc)

Makefile 은 템플릿 체화 드릴 README 와 같은 파일이다. recipe 줄은 반드시 탭으로 들여쓴다.

실행 명령이다.

make D=sd18_signext V=main SRC="sd18_signext/src/info_lookup.c sd18_signext/test/test.c"
  • 마지막 줄이 PASS 이고 경고 0 이면 통과다.
  • -Werror 때문에 컴파일이 안 되면 테스트 이전에 코드를 고친다.

4. 자주 하는 실수

실수왜 문제인가
short s = (short)id; 를 그대로 두고 if (s < 0) 검사만 추가이미 축소 변환이 일어난 뒤에 검사하는 것이라 늦다.
축소 자체를 하지 않는 것이 유일한 확실한 해법이다
unsigned 변환 직전에만 if (s < 0) return -1; 을 넣고 원본 id 상한(300)은 검사 안 함부호 문제는 막아도, id 가 300~32767 사이의 정상 양수 short 범위라면 여전히 배열을 벗어난다.
상한 검사는 별개로 필요하다
이 항목도 SD17처럼 UBSan이 잡아줄 거라 기대함대입에 의한 축소 변환은 구현정의이지 UB가 아니다 — 새니타이저에 기대지 말고 코드 자체를 정확히 짜야 하는 항목이다

5. 모범답안 (변형 A)


관련 노트