← Kernel Series DUJINLABS.COM

Memory · Linux 6.18.37 LTS · source + diagram note

SLUB

최신 LTS 기준: kernel.org longterm 6.18.37 기준으로 파일 좌표와 링크를 맞춘 문C식 독해 노트입니다. kmem_cache, object allocator, per-cpu freelist. 박사 과정/커널 연구자 기준으로, API 설명보다 invariant, 동시성, lifetime, 성능 모델을 중심에 둔다.

읽는 지도

메모리 코드는 address translation, physical page ownership, reclaim policy, allocation latency가 한꺼번에 얽힌다. 이 층을 박사급으로 읽는다는 것은 '어느 page가 지금 누구 소유인가'와 '그 소유권을 어떤 lock/refcount가 증명하는가'를 끝까지 추적한다는 뜻이다.

먼저 볼 것

함수 이름보다 입력 객체와 출력 객체를 먼저 본다. 이 토픽에서 어떤 구조체가 생성, 연결, publish, retire되는지 표시한다.

다음에 볼 것

정상 경로와 실패 경로를 같은 무게로 본다. kernel code의 품질은 성공 path보다 error unwind, hotplug, teardown에서 더 잘 드러난다.

그림 1. SLUB 이 kernel 안에서 놓이는 위치
virtual addressVMA, fault, kernel mapping
page tablePTE/PMD/PUD, TLB maintenance
struct page/foliorefcount, mapcount, flags
allocator/reclaimzone, LRU, compaction, writeback

왼쪽은 입력 또는 상위 계층이고, 오른쪽으로 갈수록 실제 상태 변경이 커진다. 문C식으로 읽을 때는 이 그림을 먼저 머리에 놓고 코드 조각을 끼워 넣는다.

원본 코드 좌표

Linux 6.18.37 LTS에서 열 파일

원본 코드:
Linux 6.18.37 LTS: mm/slub.c
Linux 6.18.37 LTS: mm/slab_common.c
Linux 6.18.37 LTS: include/linux/slab.h

설명: 첫 파일은 보통 진입 함수가 있는 곳이고, 나머지는 구조체 정의, architecture glue, callback 구현을 확인할 때 같이 연다. 파일을 여러 개 놓고 봐야 이 토픽의 boundary가 보인다.

대표 코드

kmem_cache_alloc

원본 코드: mm/slub.c, around line 3439
		memset((void *)((char *)kasan_reset_tag(obj) + s->offset),
			0, sizeof(void *));
}

/*
 * Inlined fastpath so that allocation functions (kmalloc, kmem_cache_alloc)
 * have the fastpath folded into their functions. So no function call
 * overhead for requests that can be satisfied on the fastpath.
 *
 * The fastpath works by first checking if the lockless freelist can be used.
 * If not then __slab_alloc is called for slow processing.
 *
 * Otherwise we can simply pick the next object from the lockless free list.
 */
static __fastpath_inline void *slab_alloc_node(struct kmem_cache *s, struct list_lru *lru,
		gfp_t gfpflags, int node, unsigned long addr, size_t orig_size)
{
	void *object;
	struct obj_cgroup *objcg = NULL;
	bool init = false;

	s = slab_pre_alloc_hook(s, lru, &objcg, 1, gfpflags);
	if (!s)
		return NULL;

	object = kfence_alloc(s, orig_size, gfpflags);
	if (unlikely(object))
		goto out;

	object = __slab_alloc_node(s, gfpflags, node, addr, orig_size);

	maybe_wipe_obj_freeptr(s, object);
	init = slab_want_init_on_alloc(gfpflags, s);

out:
	/*
	 * When init equals 'true', like for kzalloc() family, only
	 * @orig_size bytes might be zeroed instead of s->object_size
	 */
	slab_post_alloc_hook(s, objcg, gfpflags, 1, &object, init, orig_size);

읽는 법: 이 절편에서 먼저 볼 것은 return 값이 아니라 상태 변경이다. 어떤 lock을 잡은 뒤 어떤 필드를 바꾸는지, 실패하면 어느 label로 빠지는지, 그리고 바뀐 상태를 다음 호출자가 어떤 전제로 소비하는지 표시한다.

slab_alloc_node

원본 코드: mm/slub.c, around line 112
 *   an in-progress slow path operations. In this case the local lock is always
 *   taken but it still utilizes the freelist for the common operations.
 *
 *   lockless fastpaths
 *
 *   The fast path allocation (slab_alloc_node()) and freeing (do_slab_free())
 *   are fully lockless when satisfied from the percpu slab (and when
 *   cmpxchg_double is possible to use, otherwise slab_lock is taken).
 *   They also don't disable preemption or migration or irqs. They rely on
 *   the transaction id (tid) field to detect being preempted or moved to
 *   another cpu.
 *
 *   irq, preemption, migration considerations
 *
 *   Interrupts are disabled as part of list_lock or local_lock operations, or
 *   around the slab_lock operation, in order to make the slab allocator safe
 *   to use in the context of an irq.
 *
 *   In addition, preemption (or migration on PREEMPT_RT) is disabled in the
 *   allocation slowpath, bulk allocation, and put_cpu_partial(), so that the
 *   local cpu doesn't change in the process and e.g. the kmem_cache_cpu pointer
 *   doesn't have to be revalidated in each section protected by the local lock.
 *
 * SLUB assigns one slab for allocation to each processor.
 * Allocations only occur from these slabs called cpu slabs.
 *
 * Slabs with free elements are kept on a partial list and during regular
 * operations no list for full slabs is used. If an object in a full slab is
 * freed then the slab will show up again on the partial lists.
 * We track full slabs for debugging purposes though because otherwise we
 * cannot scan all objects.
 *
 * Slabs are freed when they become empty. Teardown and setup is
 * minimal so we rely on the page allocators per cpu caches for
 * fast frees and allocs.
 *
 * slab->frozen		The slab is frozen and exempt from list processing.
 * 			This means that the slab is dedicated to a purpose
 * 			such as satisfying allocations for a specific
 * 			processor. Objects may be freed in the slab while

읽는 법: 이 절편에서 먼저 볼 것은 return 값이 아니라 상태 변경이다. 어떤 lock을 잡은 뒤 어떤 필드를 바꾸는지, 실패하면 어느 label로 빠지는지, 그리고 바뀐 상태를 다음 호출자가 어떤 전제로 소비하는지 표시한다.

함수별 독해

kmalloc 계열 object allocation을 per-cpu freelist와 slab page로 빠르게 처리하는 allocator다.

이 섹션은 원본 코드 발췌를 함수 이름 단위로 끊어, 각 함수가 어떤 전제 조건을 만들고 다음 함수가 무엇을 소비하는지 추적한다.

그림 2. SLUB 함수 체인과 관찰 지점
entrycaller가 넘기는 객체와 context를 확정
kmem_cache_allocobject layout 확정
slab_alloc_nodeper-cpu freelist pop
observable statetracepoint, counter, sysfs/proc에서 확인되는 결과

각 노드는 독립 함수가 아니라 전제 조건을 생산하고 소비하는 연결점이다. 코드를 읽을 때는 노드 사이에서 어떤 필드가 바뀌는지 표시한다.

1. kmem_cache_alloc

kmem_cache_alloc 주변에서는 kmem_cache를 중심으로 본다. 이 필드는 object size와 constructor 정책 역할을 하므로, 함수가 끝날 때 cache created 상태가 실제로 성립했는지 확인해야 한다.

원본 코드에서 볼 순서는 입력 범위 검증, 중심 필드 갱신, 다른 계층에 보이는 publish 지점, 실패 시 되돌림 순서다. 이 네 칸이 맞아야 다음 함수가 object layout 확정을 전제로 삼을 수 있다.

자주 틀리는 해석: SLUB fastpath가 lockless처럼 보인다고 lifetime이 자동 보장된다고 착각함

2. slab_alloc_node

slab_alloc_node 주변에서는 kmem_cache_cpu를 중심으로 본다. 이 필드는 per-cpu freelist 역할을 하므로, 함수가 끝날 때 fastpath alloc 상태가 실제로 성립했는지 확인해야 한다.

원본 코드에서 볼 순서는 입력 범위 검증, 중심 필드 갱신, 다른 계층에 보이는 publish 지점, 실패 시 되돌림 순서다. 이 네 칸이 맞아야 다음 함수가 per-cpu freelist pop을 전제로 삼을 수 있다.

자주 틀리는 해석: object reuse와 use-after-free를 구분하지 못함

함수입력상태 변경검증 질문
kmem_cache_allockmem_cache, caller context, subsystem 전제 조건cache created: object layout 확정SLUB fastpath가 lockless처럼 보인다고 lifetime이 자동 보장된다고 착각함 문제를 코드상 어느 조건문 또는 error label에서 분리하는가
slab_alloc_nodekmem_cache_cpu, caller context, subsystem 전제 조건fastpath alloc: per-cpu freelist popobject reuse와 use-after-free를 구분하지 못함 문제를 코드상 어느 조건문 또는 error label에서 분리하는가

구조체 / 필드 해설

여기서는 “어떤 구조체가 있다”가 아니라 그 필드가 어느 단계에서 쓰기 가능하고 어느 단계부터 관찰 가능한지를 본다. 박사급 리뷰에서는 필드의 뜻보다 보호 규칙이 먼저다.

그림 3. SLUB 핵심 필드 연결
kmem_cacheobject size와 constructor 정책
kmem_cache_cpuper-cpu freelist
slab pageobject들이 들어 있는 folio/page
freelist pointer다음 free object 연결

필드는 구조체 안에 흩어져 있지만, 실제 실행에서는 위 순서로 의미가 이어진다.

필드읽는 법확인
kmem_cacheobject size와 constructor 정책누가 쓰고, 누가 보호하고, 언제 lifetime이 끝나는지 원본 코드에서 확인
kmem_cache_cpuper-cpu freelist누가 쓰고, 누가 보호하고, 언제 lifetime이 끝나는지 원본 코드에서 확인
slab pageobject들이 들어 있는 folio/page누가 쓰고, 누가 보호하고, 언제 lifetime이 끝나는지 원본 코드에서 확인
freelist pointer다음 free object 연결누가 쓰고, 누가 보호하고, 언제 lifetime이 끝나는지 원본 코드에서 확인

상태 전이 그림

상태 전이를 따로 그리는 이유는 정상 path와 실패 path를 같은 표에서 보기 위해서다. 커널 regression은 흔히 마지막 상태가 아니라 중간 상태를 외부에 publish한 뒤 rollback하지 못해서 생긴다.

그림 4. SLUB 상태 전이
cache createdobject layout 확정
fastpath allocper-cpu freelist pop
slowpath refillpartial slab 이동
free quarantine/debugpoison/redzone 확인

상태 전이는 단방향처럼 그렸지만, 실패 경로에서는 대부분 역순 rollback이 붙는다.

상태의미진입 조건깨지는 지점
cache createdobject layout 확정앞 단계 함수가 전제 조건을 만들고 error path가 정리된 뒤다음 단계가 이 상태를 너무 일찍 소비하거나 늦게 정리할 때
fastpath allocper-cpu freelist pop앞 단계 함수가 전제 조건을 만들고 error path가 정리된 뒤다음 단계가 이 상태를 너무 일찍 소비하거나 늦게 정리할 때
slowpath refillpartial slab 이동앞 단계 함수가 전제 조건을 만들고 error path가 정리된 뒤다음 단계가 이 상태를 너무 일찍 소비하거나 늦게 정리할 때
free quarantine/debugpoison/redzone 확인앞 단계 함수가 전제 조건을 만들고 error path가 정리된 뒤다음 단계가 이 상태를 너무 일찍 소비하거나 늦게 정리할 때
SLUB review rule = state transition + owner transition + visibility transition

불변조건 / 실패 케이스

lifetime

SLUB 의 중심 객체가 publish된 뒤에는 마지막 참조가 사라지기 전까지 teardown path가 모든 callback, timer, IRQ, worker와 경합하지 않아야 한다.

ordering

상태 필드를 바꾼 뒤 다른 CPU나 하위 계층이 관찰할 수 있다면 lock, barrier, refcount, RCU 중 어느 장치가 visibility를 보장하는지 확인한다.

error unwind

중간 단계 실패는 성공 단계의 역순으로 되돌아가야 한다. goto label이 많은 코드는 label 이름보다 어느 resource가 이미 획득됐는지를 표로 적는다.

bring-up symptom

embedded bring-up에서는 panic보다 silence, timeout, deferred probe, interrupt flood처럼 간접 증상으로 드러나는 경우가 많다.

주의

SLUB fastpath가 lockless처럼 보인다고 lifetime이 자동 보장된다고 착각함

주의

object reuse와 use-after-free를 구분하지 못함

주의

debug 옵션이 layout을 바꾸는 점을 놓침

계측 / 검증

계측은 printk 위치 경쟁이 아니라 가설 검증이다. 먼저 위 상태표에서 멈춘 state를 정하고, 그 state를 바꾸는 함수와 그 결과를 소비하는 함수를 동시에 본다.

도구보는 것해석
slabinfoSLUB 의 상태 전이가 어느 지점에서 멈추는지 확인로그가 찍힌 위치를 완료 시점으로 단정하지 말고, 바로 앞뒤 필드 변경을 원본에서 확인
slub_debug=FZPUSLUB 의 상태 전이가 어느 지점에서 멈추는지 확인로그가 찍힌 위치를 완료 시점으로 단정하지 말고, 바로 앞뒤 필드 변경을 원본에서 확인
kmem:kmalloc tracepointSLUB 의 상태 전이가 어느 지점에서 멈추는지 확인로그가 찍힌 위치를 완료 시점으로 단정하지 말고, 바로 앞뒤 필드 변경을 원본에서 확인
KASANSLUB 의 상태 전이가 어느 지점에서 멈추는지 확인로그가 찍힌 위치를 완료 시점으로 단정하지 말고, 바로 앞뒤 필드 변경을 원본에서 확인
기본 추적 골격:
# 예시: tracefs가 켜진 보드에서 토픽별 event를 좁혀 본다.
mount -t tracefs nodev /sys/kernel/tracing
echo function_graph > /sys/kernel/tracing/current_tracer
echo ':mod:*' > /sys/kernel/tracing/set_ftrace_filter
cat /sys/kernel/tracing/trace_pipe

연구 질문

  • SLUB 의 state machine을 네 단계로 줄였을 때, 실제 코드에서 빠지는 intermediate state는 무엇인가?
  • SLUB 의 fast path가 생략한 검사는 어느 init path 또는 slow path에서 보증되는가?
  • 실험으로 확인한다면 'SLUB fastpath가 lockless처럼 보인다고 lifetime이 자동 보장된다고 착각함' 문제를 어떤 tracepoint와 counter로 분리할 수 있는가?
  • 실험으로 확인한다면 'object reuse와 use-after-free를 구분하지 못함' 문제를 어떤 tracepoint와 counter로 분리할 수 있는가?