20 KiB
Linux内核内存管理 第三节
内核中 kmemcheck 介绍
Linux内存管理 章节 描述了Linux内核中 内存管理；本小节是第三部分。 在本章第二节中我们遇到了两个与内存管理相关的概念：
固定映射地址;输入输出重映射.
固定映射地址代表虚拟内存中的一类特殊区域， 这类地址的物理映射地址是在编译期间计算出来的。输入输出重映射表示把输入/输出相关的内存映射到虚拟内存。
例如，查看/proc/iomem命令的输出：
$ sudo cat /proc/iomem
00000000-00000fff : reserved
00001000-0009d7ff : System RAM
0009d800-0009ffff : reserved
000a0000-000bffff : PCI Bus 0000:00
000c0000-000cffff : Video ROM
000d0000-000d3fff : PCI Bus 0000:00
000d4000-000d7fff : PCI Bus 0000:00
000d8000-000dbfff : PCI Bus 0000:00
000dc000-000dffff : PCI Bus 0000:00
000e0000-000fffff : reserved
...
...
...
可以看到系统中每个物理设备对应的内存映射区域。上述输出信息第一列表示各类型内存使用的内存寄存器。第二列展示了内存寄存器所包含的各种类型的内存。再例如：
$ sudo cat /proc/ioports
0000-0cf7 : PCI Bus 0000:00
0000-001f : dma1
0020-0021 : pic1
0040-0043 : timer0
0050-0053 : timer1
0060-0060 : keyboard
0064-0064 : keyboard
0070-0077 : rtc0
0080-008f : dma page reg
00a0-00a1 : pic2
00c0-00df : dma2
00f0-00ff : fpu
00f0-00f0 : PNP0C04:00
03c0-03df : vga+
03f8-03ff : serial
04d0-04d1 : pnp 00:06
0800-087f : pnp 00:01
0a00-0a0f : pnp 00:04
0a20-0a2f : pnp 00:04
0a30-0a3f : pnp 00:04
...
...
...
该命令列出了系统中所有设备注册的输入输出端口。内核不能直接访问设备的输入/输出地址。所以在内核能够使用这些内存之前，内核必须将这些地址映射到虚拟地址空间，这就是输入输出内存映射机制的主要目的。在前面第二节中只介绍了早期的输入输出重映射。很快我们就要来看一看非早期输入输出重映射的实现机制。但在此之前，我们需要学习一些其他的知识，例如不同类型的内存分配器等，不然的话我们很难理解该机制。
所以，在进入Linux内核非早期的内存管理之前，我们要看一些提供特殊功能的机制，例如调试，检查内存泄漏，内存控制等等。学习这些内容有助于我们理解Linux内核中内存管理机制。
从本节的标题中，你可能已经看出来，我们会从 kmemcheck开始了解内存机制。和前面的章节一样，我们首先从理论上学习什么是kmemcheck，然后再来看Linux内核中是怎么实现这一机制的。
让我们开始吧。Linux内核中的kmemcheck到底是什么呢？从该机制的名称上你可能已经猜到， kmemcheck 是检查内存的。你猜的很对。kmemcheck的主要目的就是用来检查是否有内核代码访问 未初始化的内存。让我们看一个简单的C程序：
#include <stdlib.h>
#include <stdio.h>
struct A {
int a;
};
int main(int argc, char **argv) {
struct A *a = malloc(sizeof(struct A));
printf("a->a = %d\n", a->a);
return 0;
}
在上面的程序中我们给结构体A分配了内存，然后我们尝试打印该结构体的成员a。如果我们不使用其他选项来编译该程序：
gcc test.c -o test
编译器不会显示成员 a未初始化的提示信息。但是如果使用工具valgrind来运行该程序，我们会看到如下输出：
~$ valgrind --leak-check=yes ./test
==28469== Memcheck, a memory error detector
==28469== Copyright (C) 2002-2015, and GNU GPL'd, by Julian Seward et al.
==28469== Using Valgrind-3.11.0 and LibVEX; rerun with -h for copyright info
==28469== Command: ./test
==28469==
==28469== Conditional jump or move depends on uninitialised value(s)
==28469== at 0x4E820EA: vfprintf (in /usr/lib64/libc-2.22.so)
==28469== by 0x4E88D48: printf (in /usr/lib64/libc-2.22.so)
==28469== by 0x4005B9: main (in /home/alex/test)
==28469==
==28469== Use of uninitialised value of size 8
==28469== at 0x4E7E0BB: _itoa_word (in /usr/lib64/libc-2.22.so)
==28469== by 0x4E8262F: vfprintf (in /usr/lib64/libc-2.22.so)
==28469== by 0x4E88D48: printf (in /usr/lib64/libc-2.22.so)
==28469== by 0x4005B9: main (in /home/alex/test)
...
...
...
实际上kmemcheck在内核空间做的事情，和valgrind在用户空间做的事情是一样的，都是用来检测未初始化的内存。
要想在内核启用该机制，配置内核时在内核选项菜单要使能CONFIG_KMEMCHECK选项：
Kernel hacking
-> Memory Debugging
我们不仅可以在内核中使能kmemcheck机制，它还提供了一些配置选项。我们可以在本小节的下一个段落中看到所有的选项。最后一个需要注意的是，kmemcheck 仅在 x86_64 体系中实现了。为了确信这一点，我们可以查看x86的内核配置文件 arch/x86/Kconfig：
config X86
...
...
...
select HAVE_ARCH_KMEMCHECK
...
...
...
因此，对于其他的体系结构来说，kmemcheck 功能是不存在的。
现在我们知道了kmemcheck可以检测内核中未初始化内存的使用情况，也知道了如何开启这个功能。那么kmemcheck是怎么做检测的呢？当内核尝试分配内存时，例如如下一段代码：
struct my_struct *my_struct = kmalloc(sizeof(struct my_struct), GFP_KERNEL);
或者换句话说，在进程访问page时发生了缺页中断。kmemcheck将内存页标记为不存在（关于Linux内存分页的相关信息，你可以参考分页）。如果一个 缺页中断异常发生了，异常处理程序会来处理这个异常，如果异常处理程序检测到内核使能了 kmemcheck，那么就会将控制权提交给 kmemcheck来处理；kmemcheck检查完之后，该内存页会被标记为存在，然后异常处理程序得到控制权继续执行下去。 这里的处理方式比较巧妙。异常处理程序第一条指令执行时，kmemcheck会标记内存页为不存在，按照这种方式，下一个对内存页的访问也会被捕获。
目前我们只是从理论层面考察了 kmemcheck，接下来我们看一下Linux内核是怎么来实现该机制的。
kmemcheck机制在Linux内核中的实现方式
我们应该已经了解kmemcheck是做什么的以及它在Linux内核中的功能，现在是时候看一下它在Linux内核中的实现。 kmemcheck在内核的实现分为两部分。第一部分是架构无关的部分，位于源码 mm/kmemcheck.c；第二部分 x86_64架构相关的部分位于目录arch/x86/mm/kmemcheck中。
我们先分析该机制的初始化过程。我们已经知道要在内核中使能kmemcheck机制，需要开启内核的CONFIG_KMEMCHECK配置项。除了这个选项，我们还需要给内核command line传递一个kmemcheck参数：
- kmemcheck=0 (disabled)
- kmemcheck=1 (enabled)
- kmemcheck=2 (one-shot mode)
前面两个值得含义很明确，但是最后一个需要一点解释。这个选项会使kmemcheck进入一种特殊的模式：在第一次检测到未初始化内存的使用之后，就会关闭kmemcheck。实际上该模式是内核的默认选项：
从Linux初始化过程章节的第七节part中，我们知道在内核初始化过程中，会在do_initcall_level, do_early_param等函数中解析内核command line。前面也提到过 kmemcheck子系统由两部分组成，第一部分启动比较早。在源码 mm/kmemcheck.c中有一个函数 param_kmemcheck，该函数在command line解析时就会用到:
static int __init param_kmemcheck(char *str)
{
int val;
int ret;
if (!str)
return -EINVAL;
ret = kstrtoint(str, 0, &val);
if (ret)
return ret;
kmemcheck_enabled = val;
return 0;
}
early_param("kmemcheck", param_kmemcheck);
从前面的介绍我们知道param_kmemcheck可能存在三种情况：0 (使能), 1 (禁止) or 2 (一次性)。param_kmemcheck的实现很简单：将command line传递的kmemcheck参数的值由字符串转换为整数，然后赋值给变量kmemcheck_enabled。
第二阶段在内核初始化阶段执行，但不是在早期初始化过程 initcalls。第二阶断的过程体现 kmemcheck_init: kmemcheck_init:
int __init kmemcheck_init(void)
{
...
...
...
}
early_initcall(kmemcheck_init);
```
`kmemcheck_init`的主要目的就是调用 `kmemcheck_selftest` 函数，并检查它的返回值：
if (!kmemcheck_selftest()) {
printk(KERN_INFO "kmemcheck: self-tests failed; disabling\n");
kmemcheck_enabled = 0;
return -EINVAL;
}
printk(KERN_INFO "kmemcheck: Initialized\n");
```
如果kmemcheck_init检测失败，就返回EINVAL 。 kmemcheck_selftest函数会检测内存访问相关的操作码（例如 rep movsb, movzwq)的大小。如果检测到的大小的实际大小是一致的，kmemcheck_selftest返回 true，否则返回 false。
如果如下代码被调用:
struct my_struct *my_struct = kmalloc(sizeof(struct my_struct), GFP_KERNEL);
经过一系列的函数调用，kmem_getpages函数会被调用到，该函数的定义在源码 mm/slab.c中，该函数的主要功能就是尝试按照指定的参数需求分配内存页。在该函数的结尾处有如下代码：
if (kmemcheck_enabled && !(cachep->flags & SLAB_NOTRACK)) {
kmemcheck_alloc_shadow(page, cachep->gfporder, flags, nodeid);
if (cachep->ctor)
kmemcheck_mark_uninitialized_pages(page, nr_pages);
else
kmemcheck_mark_unallocated_pages(page, nr_pages);
}
这段代码判断如果kmemcheck使能，并且参数中未设置SLAB_NOTRACK，那么就给分配的内存页设置 non-present标记。SLAB_NOTRACK标记的含义是不跟踪未初始化的内存。另外，如果缓存对象有构造函数（缓存细节在下面描述），所分配的内存页标记为未初始化，否则标记为未分配。kmemcheck_alloc_shadow函数在源码mm/kmemcheck.c中，其基本内容如下：
void kmemcheck_alloc_shadow(struct page *page, int order, gfp_t flags, int node)
{
struct page *shadow;
shadow = alloc_pages_node(node, flags | __GFP_NOTRACK, order);
for(i = 0; i < pages; ++i)
page[i].shadow = page_address(&shadow[i]);
kmemcheck_hide_pages(page, pages);
}
首先为shadow bits分配内存，并为内存页设置shadow位。如果内存页设置了该标记，就意味着kmemcheck会跟踪这个内存页。最后调用kmemcheck_hide_pages函数。kmemcheck_hide_pages是体系结构相关的函数，其代码在 arch/x86/mm/kmemcheck/kmemcheck.c源码中。该函数的功能是为指定的内存页设置non-present标记。该函数实现如下：
void kmemcheck_hide_pages(struct page *p, unsigned int n)
{
unsigned int i;
for (i = 0; i < n; ++i) {
unsigned long address;
pte_t *pte;
unsigned int level;
address = (unsigned long) page_address(&p[i]);
pte = lookup_address(address, &level);
BUG_ON(!pte);
BUG_ON(level != PG_LEVEL_4K);
set_pte(pte, __pte(pte_val(*pte) & ~_PAGE_PRESENT));
set_pte(pte, __pte(pte_val(*pte) | _PAGE_HIDDEN));
__flush_tlb_one(address);
}
}
该函数遍历所有的内存页，并尝试获取每个内存页的页表项。如果获取成功，清理页表项的present标记，设置页表项的hidden标记。在最后刷新translation lookaside buffer,因为有一些内存页已经发生了改变。从这个地方开始，内存页就进入 kmemcheck的跟踪系统。因为内存页的present标记被清除了，一旦 kmalloc返回了内存地址，并且有代码访问这个地址，就会触发缺页中断。
在Linux内核初始化这章的第二节介绍过，缺页中断处理程序位于arch/x86/mm/fault.c的 do_page_fault函数中。该函数开始部分如下：
static noinline void
__do_page_fault(struct pt_regs *regs, unsigned long error_code,
unsigned long address)
{
...
...
...
if (kmemcheck_active(regs))
kmemcheck_hide(regs);
...
...
...
}
kmemcheck_active函数获取kmemcheck_context per-cpu结构体，并返回该结构体成员balance和0的比较结果：
bool kmemcheck_active(struct pt_regs *regs)
{
struct kmemcheck_context *data = this_cpu_ptr(&kmemcheck_context);
return data->balance > 0;
}
kmemcheck_context结构体代表 kmemcheck机制的当前状态。其内部保存了未初始化的地址，地址的数量等信息。其成员 balance代表了 kmemcheck的当前状态，换句话说，balance表示 kmemcheck是否已经隐藏了内存页。如果data->balance大于0， kmemcheck_hide 函数会被调用。这意味着 kmemecheck已经设置了内存页的present标记，但是我们需要再次隐藏内存页以便触发下一次的缺页中断。 kmemcheck_hide函数会清理内存页的 present标记，这表示一次kmemcheck会话已经完成，新的缺页中断会再次被触发。在第一步，由于data->balance 值为0，所以kmemcheck_active会返回false，所以 kmemcheck_hide也不会被调用。接下来，我们看do_page_fault的下一行代码：
if (kmemcheck_fault(regs, address, error_code))
return;
首先 kmemcheck_fault 函数检查引起错误的真实原因。第一步先检查标记寄存器以确认进程是否处于正常的内核态：
if (regs->flags & X86_VM_MASK)
return false;
if (regs->cs != __KERNEL_CS)
return false;
如果检测失败，表明这不是kmemcheck相关的缺页中断，kmemcheck_fault会返回。如果检测成功，接下来查找发生异常的地址的页表项，如果找不到页表项，函数返回false:
pte = kmemcheck_pte_lookup(address);
if (!pte)
return false;
kmemcheck_fault最后一步是调用kmemcheck_access 函数，该函数检查对指定内存页的访问，并设置该内存页的present标记。 kmemcheck_access函数做了大部分工作，它检查引起缺页异常的当前指令，如果检查到了错误，那么会把该错误的上下文保存到循环队列中：
static struct kmemcheck_error error_fifo[CONFIG_KMEMCHECK_QUEUE_SIZE];
kmemcheck声明了一个特殊的 tasklet:
static DECLARE_TASKLET(kmemcheck_tasklet, &do_wakeup, 0);
该tasklet被调度执行时，会调用do_wakeup函数，该函数位于arch/x86/mm/kmemcheck/error.c文件中。
do_wakeup函数调用kmemcheck_error_recall函数以便将kmemcheck检测到的错误信息输出。
kmemcheck_show(regs);
kmemcheck_fault函数结束时会调用kmemcheck_show函数，该函数会再次设置内存页的present标记。
if (unlikely(data->balance != 0)) {
kmemcheck_show_all();
kmemcheck_error_save_bug(regs);
data->balance = 0;
return;
}
kmemcheck_show_all函数会针对每个地址调用kmemcheck_show_addr：
static unsigned int kmemcheck_show_all(void)
{
struct kmemcheck_context *data = this_cpu_ptr(&kmemcheck_context);
unsigned int i;
unsigned int n;
n = 0;
for (i = 0; i < data->n_addrs; ++i)
n += kmemcheck_show_addr(data->addr[i]);
return n;
}
kmemcheck_show_addr函数内容如下:
int kmemcheck_show_addr(unsigned long address)
{
pte_t *pte;
pte = kmemcheck_pte_lookup(address);
if (!pte)
return 0;
set_pte(pte, __pte(pte_val(*pte) | _PAGE_PRESENT));
__flush_tlb_one(address);
return 1;
}
在函数 kmemcheck_show的结尾处会设置TF 标记：
if (!(regs->flags & X86_EFLAGS_TF))
data->flags = regs->flags;
我们之所以这么处理，是因为我们在内存页的缺页中断处理完后需要再次隐藏内存页。当 TF标记被设置后，处理器在访问指令异常后会进入单步模式，这会触发debug 异常。从这个地方开始，内存页会被隐藏起来，执行流程继续。由于内存页不可见，那么访问内存页的时候又会触发缺页中断，然后kmemcheck就有机会继续检测/手机内存错误信息并显示这些错误信息。
到这里kmemcheck的工作机制就介绍完毕了。
总结
Linux内核内存管理第三节介绍到此为止。如果你有任何疑问或者建议，你可以直接发消息给我0xAX, 给我发邮件，或者创建一个issue. 在接下来的小节中，我们来看一下另一个内存调试工具 - kmemleak。
英文不是我的母语。如果你发现我的英文描述有任何问题，请提交一个PR到 linux-insides.