动态扩容与缩减:Linux 内存热插拔流程与内存块迁移机制

/* include/linux/memory_hotplug.h:35 */typedef int __bitwise mhp_t;#define MHP_NONE              ((__force mhp_t)0)#define MHP_MERGE_RESOURCE    ((__force mhp_t)BIT(0))#define MHP_MEMMAP_ON_MEMORY  ((__force mhp_t)BIT(1))#define MHP_NID_IS_MGID       ((__force mhp_t)BIT(2))

# mm/Kconfigmenuconfig MEMORY_HOTPLUG    bool "Memory hotplug"    select MEMORY_ISOLATION    depends on SPARSEMEM              ← 只有 SPARSEMEM 支持    depends on ARCH_ENABLE_MEMORY_HOTPLUG  ← 架构级门控    depends on 64BIT                  ← 仅 64 位系统    select NUMA_KEEP_MEMINFO if NUMA

config MEMORY_HOTREMOVE    bool "Allow for memory hot remove"    select HAVE_BOOTMEM_INFO_NODE if (X86_64 || PPC64)    depends on MEMORY_HOTPLUG && ARCH_ENABLE_MEMORY_HOTREMOVE    depends on MIGRATION              ← 需要页面迁移支持

config MHP_MEMMAP_ON_MEMORY    def_bool y    depends on MEMORY_HOTPLUG && SPARSEMEM_VMEMMAP && ARCH_MHP_MEMMAP_ON_MEMORY_ENABLE

sysfs write / ACPI event / virtio-mem driver        │        ▼    add_memory(nid, start, size, mhp_flags)        │ lock_device_hotplug()        ▼    __add_memory(nid, start, size, mhp_flags)        │        ├── register_memory_resource(start, size, "System RAM")        │       → mhp_range_allowed()          // 检查物理地址合法性        │       → __request_region()           // 在 /proc/iomem 中保留        │        ▼    add_memory_resource(nid, res, mhp_flags)        │        ├── check_hotplug_memory_range()       // 对齐检查        ├── mem_hotplug_begin()                // percpu 写锁 + CPU hotplug 读锁        ├── memblock_add_node()                // 注册到 memblock 分配器        ├── __try_online_node()                // 如 node 首次出现，初始化        ├── [分支：MHP_MEMMAP_ON_MEMORY]        │       → create_altmaps_and_memory_blocks()  // vmemmap 在新内存上        │   [否则]        │       → arch_add_memory() + create_memory_block_devices()        ├── register_memory_blocks_under_node_hotplug()        ├── firmware_map_add_hotplug()        ├── mem_hotplug_done()        └── [自动上线] mhp_get_default_online_type() != MMOP_OFFLINE                → online_memory_block()

用户态 sysfs / driver 请求        │        ▼    offline_pages(start_pfn, nr_pages, zone, group)        │ 迁移循环（见第 8 节）        ▼    __offline_isolated_pages()           // 从 buddy 移除隔离页面    remove_pfn_range_from_zone()        │        ▼    remove_memory(start, size)        │ lock_device_hotplug()        ▼    try_remove_memory(start, size)        │        ├── walk_memory_blocks() + check_memblock_offlined_cb()  // 检查全部 offline        ├── firmware_map_remove()        ├── mem_hotplug_begin()        ├── [无 altmap] remove_memory_block_devices() + arch_remove_memory()        │   [有 altmap] remove_memory_blocks_and_altmaps()        ├── memblock_remove()            // 如 CONFIG_ARCH_KEEP_MEMBLOCK        ├── release_mem_region_adjustable()        ├── try_offline_node(nid)        // node 无内存时 offline        └── mem_hotplug_done()

/* mm/memory_hotplug.c */offline_and_remove_memory()    ├── walk_memory_blocks() + try_offline_memory_block()  // 逐个 offline    ├── try_remove_memory()                                // 物理移除    └── [部分失败] try_reonline_memory_block()             // 回滚

add_memory(0, 0x100000000, 0x40000000, MHP_NONE)    │    │ 步骤 1: __add_memory() 注册 iomem resource    │   register_memory_resource(0x100000000, 0x40000000, "System RAM")    │   → /proc/iomem 中出现: "100000000-13fffffff : System RAM"    │    │ 步骤 2: add_memory_resource() 核心逻辑    │   check_hotplug_memory_range()     ← 检查 1GB 对齐到 section    │   mem_hotplug_begin()              ← 获取 percpu 写锁    │   memblock_add_node(0, 0x100000000, 0x40000000)  ← 注册到 memblock    │   __try_online_node(0)             ← node 0 可能已经 online，跳过    │    │ 步骤 3: MHP_MEMMAP_ON_MEMORY 分支    │   如果设置了 MHP_MEMMAP_ON_MEMORY:    │     create_altmaps_and_memory_blocks()    │       逐 memory block:    │         构造 vmem_altmap    │         arch_add_memory(0, block_start, block_size, &params)    │           → __add_pages() 按 section 迭代:    │               for each section:    │                   sparse_add_section()  ← 创建 struct page + 页表映射    │         create_memory_block_devices()  ← 创建 sysfs 设备节点    │   否则:    │     arch_add_memory() + create_memory_block_devices()    │    │ 步骤 4: 注册到 node    │   register_memory_blocks_under_node_hotplug()    │   firmware_map_add_hotplug()    │    │ 步骤 5: 自动上线    │   如果 mhp_get_default_online_type() != MMOP_OFFLINE:    │     online_memory_block()  ← 内存立即可用于分配    │    │ 步骤 6: 释放锁    │   mem_hotplug_done()

/* mm/memory_hotplug.c:1898 */int offline_pages(unsigned long start_pfn, unsigned long nr_pages,                  struct zone *zone, struct memory_group *group)

/* mm/memory_hotplug.c:1994-2039 — 核心迁移循环 */do {    /* 可中断 — 用户可 Ctrl+C 终止长时间 offlining */    if (signal_pending(current)) {        ret = -EINTR;        goto failed_removal;    }    /* 设置 offlining 标志，告知其他子系统正在进行 offline */    set_mem_offlining(start_pfn, end_pfn);    /* 扫描可迁移页面：LRU 页、movable_ops 页、hugetlb 页 */    pfn = start_pfn;    do {        ret = scan_movable_pages(pfn, end_pfn, &pfn);        if (ret)            break;        /* 实际页面迁移 */        do_migrate_range(pfn, end_pfn);        cond_resched();    } while (pfn < end_pfn);    /* 释放 free hugetlb folio */    dissolve_free_hugetlb_folios(start_pfn, end_pfn);    /* 清除 offlining 标志 */    unset_mem_offlining(start_pfn, end_pfn);    /* 验证：所有页面是否已成功隔离？ */    ret = test_pages_isolated(start_pfn, end_pfn, false);} while (ret == -EBUSY);

/* mm/memory_hotplug.c:1742 */static int scan_movable_pages(unsigned long start, unsigned long end,                              unsigned long *movable_pfn){    for (pfn = start; pfn < end; pfn++) {        page = pfn_to_page(pfn);        /* PageLRU → 可迁移（匿名页或 page cache） */        if (PageLRU(page) || page_has_movable_ops(page))            goto found;        /* PageOffline + refcount > 0 → 不可迁移 */        if (PageOffline(page) && page_count(page))            return -EBUSY;        /* hugetlb + migratable → 可迁移 */        folio = page_folio(page);        if (!folio_test_hugetlb(folio))            continue;        if (folio_test_hugetlb_migratable(folio))            goto found;        /* 跳过巨大的 hugetlb 块 */        pfn |= nr_pages - 1;    }    return -ENOENT;found:    *movable_pfn = pfn;    return 0;}

/* mm/memory_hotplug.c:1789 */static void do_migrate_range(unsigned long start_pfn, unsigned long end_pfn){    LIST_HEAD(source);    /* 1. 遍历 pfn 范围，对每个 folio 尝试获取引用 */    for (pfn = start_pfn; pfn < end_pfn;) {        folio = page_folio(pfn_to_page(pfn));        if (!folio_try_get(folio)) { pfn++; continue; }        /* 2. 跳过 poisoned huge folio */        if (folio_test_hugetlb(folio) && folio_test_hwpoisoned(folio))            goto next;        /* 3. 隔离到迁移列表 */        if (!isolate_folio_to_list(folio, &source))            goto next;        pfn += folio_nr_pages(folio);next:        folio_put(folio);    }    /* 4. 用 MIGRATE_SYNC 模式迁移整个列表 */    if (!list_empty(&source)) {        ret = migrate_pages(&source, alloc_migration_target, NULL, 0,                            MIGRATE_SYNC, MR_MEMORY_HOTPLUG, NULL);        /* 5. 失败时回退 */        if (ret)            putback_movable_pages(&source);    }}

/* mm/page_alloc.c:7368 */unsigned long __offline_isolated_pages(unsigned long start_pfn,                                        unsigned long end_pfn)

/* mm/memory_hotplug.c:1490 */int add_memory_resource(int nid, struct resource *res, mhp_t mhp_flags){    /* ... 正常流程 ... */    /* 错误回滚：按依赖关系倒序释放 */    error:        if (new_node) { node_set_offline(); unregister_node(); }    error_memblock_remove:        memblock_remove(nid, start, size);    error_mem_hotplug_end:        mem_hotplug_done();        release_memory_resource(res);        return ret;}

/* mm/memory_hotplug.c:2234 */static int try_remove_memory(u64 start, u64 size){    /* 1. 检查所有 memory block 是否已 offline */    walk_memory_blocks(start, size, &nid, check_memblock_offlined_cb);    if (ret)        return -EBUSY;  /* 有 block 仍然 online */    /* 2. 只有在全部 offline 后才开始物理拆除 */    mem_hotplug_begin();    /* ... arch_remove_memory, memblock_remove, ... */    mem_hotplug_done();    return 0;}

/* mm/memory_hotplug.c:2010-2013 */ret = scan_movable_pages(pfn, end_pfn, &pfn);if (ret)    break;  /* -EBUSY 或 -ENOENT → 退出迁移循环 */

add_memory() / remove_memory()    ├── device_hotplug_lock (mutex — 最外层)    └── mem_hotplug_lock (percpu write — 中间层)        └── zone->lock (spinlock — 最内层)

/* offline_pages() */zone_pcp_disable(zone);     /* 禁用 per-CPC page list */lru_cache_disable();        /* 全局禁用 LRU cache */

config MHP_MEMMAP_ON_MEMORY    def_bool y    depends on MEMORY_HOTPLUG && SPARSEMEM_VMEMMAP && ARCH_MHP_MEMMAP_ON_MEMORY_ENABLE

config ZONE_DEVICE    bool "Device memory (pmem, HMM, etc.) hotplug"    depends on MEMORY_HOTPLUG && MEMORY_HOTREMOVE && SPARSEMEM_VMEMMAP && ARCH_HAS_PTE_DEVMAP

# 工作目录: 任意，需 root 权限ls /sys/devices/system/memory/# 输出: memory0  memory128  memory256  ...  block_size_bytes# 查看某个 memory block 的状态cat /sys/devices/system/memory/memory128/state# 输出: online 或 offlinecat /sys/devices/system/memory/memory128/phys_device# 输出: 0（表示物理设备编号）cat /sys/devices/system/memory/memory128/removable# 输出: 1（可移除）或 0（不可移除）

# 工作目录: 任意，需要 root 权限# 注意：这会触发页面迁移，可能需要数分钟echo offline > /sys/devices/system/memory/memory128/state

cat /sys/devices/system/memory/block_size_bytes# 输出: 134217728 (128MB，x86_64 默认)

# 工作目录: /sys/kernel/tracing/，需要 root 权限cd /sys/kernel/tracing/# 启用 memory hotplug 相关 tracepointecho 1 > events/memory_hotplug/enable# 追踪 offline_pages 函数echo offline_pages > set_ftrace_filterecho function > current_tracer# 触发 offline（在另一个终端）echo offline > /sys/devices/system/memory/memory128/state# 查看 tracecat trace

# 工作目录: 任意# online 前cat /proc/meminfo | grep MemTotal# MemTotal: 65536000 kB# offline 128MB 后cat /proc/meminfo | grep MemTotal# MemTotal: 65404928 kB  (减少了约 128MB)

# 工作目录: 任意# hot-add 前grep "System RAM" /proc/iomem# 100000000-23fffffff : System RAM  (4GB)# hot-add 1GB 后grep "System RAM" /proc/iomem# 100000000-27fffffff : System RAM  (5GB — 增加了 1GB)