简化版tcmalloc实现与性能优化实践

1. 项目背景与核心目标

最近在重构一个高并发的中间件服务时，发现标准库的malloc在频繁小内存分配场景下性能成为瓶颈。于是决定动手实现一个简化版的tcmalloc（Thread-Caching Malloc），核心目标是解决以下三个问题：

1. 减少线程间的锁竞争：全局内存分配器在多线程环境下容易成为性能瓶颈
2. 提升小对象分配效率：传统malloc对小内存（<256KB）的管理开销过大
3. 降低内存碎片率：通过特定大小的size class设计减少内存浪费

这个实现去除了原版tcmalloc中复杂的跨线程转移、垃圾回收等机制，保留了最核心的线程本地缓存+中央堆的设计思想。实测在8核机器上，对于平均分配大小为64字节的场景，性能比glibc的malloc提升了3-5倍。

2. 核心架构设计

2.1 三级内存管理结构

简化版tcmalloc采用经典的三层架构：

code复制线程缓存 → 中央堆 → 系统堆
    ↑         ↑
    └─────────┘

线程缓存（Thread Cache）：

• 每个线程独享的缓存区
• 包含多个固定大小的free list（我设计了88个size class）
• 分配时无锁操作，直接访问本线程的free list

中央堆（Central Heap）：

• 全局共享的内存池
• 当线程缓存不足时，从这里批量获取内存块
• 需要加锁访问，但频率远低于直接使用malloc

系统堆（System Heap）：

• 通过mmap/malloc向操作系统申请大块内存
• 按页（4KB）为单位管理
• 中央堆不足时从这里申请新的span

2.2 Size Class设计

size class的设计直接影响内存利用率和分配速度。我的方案：

1. 8-256字节区间：按8字节对齐递增（8,16,24...256）
2. 256B-1MB区间：按几何增长（256,320,384...983040）

3. 1MB：直接走mmap

这个设计使得内部碎片率控制在12%以内，同时保持O(1)的查找效率——通过预计算的size class映射表实现。

实际测试发现，将最大size class设为256KB（而非原版的1MB）能更好地适应我的业务场