Aelius Censorius1. GPU架构入门：为什么你需要了解它
在计算机图形和并行计算领域，GPU（图形处理单元）已经从一个单纯的图形渲染工具演变为通用计算的核心引擎。与CPU不同，GPU的设计理念从一开始就专注于大规模并行计算，这使得它在处理矩阵运算、图像处理、深度学习等任务时能够展现出惊人的性能优势。
我第一次接触GPU编程是在2013年，当时为了加速一个图像处理项目。当我看到原本需要数小时才能完成的渲染任务在GPU上几分钟内就完成时，那种震撼至今难忘。但随之而来的困惑是：为什么同样的算法，在GPU上能快这么多？答案就藏在GPU独特的架构设计中。
需要模型API调用？ 免费领10W Token，多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. GPU与CPU的本质区别
2.1 设计哲学差异
CPU和GPU最根本的区别在于它们的设计目标。CPU被设计为"全能选手"，擅长处理复杂的控制流和随机内存访问。它拥有强大的分支预测、乱序执行等机制，能够高效处理各种通用计算任务。而GPU则是"专业运动员"，专注于数据并行计算。
想象一下，CPU就像一位大学教授，能够处理各种复杂的学术问题；而GPU则像一支由数千名训练有素的工人组成的团队，专门负责大规模重复性工作。这种差异直接反映在它们的硬件结构上。
2.2 硬件资源分配
在晶体管预算相同的情况下，CPU会将大部分资源用于控制逻辑和缓存：
- 控制逻辑约占晶体管数的20-30%
- 缓存占用40-50%的晶体管
- 计算单元只占20-30%
而GPU的资源分配则截然不同：
- 控制逻辑仅占5-10%
- 缓存约10-20%
- 计算单元高达70-85%
这种资源分配使得GPU能够在相同芯片面积内集成更多的计算核心。例如，NVIDIA最新的H100 GPU拥有高达16896个CUDA核心，而即使是高端CPU通常也只有几十个核心。
3. GPU架构核心组件详解
3.1 流式多处理器(SM)
SM(Streaming Multiprocessor)是GPU的基本计算单元。以NVIDIA的Ampere架构为例，每个SM包含：
- 64个FP32 CUDA核心
- 64个INT32核心
- 4个Tensor Core
- 128KB L1缓存/共享内存
- 256KB寄存器文件
多个SM共同组成了GPU的计算主体。例如，RTX 4090拥有128个SM，这意味着它总共拥有8192