1. GPU与GPGPU的本质区别
GPU（Graphics Processing Unit）最初是专为图形渲染设计的硬件，而GPGPU（General-Purpose computing on GPU）则是将GPU用于通用计算的技术范式。二者的核心差异体现在架构设计目标上：传统GPU采用SIMD（单指令多数据流）架构，包含数千个精简计算核心，专为高并行的像素和顶点计算优化；而GPGPU通过CUDA/OpenCL等计算框架，将这些图形管线改造为可编程计算单元。
以NVIDIA的Fermi架构为例，其GPU包含：
- 图形专用硬件：光栅化引擎、纹理映射单元
- 通用计算单元：CUDA核心、共享内存、原子操作支持
GPGPU模式下，开发者通过计算着色器绕过图形API直接调用这些计算资源。这就解释了为什么在PyTorch安装GPU版本时，必须匹配CUDA Toolkit版本——它实质上是GPGPU的软件接口层。
2. 硬件架构的深层对比
2.1 传统GPU的固定管线
经典GPU采用固定功能管线：
code复制顶点着色 → 曲面细分 → 几何着色 → 光栅化 → 像素着色 → 输出合并
每个阶段都有专用硬件加速。例如RTX 3060的RT Core专门处理光线追踪BVH遍历，这在纯GPGPU场景中可能完全闲置。
2.2 GPGPU的弹性计算架构
现代GPGPU架构如NVIDIA的Ampere：
- 将SM（流式多处理器）设计为通用计算块
- 每个SM包含：
- 64个FP32 CUDA核心
- 4个第三代Tensor Core
- 256KB可配置共享内存/L1缓存
这种结构在运行深度学习训练时，可以通过PyTorch的torch.cuda.set_device()动态分配计算资源。
关键发现：当任务管理器显示GPU使用率为0%时，可能是未正确启用CUDA上下文。通过
nvidia-smi -l 1可看到真实的计算负载。
3. 编程模型的范式转换
3.1 图形API的局限性
传统GPU编程依赖OpenGL/DirectX：
glsl复制// GLSL着色器示例
void main() {
gl_FragColor = texture2D(u_Texture, v_TexCoord