1. 定点数与浮点数基础概念解析
计算机处理数字时有两种基本表示方法:定点数(Fixed-point)和浮点数(Floating-point)。这两种表示法的本质区别在于小数点的处理方式,这直接影响了数值的表示范围和精度特性。
1.1 定点数的核心特点
定点数采用固定的小数点位置,可以看作整数的一种扩展形式。在内存中,定点数实际上就是整数,但通过约定小数点位置来隐含表示小数部分。例如,我们用16位二进制表示定点数时,可以约定前8位是整数部分,后8位是小数部分(称为Q8.8格式)。
关键提示:定点数的精度是固定的,小数点位置在运算过程中始终保持不变,这是"定点"名称的由来。
定点数的优势在于:
- 硬件实现简单,运算速度快
- 没有舍入误差(在表示范围内)
- 适合嵌入式系统等资源受限环境
但缺点也很明显:
- 动态范围有限,无法同时表示极大和极小的数
- 需要预先确定小数点的位置,不够灵活
1.2 浮点数的核心特点
浮点数采用科学计数法的思想,将数值表示为尾数(Mantissa)和指数(Exponent)的组合。这种表示法允许小数点"浮动",从而可以表示极大范围和极小范围的数值。
现代计算机最常用的浮点数标准是IEEE 754,它定义了:
- 单精度浮点数(32位):1位符号,8位指数,23位尾数
- 双精度浮点数(64位):1位符号,11位指数,52位尾数
浮点数的优势在于:
- 动态范围极大(单精度约±10^38)
- 自动适应不同数量级的数值
- 标准化格式,跨平台兼容性好
但缺点包括:
- 存在舍入误差
- 运算复杂度较高
- 特殊值处理(如NaN、Infinity)增加复杂度
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 底层表示与编码原理
2.1 定点数的二进制表示
定点数的二进制表示相对直观。以Qm.n格式为例(m位整数,n位小数):
- 最高位通常为符号位(0正1负)
- 剩余位表示数值,小数点位置固定在第n位之后
例如,Q3.5格式的定点数:
code复制符号位 | 整数部分 | 小数部分
0 1 0 1 1 0 1 0 1
表示的值是:+ (1×2² + 0×2¹ + 1×2⁰) . (1×2⁻¹ + 0×2⁻² + 1×2⁻³ + 0×2⁻⁴ + 1×2⁻⁵) = +5.65625
2.2 浮点数的IEEE 754标准
IEEE 754浮点数采用科学计数法的二进制版本,包含三个部分:
- 符号位S:0表示正数,1表示负数
- 指数部分E:采用偏移码表示(单精度偏移127)
- 尾数部分M:隐含最高位1(规范化表示)
单精度浮点数的实际值为:(-1)^S × 1.M × 2^(E-127)
例如,单精度浮点数:
code复制0 10000011 1010000000000
