树莓派5部署YOLOv8：边缘计算目标检测实战

1. 树莓派5部署YOLOv8全流程解析

作为一名长期在边缘计算领域折腾的开发者，最近拿到树莓派5后第一件事就是测试YOLOv8的部署效果。相比前代产品，树莓派5的BCM2712处理器和4GB内存确实为轻量级目标检测提供了更多可能性。下面完整记录我的部署过程，包含那些官方文档没写的细节问题。

2. 环境准备与硬件配置

2.1 系统环境确认

首先通过uname -a确认系统架构：

bash复制$ uname -a
Linux raspberrypi 6.6.51+rpt-rpi-2712 #1 SMP PREEMPT Debian 1:6.6.51-1+rpt3 (2024-10-08) aarch64 GNU/Linux

树莓派5的关键硬件参数：

• SoC：博通BCM2712（Cortex-A76架构）
• 内存：4GB LPDDR4X
• 存储：至少32GB的UHS-I MicroSD卡
• 摄像头：支持双CSI接口（建议使用官方摄像头模块）

注意：使用Class 10及以上速度的MicroSD卡，低速存储会导致模型加载时间显著延长

2.2 Python环境配置

我选择使用uv工具管理虚拟环境，相比venv更轻量：

bash复制$ uv init MyYolo8  # 初始化项目
$ uv venv         # 创建虚拟环境

核心依赖库安装命令：

bash复制$ uv pip install picamera2 opencv-python "onnx>=1.12.0,<1.18.0" onnxruntime ultralytics

版本兼容性说明：

• ONNX版本需严格控制在1.12-1.18之间，新版会出现算子兼容问题
• ultralytics会自动管理torch依赖，无需手动安装

3. 模型获取与转换

3.1 下载预训练模型

使用ultralytics库自动获取YOLOv8n（nano版本）：

python复制from ultralytics import YOLO
model = YOLO("yolov8n.pt")  # 约12.6MB

模型变体选择建议：

• yolov8n：最佳平衡（默认选择）
• yolov8s：精度提升但帧率下降明显
• yolov8m：树莓派5上帧率低于5FPS，不推荐

3.2 ONNX格式转换

为提升推理效率，转换为ONNX格式：

python复制model.export(format="onnx", opset=12)  # 生成yolov8n.onnx

关键参数说明：

• opset=12：确保兼容树莓派上的ONNX Runtime
• 动态轴设置：自动优化为适合边缘设备的格式

转换后的模型大小约为24MB，比原始PyTorch模型略大但推理效率更高。

4. 摄像头接入方案

4.1 OpenCV的兼容性问题

标准OpenCV摄像头捕获代码在树莓派5上会出现异常：

python复制import cv2
cap = cv2.VideoCapture(0)
ret, frame = cap.read()  # ret始终为False

问题根源：

• 树莓派5的V4L2驱动接口变化
• OpenCV的默认后端不兼容新版Broadcom芯片组

4.2 使用Picamera2解决方案

改用树莓派官方推荐的picamera2库：

python复制from picamera2 import Picamera2
picam2 = Picamera2()
config = picamera2.create_preview_configuration()
picam2.configure(config)
picam2.start()

性能对比：

实测技巧：分辨率设为模型输入尺寸的整数倍可减少resize开销

5. 完整推理流程实现

5.1 ONNX Runtime配置

初始化推理会话：

python复制import onnxruntime as ort
sess = ort.InferenceSession("yolov8n.onnx",
    providers=['CPUExecutionProvider'])

优化选项：

python复制so = ort.SessionOptions()
so.intra_op_num_threads = 4  # 使用4个CPU核心
so.graph_optimization_level = ort.GraphOptimizationLevel.ORT_ENABLE_ALL

5.2 实时检测代码示例

完整工作流：

python复制import numpy as np
from PIL import Image

def preprocess(img):
    img = img.resize((640, 640))
    img = np.array(img).transpose(2, 0, 1)
    img = img[np.newaxis, :, :, :].astype(np.float32) / 255.0
    return img

while True:
    frame = picam2.capture_array()
    input_tensor = preprocess(Image.fromarray(frame))
    outputs = sess.run(None, {"images": input_tensor})
    # 后处理输出...

性能指标：

• 预处理：约50ms
• 推理：约120ms（YOLOv8n）
• 后处理：约30ms
• 总延迟：200ms左右（约5FPS）

6. 性能优化技巧

6.1 模型量化方案

将FP32模型转为INT8可提升速度：

python复制from onnxruntime.quantization import quantize_dynamic
quantize_dynamic("yolov8n.onnx", "yolov8n_int8.onnx")

量化效果对比：

6.2 多线程处理

使用生产者-消费者模式提升吞吐：

python复制from threading import Thread
import queue

frame_queue = queue.Queue(maxsize=2)

def capture_thread():
    while True:
        frame_queue.put(picam2.capture_array())

Thread(target=capture_thread, daemon=True).start()

7. 常见问题排查

7.1 模型加载失败

错误现象：

code复制[ONNXRuntimeError] : 9 : NOT_IMPLEMENTED : Could not find an implementation for the node ...

解决方案：

1. 检查opset版本是否为12
2. 重新导出模型时添加dynamic=True参数

7.2 内存不足

症状：推理过程中进程被杀死

优化方案：

bash复制$ sudo nano /etc/udev/rules.d/99-vm.rules
# 增加：vm.min_free_kbytes = 65536

7.3 温度控制

监控CPU温度：

bash复制$ vcgencmd measure_temp

建议措施：

• 安装散热片
• 在/boot/config.txt中添加：

code复制over_voltage=2
arm_freq=1800

这套方案在室内常温下可连续运行3小时不降频。如果要做长期部署，建议考虑加装风扇或改用铝合金外壳。