1. 项目概述与核心价值
去年在极客社区第一次看到有人把AI模型塞进路由器时,我的第一反应是"这玩意儿能跑得动?"。直到自己亲手把OpenClaw部署到OpenWrt路由器上,才发现这种边缘计算方案的实用价值远超预期——它不仅能让全家所有设备随时调用AI能力,更重要的是完全避开了云端服务的隐私顾虑。
这个方案的本质是在网络入口处搭建了一个本地化AI网关。想象一下:当孩子的智能手表询问"恐龙什么时候灭绝的",当老人的电视盒子需要语音转文字,当你的智能家居需要理解复杂指令时,所有请求都不需要离开家庭网络,在路由器层面就能完成处理。实测下来,搭载MT7986芯片的路由器运行7B参数的量化模型,响应速度能控制在1.5秒以内。
2. 硬件选型与系统准备
2.1 路由器硬件门槛
不是所有路由器都能胜任这个任务。经过三个月测试不同设备,总结出硬性指标:
- CPU架构:必须ARMv8以上(aarch64),实测MT7986/RK3588等新款SoC性价比最高
- 内存容量:至少1GB空闲内存(运行7B模型需要900MB左右)
- 存储空间:剩余Flash不小于256MB或支持USB扩展
- 散热设计:连续推理时CPU温度会飙升到80℃以上
避坑提示:某鱼上便宜的"企业级路由器"很多是x86架构,OpenWrt支持虽好但功耗惊人,7×24小时运行电费感人。
2.2 OpenWrt系统定制
官方镜像通常不带GPU加速支持,需要手动编译:
bash复制# 在Ubuntu编译环境中
git clone https://git.openwrt.org/openwrt/openwrt.git
./scripts/feeds update -a
./scripts/feeds install -a
# 关键配置项
make menuconfig
必须勾选:
- Target System -> MediaTek Ralink MIPS -> MT7986
- Libraries -> libopenblas
- Utilities -> ollama (需要手动添加feed)
编译完成后,通过TFTP刷入路由器。这个过程中最易出问题的是无线驱动兼容性,建议保留原厂固件的无线校准数据。
