边缘视觉识别工控机选型

背景

传统快递分拣行业没有在传输过程中感知流量的模块,只能通过光电、光幕来感知:有 / 无 包裹这种比较简单的判断。只有到达了单件分离、叠件分离、这些特种设备的时候,才能知道流量。但这种设备动辄 10~30W,不可能大面积布置。

而传统视觉厂家的提供的便宜的AI视觉设备采购价也动辄超过 1W,最便宜的也在 7~8 K 以上。

我最近两个月刚好就是负责公司这边的视觉识别在现场的应用,所以有机会采购了一大批形形色色的负责 AI 模型推理的电脑。

NVIDIA Jetson Orin NX Super 16GB

NVIDIA Jetson Orin NX Super 16GB

  • 智能算力:157 TOPS
  • 参考价格:¥ 7000 ~ 9000
  • 使用感受:完全过剩,16 bit 高精度模型推理不在话下!但 Nvidia 在 Linux on arm 的生态和驱动没有在 x86 平台上成熟,Jetpack 版本非常不稳定,会遇到很多奇奇怪怪的依赖问题,好在有了 AI 帮忙都解决了,算力强的没话说
  • 是否推荐:不推荐,算力过剩,成本过高;而且它居然不支持上电自启动!也可能是我这家代理商没有配置对应的上电自启动的配件,导致我在现场只能手搓。

NVIDIA Jetson Nano Super 8GB

NVIDIA Jetson Nano Super 8GB

  • 智能算力:40 TOPS

  • 参考价格:¥ 4000 ~ 6000

  • 使用感受:在我们当前的使用状况下,算力仍旧非常充沛,占用空间更小了

  • 是否推荐:不推荐,算力过剩,跟上方的 NX 一样,成本过高;有类似的 arm 生态配置问题,Ai 能解决。

RDK X5 8GB

RDK X5 8GB

  • 智能算力:10 TOPS

  • 参考价格:¥ 900 ~ 1000

  • 使用感受:算力刚刚好够用,RDK 生态非常丰富,官方手册也很详细,例程丰富,非常适合初学者,但很多例程对我来说有点儿没必要,占用了非常大的 SD 卡空间,后续删除了不少示例项目;而且它标识的是 8G 运行内存,但是实际上有 4GB 是完全被 NPU 给独占了。

  • 是否推荐:新手推荐,周边配套完善

Radxa Cubie A7S 4GB

Radxa Cubie A7S 4GB

  • 智能算力:3 TOPS

  • 参考价格:¥ 410

  • 使用感受:暂未使用,摄像头接口转换线与树莓派不兼容,而且算力较低,需要降低模型精度或者间歇性推理场景

  • 是否推荐:如果购买到对应转换线和摄像头的话,在需要控制体积的情况下,可以购买

Radxa 4D 6GB

Radxa 4D 6GB

  • 智能算力:6 TOPS

  • 参考价格:¥ 650

  • 使用感受:接口适配树莓派生态,算力刚好够用,系统比较干净,资料说明详细,非常不错;而且他的 NPU 和 CPU 共用 6GB 的运行内存,反而比 上方的 RDK X5 的内存应用还要灵活

  • 是否推荐:我已购买,体验暂时良好。

感想

其实这类 AI 视觉模型在前几年就已经非常成熟了,只是这两年语言大模型的程序才让大众后知后觉地意识到了这一点,当然,语言大模型也在这其中帮助了很多,尤其在环境配置和应用开发方面。

借助 RDK 和 Radxa 这两个开发板,我成功把采购成本降到了 1K 左右。

如果后续的芯片和内存产能能够释放到民用和工业端的话,这类计算设备应该可以更便宜。

现在我在其中一个场地布置了 RDK X5 5 台,另两个场地布置 Radxa 4D 共 10 台,想要了解后续反馈的话,请持续关注我的博客吧~