端侧这条线看的是功耗、算力和散热三者之间的平衡。这里收了边缘推理芯片、开发板和整机方案，有英伟达也有国产的。先在纸面上把模型的显存需求和实时性要求算清楚，再去挑板子，能省下不少试错成本。
工具列表
共 4 个
AI 硬件 / 端侧
共 4 个
NVIDIA Jetson 热门 新品
面向物理 AI 与机器人的边缘计算平台，共享 Blackwell GPU 与 JetPack 软件栈；T5000 模组提供 2070 TFLOPS FP4 稀疏算力与 128GB 内存
Hailo-10H 热门 新品
业界首批支持生成式 AI 的边缘加速器，INT4 算力 40 TOPS，典型功耗 2.5W；树莓派 AI HAT+ 2 就基于这颗芯片
瑞芯微 RK3588 热门 新品
国产旗舰级嵌入式主控，8nm 八核架构带 6TOPS 自研 NPU，支持 8K 编解码与四屏异显，国产算力盒子的主力平台
算能 BM1688 新品
国产高算力边缘 TPU 芯片，INT8 算力 32 TOPS、INT4 可达 64 TOPS，可本地运行 7B 级大模型，功耗不超过 18W
没有找到匹配的工具，换个关键词试试。