算能杯赛题分析


赛题任务

基于算能TPU硬件设计并实现一个边缘计算架构优化的系统,包含至少一项端到端语音模型或机器视觉应用,提供完整的软硬件端到端解决方案,并且需结合AIoT生态。

http://univ.ciciec.com/nd.jsp?id=879#_jcp=1 (赛题链接)

题目解读

关键词: TPU 边缘计算 AIoT 端到端语音模型 机器视觉

1、TPU和边缘计算是什么?

TPU(Tensor Processing Unit)是专为张量运算设计的加速芯片,擅长处理深度学习中的矩阵计算,具备高算力、低功耗特性。算能TPU支持INT8/FP32等精度,适用于边缘端模型推理。

边缘计算 指在靠近数据源的设备端完成计算,而非依赖云端,可降低延迟、提高隐私性。本赛题需结合TPU算力优势,在边缘设备(如开发板、微服务器)上部署智能系统。

两者关联:TPU提供边缘端的高效算力支撑,结合AIoT设备(传感器、摄像头等)实现实时数据处理与决策。

2、赛题要求的端到端语音模型与机器视觉的应用要求是什么?

端到端语音模型 指从原始语音输入到最终输出(如文本、指令)的完整模型,需在TPU上完成推理优化。
机器视觉 需实现图像识别、目标检测等功能,例如基于YOLO、ResNet等模型的移植与加速。
特定场景的解决方案:需在应用场景(如教育、医疗)中提出独特解决方案,例如结合多模态交互(语音+视觉)或轻量化模型设计。

3、如何基于TPU硬件完成设计?

开发流程

  1. 模型训练:使用PyTorch/TensorFlow等框架设计模型;
  2. 模型转换:通过TPU-MLIR工具链将模型转换为TPU可执行格式;
  3. 硬件部署:在开发板(如Milk-V Duo、Airbox)上集成模型,连接传感器/外设,完成系统联调。

设计指标(基础)

  • 基于算能TPU设计一个边缘运算应用

    首先根据场景选择TPU硬件——小算力端侧处理器(如CV1800B)需高实时性,边缘算力处理器(如BM1684X)需支持多模态融合。其中价格高的的硬件设备有低竞争性的天然优势。然后基于硬件设计一个符合赛题要求的应用即可。

  • 片上接口应用与扩展

    要尽可能多的使用板卡上的资源,“榨干”板卡的价值。但同时也要预留接口支持外设扩展(如摄像头、传感器),或与其他AIoT设备(如Sipeed Maixcam)联动,给予客户端充分的发挥空间。 、


设计指标(进阶)

  • 算法创新

    可以优化自己的算法,也可以应用别人的算法,然后在具体应用场景进行优化。也可以针对大模型,针对任务优化模型结构(如剪枝、量化),或设计新算法(如轻量级AIGC生成),提升推理速度或准确率。

  • 多模态融合

    多模态交互指在人机交互过程中,综合运用多种不同的交互方式和信息模态,以实现更加自然、高效、灵活的人机信息交流。在设计作品中应该结合语音、视觉、文本等多模态输入,设计跨模态交互系统(如教育场景的智能助教)。

  • 异构协同

    利用开发板多核特性(如CV1800B的Linux+RTOS双系统),分配任务至不同核心,优化资源利用率。实际上运行大模型,本来就需要异构协同,单一个TPU无法进行任务管理。

  • 商业落地

    设计具备实际应用价值的方案,例如医疗场景的病理影像实时分析系统,并提供成本与功耗评估。


评分机制

初赛

除了设计报告,初赛需要提供PPT和视频

  • 方案设计(20分):场景合理性、技术原理清晰度、架构创新性。
  • 系统实现(45分):硬件构建完整性、算法创新性、功能扩展性。
  • 作品输出(35分):代码规范性、演示视频流畅度、现场答辩表现。

分区决赛

复赛则主要是演示效果

  • 现场演示:系统需在选定硬件上实时运行,重点考核稳定性与实时性(如语音响应延迟≤200ms)。
  • 性能对比:提供优化前后数据(如模型推理速度提升50%)。

全国总决赛

决赛一定要做商业计划,同时突出创新点以及创新点的实际应用成果。

  • 高阶要求:需实现多模态融合或异构协同设计,并提供商业化落地潜力分析。
  • 创新加分:结合AIGC(如边缘端Stable Diffusion生成)、具身智能机器人等前沿方向。

Tips

  • 若使用BM1684X+Airbox,优先探索AIGC场景(如边缘端LLM对话),易获评分倾斜。

学习路线

三步冲刺国奖 ⚡

  1. 第一步:掌握TPU开发基础——学习TPU-MLIR工具链,完成官方示例(如YOLOv5部署);
  2. 第二步:设计完整系统——选择场景(如智能机器人),实现数据采集、模型优化、硬件部署全流程;
  3. 第三步:突破进阶指标——尝试多模态交互(语音+视觉控制机器人),或优化模型至超越业内SOTA。

推荐资源