CrowdHMT太易中间件


该实验平台提供了针对教学的模型轻量化功能,用于进行智能物联网感知计算任务,旨在为学生提供有趣且易于操作的体验,让他们基于智能物联网终端硬件进行智能计算,并进行关键技术性能对比、验证和可视化

太易中间件V1:教学实验平台

平台功能逻辑一览

平台面向教学实验包含3个核心功能:异构终端设备(CPU、GPU、MCU、FPGA、NPU、TPU)算力资源实时感知,深度模型按需伸缩、部署与性能可视化,深度模型分割、边端部署与性能评估。提供30+识别模型及数据(如声音、语音、图片、人类活动)、30+智能物联网终端硬件平台(如手机、无人机、机器人)的智能物联网感知计算任务。该实验平台为学生基于智能物联网终端硬件开展智能计算的关键技术性能对比、验证及可视化提供趣味性和易操作体验。此外,该平台为实验过程引入学生能力OBE(Outcome based education,OBE)教育理念和评价规则,有助于实现学生在平台中参与实验的系统能力分模块评价及引导强化

设备资源感知: 支持于多种智能设备以及资源受限平台上(支持MCU、树莓派、FPGA、GPUnano、Jetson、Turtlebot、手机等数十种异构设备实时资源感知)

端自适应模型压缩: 支持为用户上传模型定制模型压缩方案,缩减模型体量以满足设定资源为了在计算资源有限的设备上部署模型,例如移动设备和嵌入式系统等

端自适应模型分割: 支持将一个大型的深度学习模型划分成多个部分,并将这些部分分别部署到不同的设备上进行计算,从而提高深度学习模型的性能,并降低运行成本

我们将为拟开设课程的高校及各单位实验教学团队提供后续服务,请持续关注我们!

联系方式

guob@nwpu.edu.cn scliu@nwpu.edu.cn 553379191@qq.com

注册HMT开源平台