基于CMSIS-NN内核的神经网络推理运算 对运行时间-吞吐量和能效有显著提升.doc
《基于CMSIS-NN内核的神经网络推理运算 对运行时间-吞吐量和能效有显著提升.doc》由会员分享,可在线阅读,更多相关《基于CMSIS-NN内核的神经网络推理运算 对运行时间-吞吐量和能效有显著提升.doc(2页珍藏版)》请在三一文库上搜索。
1、基于CMSIS-NN内核的神经网络推理运算 对运行时间/吞吐量和能效有显著提升目前,在许多需要在本地进行数据分析的“永远在线”的物联网边缘设备中,神经网络正在变得越来越普及,主要是因为可以有效地同时减少数据传输导致的延时和功耗。而谈到针对物联网边缘设备上的神经网络,我们自然会想到Arm Cortex-M系列处理器内核,那么如果您想要强化它的性能并且减少内存消耗,CMSIS-NN就是您最好的选择。基于CMSIS-NN内核的神经网络推理运算,对于运行时间/吞吐量将会有4.6X的提升,而对于能效将有4.9X的提升。CMSIS-NN库包含两个部分:NNFunction和NNSupportFunctio
2、ns。NNFunction包含实现通常神经网络层类型的函数,比如卷积(convolution),深度可分离卷积(depthwise separable convolution),全连接(即内积inner-product),池化(pooling)和激活(activation)这些函数被应用程序代码用来实现神经网络推理应用。内核API也保持简单,因此可以轻松地重定向到任何机器学习框架。NNSupport函数包括不同的实用函数,如NNFunctions中使用的数据转换和激活功能表。这些实用函数也可以被应用代码用来构造更复杂的NN模块,例如,长期短时记忆(LSTM)或门控循环单元(GRU)。对于某些内
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于CMSIS-NN内核的神经网络推理运算 对运行时间-吞吐量和能效有显著提升 基于 CMSIS NN 内核 神经网络 推理 运算 运行 时间 吞吐量 能效 显著 提升
链接地址:https://www.31doc.com/p-3409670.html