利用进化后的反向传播算法实现快速、高效的训练.doc
《利用进化后的反向传播算法实现快速、高效的训练.doc》由会员分享,可在线阅读,更多相关《利用进化后的反向传播算法实现快速、高效的训练.doc(4页珍藏版)》请在三一文库上搜索。
1、利用进化后的反向传播算法实现快速、高效的训练利用进化后的反向传播算法实现快速、高效的训练在最新的机器学习自动搜寻方法的推动下,一些谷歌研究人员提出了一种自动生成反向传播方程的方法。新方法的工作原理:研究人员尝试修改反向计算(流程)图,并实现了一种搜索方法:找到更好的公式,生成全新的传播规则。他们使用进化后算法来寻找可能的更新方程。进化控制端在每次迭代中向研究人员群发送一组修改后的更新方程以进行评估。然后,每位研究人员使用接收到的变异方程来训练一个固定的神经网络结构,并向控制端报告所达到的精准度。潜在应用及影响研究人员发现一些变异可以像传统的反向传播方法一样有效。这些变化可以在短的训练周期内实现
2、更高的准确性,因此可以用于改进基于准确性的决策算法。由于反向传播是深度神经网络的基础,利用这种新发现的变异可以用来增强对各种神经网络的训练。原文:https:/arxiv/pdf/1808.02822.pdf端对端的目标跟踪结构研究人员提出了一种离线型端到端训练的鉴别目标跟踪方法。在Python中可以使用PyTorch实现,新方法是通过迭代优化从具有辨别性的学习损失中衍生得出的。它构成卷积层的权重以及输出目标分类得分。而且它还实现了一个预测模型,其中包括一个初始化网络,以便仅使用外观(特征),就能有效地提供模型权重的初始估计。然后由优化模块处理权重,同时考虑目标和背景样本。优化功能是特地设计的
3、,只包括一些可学习的参数,以避免在离线训练期间过度拟合。在使用时,预测模型就能够泛化为不可见的目标,这在常规目标跟踪中是至关重要的。整个跟踪模型,包括目标分类、边界框预估和Backbone模块,都可以在跟踪数据集上进行离线训练。在评估方面,它在6个跟踪基准上都达到了最新的技术水平,在运行速度超过40FPS的情况下,在VOT2018(Visual Object Tracking Challenge全球目标追踪领域中最高水平赛事)上获得了EAO得分:0.440(Expect Average Overlap Rate,追踪算法评价标准之一)。在单块Nvidia GTX 1080 GPU上,新模型在使
4、用ResNet-18为主时,跟踪速度为57 FPS,对于ResNet-50则为43FPS。训练及推导过程请见https:/github/visionml/pytracking潜在应用与影响现在我们有了一种辨别性的目标跟踪方法,而且这种方法是离线训练的,只需几个优化步骤就可以进行稳健型的预测。结合这一方法以及其他最近的目标跟踪方法,我们即将迎来下一代目标跟踪(方法)的进步。阅读更多:https:/arxiv/abs/1904.07220v13.DG-Net:增强行人身份再识别(Re-Identification)为了提高行人的再识别能力,研究人员最近提出了DG- Net,这是一个结合再识别学习和
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 利用 进化 反向 传播 算法 实现 快速 高效 训练
链接地址:https://www.31doc.com/p-3394761.html