千家信息网

怎么进行AutoML算法分析

发表于:2024-11-16 作者:千家信息网编辑
千家信息网最后更新 2024年11月16日,今天就跟大家聊聊有关怎么进行AutoML算法分析,可能很多人都不太了解,为了让大家更加了解,小编给大家总结了以下内容,希望大家根据这篇文章可以有所收获。AutoML是什么顾名思义,Auto:Autom
千家信息网最后更新 2024年11月16日怎么进行AutoML算法分析

今天就跟大家聊聊有关怎么进行AutoML算法分析,可能很多人都不太了解,为了让大家更加了解,小编给大家总结了以下内容,希望大家根据这篇文章可以有所收获。

AutoML是什么

顾名思义,Auto:Automated自动的;ML:Machine Learning机器学习. 因此AutoML即为自动机器学习。

对于机器学习的算法工程师而言,设计适用于特定问题的机器学习模型是一个非常复杂的任务。需要选择相应的神经网络架构、训练过程、正则化方法、超参等,这些都对最终的性能有很大的影响,需要不断尝试。因此深度学习算法工程师也被称为调(炼)参(丹)工程师。

AutoML的目标就是使用自动化的、数据驱动方式来做出上述的决策。用户只要提供数据,通过足够的算力,系统自动决定最佳的方案。各个领域专家不再需要苦恼于学习各种机器学习算法。

在AutoML领域,当前引起学者关注最多的便是NAS(Neural Architecture Search,网络结构搜索),对应的算法也非常之多。在automl.org上已经列出了两百多篇相关论文:

https://www.automl.org/automl/literature-on-neural-architecture-search/

对应的算法大致可以分为三类:

  1. 基于RL(Reinforcement Learning, 强化学习)的离散搜索算法:NASNet,ENAS

  2. 基于进化算法(如遗传算法,蚁群算法,模拟退火等)的离散搜索算法:CARS,EENA

  3. 基于梯度下降的连续可微搜索算法:DARTS,FBNet

本文主要介绍第一类,基于RL的离散搜索算法。

基于RL的NAS算法

这类算法中较优秀的是Google Brain 2018年在Learning Transferable Architectures for Scalable Image Recognition中提出的NASNet,流程如下图所示。整个结构由controller和validator两部分组成,算法迭代步骤:

  • controller负责采样child网络

  • 采样结果交给validator评估accuracy

  • 评估的accuracy作为reward去训练controller

  • 返回第一步进行循环,直到达到结束条件(达到采样个数或者accuracy达标)

最终花费了2000 GPU hours搜索得到了一系列的结构,表现优异,在相同参数量/计算量下,accuracy能达到当时的最好水平,超越了Inception,ResNet,MobileNet,SENet等一系列优秀网络。

最终的搜索到的网络结构:

其中,normal cell和reductioncell分别为:

看完上述内容,你们对怎么进行AutoML算法分析有进一步的了解吗?如果还想了解更多知识或者相关内容,请关注行业资讯频道,感谢大家的支持。

0