logo头像

贾维斯的小屋

原创教程

MobileNet系列

MobileNet是用在移动端的轻量级CNN,本文简单介绍MobileNet V1到V3的版本。 MobileNet V1 主要特点:把卷积拆分为Depthwise和Pointwise两部分(深度可分离卷积Separable co...

读AutoDL论文——SCARLET-NAS

概述本文要解决的问题是在文献[1]和[2]中都提到过的跳跃连接聚集的问题。虽然跳跃连接可以使超网络的长度可以收缩,但它使超网络的训练便得不稳定,进而使评估模型变得困难。本文首先深入讨论了跳跃连接给训练带来的不稳定性,给出了造成这种现象...

AutoDL论文解读(七):基于one-shot的NAS

自动化机器学习(AutoML)最近变得越来越火,是机器学习下个发展方向之一。其中的神经网络结构搜索(NAS)是其中重要的技术之一。人工设计网络需要丰富的经验和专业知识,神经网络有众多的超参数,导致其搜索空间巨大。NAS即是在此巨大的...

AutoDL论文解读(六):基于代理模型的NAS

自动化机器学习(AutoML)最近变得越来越火,是机器学习下个发展方向之一。其中的神经网络结构搜索(NAS)是其中重要的技术之一。人工设计网络需要丰富的经验和专业知识,神经网络有众多的超参数,导致其搜索空间巨大。NAS即是在此巨大的...

AutoDL论文解读(五):可微分方法的NAS

自动化机器学习(AutoML)最近变得越来越火,是机器学习下个发展方向之一。其中的神经网络结构搜索(NAS)是其中重要的技术之一。人工设计网络需要丰富的经验和专业知识,神经网络有众多的超参数,导致其搜索空间巨大。NAS即是在此巨大的...

AutoDL论文解读(四):权值共享的搜索

自动化机器学习(AutoML)最近变得越来越火,是机器学习下个发展方向之一。其中的神经网络结构搜索(NAS)是其中重要的技术之一。人工设计网络需要丰富的经验和专业知识,神经网络有众多的超参数,导致其搜索空间巨大。NAS即是在此巨大的...

AutoDL论文解读(三):基于层或块的搜索

自动化机器学习(AutoML)最近变得越来越火,是机器学习下个发展方向之一。其中的神经网络结构搜索(NAS)是其中重要的技术之一。人工设计网络需要丰富的经验和专业知识,神经网络有众多的超参数,导致其搜索空间巨大。NAS即是在此巨大的...

AutoDL论文解读(二):基于遗传算法的典型工作

自动化机器学习(AutoML)最近变得越来越火,是机器学习下个发展方向之一。其中的神经网络结构搜索(NAS)是其中重要的技术之一。人工设计网络需要丰富的经验和专业知识,神经网络有众多的超参数,导致其搜索空间巨大。NAS即是在此巨大的...

AutoDL论文解读(一):基于强化学习的开创性工作

自动化机器学习(AutoML)最近变得越来越火,是机器学习下个发展方向之一。其中的神经网络结构搜索(NAS)是其中重要的技术之一。人工设计网络需要丰富的经验和专业知识,神经网络有众多的超参数,导致其搜索空间巨大。NAS即是在此巨大的...

机器学习的数学基础:概率论

一、概率论公理1、样本空间和事件 对于一个试验,所有可能的结果构成的集合,称为该试验的样本空间,并即为$S$。 并:对于一个样本空间$S$的任意两个事件$E$和$F$,事件$E\bigcup F$称为$E$和$F$的并。 交:$E...