后使用快捷导航没有帐号？
Deep Learning in R · R语言深度学习
查看: 21732|
评论: 0|原作者: 统计咨询(译)|来自: 统计咨询
摘要: 深度学习是机器学习领域的一大热点，它可以对极度非线性的数据(包括图像等)进行建模。在过去的几年，深度学习在各应用领域展现了惊人的发展势头(Wikipedia 2016a)。其中包括图像和声音识别、无人驾驶、自然语言处理 ...
本文译自日OKSANA KUTKINA和STEFAN FEUERRIEGEL在R Blog上发表的《Deep Learning in R》，英文原文链接：http://www.rblog.uni-freiburg.de//deep-learning-in-r/Introduction &是领域的一大热点，它可以对极度非线性的数据(包括图像等)进行建模。在过去的几年，深度学习在各应用领域展现了惊人的发展势头(Wikipedia 2016a)。其中包括图像和声音识别、无人驾驶、自然语言处理等。有趣的是，深度学习有关的大部分的数学原理早在几十年前就存在了。然而，它的潜能是通过近期的一些领域的应用才得以有效的解放(Nair and Hinton 2010; Srivastava et al. 2014)。过去，由于梯度下降及过度拟合的问题，人工是很难实现的。如今，通过不同的激活函数、正则化、大量的训练数据集可以解决上述的问题。比如，利用互联网可以获取大量的有标签或无标签的数据。另外，GPUs和GPGPUs(通用计算)使得计算过程更快，成本更低。当前，深度学习在几乎所有的机器学习任务中表现出良好的性能，特别适合于复杂的、多层次的数据。最基本的就是通过人工神经网络模型处理极度非线性的数据，而这些数据通常是多层面的、非线性的、具有特殊结构的。典型的深度神经网络如下图。深度学习的成功使得大量的编程语言有关深度学习的资源应运而生。其中包括Caffee、Theano、Torch、Tensor Flow等。本文将对几个深度学习相关的R包进行介绍和比较。Packages for deep learning in R &因其简便灵活、可视化功能强大等在统计学家和数据挖掘分析师中深受欢迎。随着深度学习的发展，一系列深度学习的R包也出来了。我们将介绍MXNetR、darch、deepnet、H2O、deepr等五个主要的R包。下表展示的是几个R包的异同。Package “MXNetR”MXNetR是基于C语言的MXNet库的一个几口。它可以进行前馈神经网络和卷积神经网络(MXNetR 2016a)。也允许我们自定义模型。该R包分为CPU和GPU两个版本，前者通过R软件可以直接安装，而后者需要继续第三方的一些库如cuDNN等(MXNetR 2016b)。前馈神经网络例子①通过封装的函数实现：model &- mx.mlp(train.x, train.y, hidden_node=c(128,64), out_node=2, activation="relu", out_activation="softmax",num.round=100, array.batch.size=15, learning.rate=0.07, momentum=0.9, device=mx.cpu())②通过自定义模型实现：data &- mx.symbol.Variable("data") fc1 &- mx.symbol.FullyConnected(data, num_hidden=128) act1 &- mx.symbol.Activation(fc1, name="relu1", act_type="relu") fc2 &- mx.symbol.FullyConnected(act1, name="fc2", num_hidden=64) act2 &- mx.symbol.Activation(fc2, name="relu2", act_type="relu") fc3 &- mx.symbol.FullyConnected(act2, name="fc3", num_hidden=2) lro &- mx.symbol.SoftmaxOutput(fc3, name="sm")model2 &- mx.model.FeedForward.create(lro, X=train.x, y=train.y, ctx=mx.cpu(), num.round=100, array.batch.size=15, learning.rate=0.07, momentum=0.9)可见，MXNetR通过mx.mlp函数可以快速设计标准的模型，也可以通过自定义参数实现同样的功能。Package “darch”darch(2015)可以实现深度信念网络和限制玻尔兹曼机模型。它还可以进行微调反馈和选择性的前训练。深度信念网络的例子darch &&- darch(train.x, train.y, rbm.numEpochs = 0, rbm.batchSize = 100, rbm.trainOutputLayer = F, layers = c(784,100,10), darch.batchSize = 100, darch.learnRate = 2, darch.retainData = F, darch.numEpochs = 20)总的来说，darch的基本使用非常简单，它只使用一个函数对网络进行训练，但是这也限制了它进行更加深入的深度信念网络学习，因为往往需要更多的训练。Package “deepnet”deepnet(2015)是一个相对较小而强大的包。nn.train()函数可以实现前反馈神经网络模型，dbn.dnn.train()可以初始化深度信念模型的权重，rbm.train()可以实现限制玻尔兹曼机模型，sae.dnn.train()可以实现堆叠自动编码器模型。前反馈神经网络的例子nn.train(x, y, initW=NULL, initB=NULL, hidden=c(50,20), activationfun="sigm", learningrate=0.8, momentum=0.5, learningrate_scale=1, output="sigm", numepochs=3, batchsize=100, hidden_dropout=0, visible_dropout=0)总之，deepnet是一个轻量级的，设定少数的参数，却能实现多数的模型。Package “H2O”H2O(2015)原来是一个可以利用分布式计算机系统的开源软件平台。它是基于语言搭建的，要求版的JVM和JDK(https://www.java.com/en/download/)。该R包提供了很多语言的接口，并且源于云端服务的设计(Candel et al. 2015)。深度自动编码器的例子anomaly_model &- h2o.deeplearning( & x = names(train), & training_frame = train, & activation = "Tanh", & autoencoder = TRUE, & hidden = c(50,20,50), & sparse = TRUE, & l1 = 1e-4, & epochs = 100)总之，H2O是一个高度用户有好的R包，可以实现前馈神经网络和深度自动编码器，还支持分布式计算，甚至提供网络接口。Package “deepr”deepr(2015)自身其实并不能实现深度学习的，当初是由于H2O包在CRAN上不可用时作为弥补的。所以它只是引用了H2O和deepnet的某些函数。Comparison of Packages &我们将从易用性、灵活性、易安装性、并行运算支持性、超参数选择性等几方面进行比较。借助常用的数据集Iris、MNIST、Forest Cover Type等为用户提供合适的R包提供参考。INSTALLATION通过CRAN安装R包是非常简便的。但是以上某些R包需要第三方库的支持。比如，H2O要求版的Java和JDK。由于darch允许使用GPU，所以darch要基于gputools包，而且它只支持和MacOS系统；MXNetR默认是不开放GPU功能的，因为它基于的cuDNN存在版权的问题，所以GPU版本要求Rtools和C++软件来支持封装来自CUDA SDK和cuDNN的代码。FLEXIBILITY在灵活性方便，MXNetR应该是排在第一位的。由于它分层定义模型的特点，无需设置大量的参数就可以实现不同的模型。在我们看来，H2O和darch应该是排在第二位的。H2O主要关注前反馈神经网络和深度自动编码器，而darch则关注限制玻尔兹曼机和深度信念网络。两个包都提供了很多可调整的参数。deepnet是一个相对轻量级的包，主要的优点在于可以拟合多种不同的模型。但是我们不推荐日常使用非GPU版本的deepnet对较大的数据进行分析，因为相对较少的参数使它不能微调至理想的模型。EASE-OF-USEH2O和MXNetR因其速度和易用性而出色的。MXNetR不要求对数据进行预处理；而H2O通过as.h2o()函数将数据转换为H2O对象。两个包都提供模型检验的工具。deepnet通常把标签作为单特征编码矩阵，这就要求很多的数据初始化工作，因为很多数据集的类储存为向量的格式。但是它不会报告这个初始化工作的过程。另外，deepnet也缺乏模型检验的工具。相反，darch有一个很清晰而且详细的输出。PARALLELIZATION深度学习之所以成为趋势得力于它可以处理大数据集。所以，如果R包可以支持并行运算，对于深度学习将会是极大的帮助。下表展示的是几个R包对并行运算的支持性。CHOICE OF PARAMETERS另一个重要的方面是超参数的选择性。H2O采用一种全自动的前神经元调整学习算法使其能够很快的收敛。它也可以通过交叉验证和区域搜寻的方法来优化参数以及模型筛选。MXNetR会给出每次迭代的训练正确性，darch会给出每次建模的误差。这都允许我们手动的选择不同的参数，由于训练过程可以根据迭代的结果提前终止，而无需等到算法收敛。相反，deepnet没有在训练结束之前给出任何信息，导致参数选择非常具有挑战性。Conclusion &通过上面的介绍和分析，我们可知：当前版本的deepnet能够实现较大的模型，但在速度和用户友好方面欠佳，也未能支持参数的调整。H2O和MXNetR，相对来说，提供了用户友好的体验。两者都提供参数调整的参考，训练时间快，而且通常能得到比较好的结果。H2O更适合集群运算的环境，数据分析师可以通过直接的管道进行数据挖掘和探索。当我门更加关注灵活性和模型设计方面，MXNetR将会是最合适的选择。它提供了直观的符号工具使我们方便进行自定义。另外，它可以在个人电脑上使用多核CPU/GPU进行优化。darch提供了少数但专注于深度信念网络的函数。总之，R语言可以很好地进行深度学习。H20和MXnetR可以说是R用户强大的深度学习工具，Caffe和TorchIn等更多的接口将会涌现。尽管与其他编程语言相比，R语言在深度学习方面还不是很有优势，但我们相信，超越肯定在不久的将来！欢迎加入本站公开兴趣群商业智能与数据分析群兴趣范围包括各种让数据产生价值的办法，实际应用案例分享与讨论，分析工具，ETL工具，数据仓库，数据挖掘工具，报表系统等全方位知识QQ群：
上一篇：下一篇：
dataguru.cn All Right Reserved.扫二维码下载作业帮
拍照搜题，秒出答案，一键查看所有搜题记录
下载作业帮安装包
扫二维码下载作业帮
拍照搜题，秒出答案，一键查看所有搜题记录
假设地球是一半径为R、质量分布均匀的球体，其密度为ρ.一矿井深度为d.已知质量分布均匀的球壳对壳内物体的引力为零.矿井底部的重力加速度大小为（万有引力常量G已知）（　　）A. ρπG（R-d）B. ρπG（R-d）2C. ρπG（R-d）3D. 0
作业帮用户
扫二维码下载作业帮
拍照搜题，秒出答案，一键查看所有搜题记录
令地球的密度为ρ，则在地球表面，重力和地球的万有引力大小相等，有：g=2，由于地球的质量为：M=3，所以重力加速度的表达式可写成：g=2＝Gρ43πR3R2＝43πGρR．根据题意有，质量分布均匀的球壳对壳内物体的引力为零，固在深度为d的井底，受到地球的万有引力即为半径等于（R-d）的球体在其表面产生的万有引力，故井底的重力加速度g′=故A正确、BCD错误．故选：A．
为您推荐：
其他类似问题
根据题意知，地球表面的重力加速度等于半径为R的球体在表面产生的加速度，矿井深度为d的井底的加速度相当于半径为R-d的球体在其表面产生的加速度，根据地球质量分布均匀得到加速度．
本题考点：
万有引力定律及其应用．
考点点评：
抓住在地球表面重力和万有引力相等，在矿井底部，地球的重力和万有引力相等，要注意在矿井底部所谓的地球的质量不是整个地球的质量而是半径为（R-d）的球体的质量．
扫描下载二维码来自新闻深度好文：通货膨胀是如何掠夺穷人的？通货膨胀如何把一个公平社会造成贫富分化的社会—— 假设社会上有一万个人，每个人有10元钱，还有10万件商品。这样每件商品的价格是一元。每个人都可以拿出他的10元钱来购买10件商品。整个社会非常公平。 假设有一年社会财富增加了一倍，... [深度解说]注册商标标记“R”和“TM”是什么意思?
“R”是国际上通用的注册商标标记，是英语单词“register”首写大写字母，表示已经注册的意思。　　“TM”是英语单词“Trade Mark”首写字母的缩写，表示所标注的是商标，可能是未注册商标或者正在申请注册过程中。
TM标志并非对商标起到保护作用，它与R不同，TM表示的是该商标已经向国家商标局提出申请，并且国家商标局也已经下发了《受理通知书》，进入了异议期，这样就可以防止其他人提出重复申请，也表示现有商标持有人有优先使用权。　
用圆圈R，是“注册商标”的标记，意思是该商标已在国家商标局进行注册申请并已经商标局审查通过，成为注册商标。　　
“TM”是商标标识，“R”是注册商标标识，二者受法律保护的力度是不同的。 在商标还未成为注册商标的时候，标注“TM”标记，这样做就是告诉公众，这个图形或文字是作为商品或服务的“商标”使用的，不是名称也不是广告宣传，这样就可以避免它所标注的图形或文字流入公用领域，而不能申请成为注册商标，享有专用权；　　同时打上“TM”标记，也可以作为使用该图形或文字作为商标的证明，申请注册商标时，享有使用在先的权利。　
当商标成为注册商标后，就可以在其右上角或右下角标注“R”或“注”注册标记，或者直接标明是“注册商标”。　
个人注册商标是有一个限制，就是不能是自然人，必须要有个体工商营业执照或者是公司法人执照才可以，如果您没有营业执照的话，中国商标局是不予以受理的。
关于营业执照，小编还有更多资讯愿意为您解答喔！
责任编辑：
声明：该文观点仅代表作者本人，搜狐号系信息发布平台，搜狐仅提供信息存储空间服务。
好运企业服务中心以专业能力和专业精神竭诚为全球客户提供高效、优质的服务。
好运企业服务中心以专业能力和专业精神竭诚为全球客户提供高效、优质的服务。
今日搜狐热点182分享收藏文章被以下专栏收录提供专业的前沿科技信息