目前深度学习的算法有哪几种，适用于哪些问题？
请高手们指教
关于伯乐小组
这里有好的话题，有启发的回复和值得信任的圈子。
新浪微博：
推荐微信号
（加好友请注明来意）
- 好的话题、有启发的回复、值得信赖的圈子
- 分享和发现有价值的内容与观点
- 为IT单身男女服务的征婚传播平台
- 优秀的工具资源导航
- 翻译传播优秀的外文文章
- 国内外的精选博客文章
- UI,网页，交互和用户体验
- 专注iOS技术分享
- 专注Android技术分享
- JavaScript, HTML5, CSS
- 专注Java技术分享
- 专注Python技术分享
& 2016 伯乐在线当前位置： →
深度学习下的智能技术应用及存在的问题
过去几年中，得益于高速计算芯片(GPU)及大量的标注数据，作为当下最流行的机器学习方法，深度学习在医疗领域、制造业领域及商业等各个应用领域中都取得了突破性的成绩，随着人工智能技术的不断革新，未来， AI将会以各种不同的应用形态出现在我们身边，未来的AI发展速度也将超越摩尔定律。
文/毛敏 浙江大华技术股份有限公司智能算法工程师
　　深度学习算法与传统机器算法的比较
由于几乎所有的人工智能领域的问题都可以转化为分类问题，因此机器学习的基本步骤可分为如下形式：目标预处理-特征提取-目标分类，机器学习是一个级联串行结构，因此每一环节的处理结果都会影响到最后的分类效果，在传统的机器学习中针对其中的各个环节都有其各自独立的算法：
目标预处理：直方图归一化，倾斜矫正，形态学处理等;
特征提取：LBP，Haar，SIFT，SURF(Handcrafted Feature Extractor)，Cluster，BOW(bag of word), Fisher vector，PCA，LDA(Unsupervised features);
分类器：SVM，Decision tree, Ensample(集成分类器);
由于上述方法具有各自独立性，因此传统机器学习算法在处理问题时需要对各个环节进行优化，并通过组合优化方法在各个模块中选取最优的组合方式。
与传统机器学习相比深度学习可以把机器学习中的各个部分合成为一个整体结构，通过统一的训练方法(Backpropagation)对其中所有的参数进行调节。当前人们所指的深度学习主要是以CNN(卷积网络)为核心的一系列应用算法，其算法结构如下图所示:
PT1：CNN(卷积网络)算法结构
上图中的每一层都是采用卷积方式与某一卷积核进行卷积所得到的结果，每一结果代表了从原始图像所提取的特征，通过级联方式对图像或信号进行特征提取，最后得到人们想要的分类结果。
2000年以前，深层网络较难收敛，其原因是传统的网络采用的激励函数为sigmoid/tanh函数，其受初始化影响较大且会产生梯度消失的情况。直到2006年Hitton提出了RBM方法对网络进行预训练，之后采用了ReLU作为激活函数使得深度学习在数据量相对较小的任务中无需采用预训练模型的方式来训练网络。
到2000中期，卷积神经网络尽管已经在物体分类方面取得了较好的成绩，但其效果还是比传统方法略差。其原因主要有两方面，一是带标签的训练样本太少;二是计算机的计算效率太低。直到2012年，Fei-Fei Li推出多达120万张标注样本的ImageNet训练数据集，NVIDIA提供了高效并行计算工具，极大的提升了卷积神经网络在物体分类方面的速度和准确性。
CNN应用举例：
PT2：目标检测
PT3：姿态估计
PT4：图像描述
PT5：场景解析及标注
上述基于图像或视频的应用特别是基于深度学习目标检测与识别方法可应用于城市监控、智能交通及行为分析等。
深度学习算法优化及技术应用存在的问题
凭借在目标检测与识别方面出色的算法能力，以智能安防为首的多个行业正在掀起一场基于深度学习算法的应用浪潮，而在这个过程中，深度学习在算法优化和技术应用上依旧存在一些待解决的问题。
首先，深度学习开发平台尚未统一，当前深度学习的平台主要包括：Caffe、Torch、Theano、TensorFlow等，各个平台间的数据接口仍未统一，因此同一套算法需要根据不同平台提供不同的版本，算法移植成本较大，且给不同算法间的评估带来了一定难度;
其次，算法优化方向尚不明确，与传统算法相比深度学习可以看成是一个黑箱模型，因此当算法效果较差时很难评估具体是其中的哪个部分出了问题，当前的经验方法是采用更深的网络结构，增大样本量，此外尚无较明确的算法优化方法;
最后，在理论研究方面，目前从理论角度理解深度学习主要有这样几大方向：1、深度网络中的目标函数的几何特征是怎样的?2、从理论角度来解释卷积网络的有效性?3、如何将机器学习中的：监督学习、无监督学习以及增强学习进行融合，使其成为一种单一的算法?4、如何有效的设计一种类似于人类的无监督学习方法?
当前对于问题1与2尚无较好的解释及解决方法，对于问题3目前仍在探索阶段(对波尔玆曼机及自动编码器是当前该方向的研究热点)，关于问题4，尚处于探索阶段，但已有一些初步成果，即GAN(生成对抗网络)。
安防领域深度学习应用需要关注的问题
依赖于大数据应用方面的突破，安防领域人工智能的应用正呈现出燎原之势，当前的发展水平下，人工智能融合到安防领域所要解决的主要问题是算法的计算性能问题，由于安防领域的大量产品都属于前端产品，因此，深度学习需要运行在ARM等芯片上，如何把GPU上运行的算法移植到前端去运行是目前急需解决的问题。
另外，针对现阶段深度学习开发平台尚未统一的问题，由于目前深度学习对样本的数量及质量具有较大的依赖性，因此需要建立起一个统一的管理样本的平台，该平台应具有管理样本的能力，包括：去除重复样本，排除错误样本及自动生成训练所需的随机样本的能力。
而在芯片和算法方面，目前各厂商采用的芯片及算法相似，由于在芯片上运行的是根据实际应用所设计的算法，因此不同公司产品的优劣取决于其所提供算法的正确率及速度，在深度学习中这两部分对样本的质量具有较强的依赖性，因此公司的核心竞争力取决于对样本的管理能力。
关注官方微信
扫一扫分享本文到朋友圈
联系我们：
&(发送邮件时，请把#换成@)
投稿信箱：
&(发送邮件时，请把#换成@)
企业网版权所有你的位置：
> 当前人工智能特别是深度学习最前沿的研究方向是什么？
发表于( 20:13) 本文标签：
浏览量：199次
&&&&值班编辑QQ：
当前深度学习技术主要是data driven的，即对一个特定任务来说，只要增加训练数据的规模，深度学习模型的表现就可以得到提高。但是发展到今天，这种思路面临很多挑战。主要面临下面几个问题：
1.很多领域（如医疗，教育），很难获取大量的监督数据或者数据的标注成本过高。
2.训练数据规模再大，也有难以覆盖的情况。例如聊天机器人，你不可能穷尽所有可能的答案。而且很多答案，也是随时间变化的（例如明星年龄，配偶）。因此仅仅依靠大规模的训练语料，并不能解决这些问题。
3.通用深度学习模型，直接应用到具体问题，表现（效果，性能，占用资源等）可能不尽如人意。这就要求根据特定的问题和数据，来定制和优化深度学习网络结构。这个是当前研究最多最热的地方。
4.训练的问题。包括网络层数增加带来的梯度衰减，如何更有效的进行大规模并行训练等等。
为了解决上面的问题，当前的研究前沿主要包括以下几个方向：
1.引入外部知识(如知识图谱,WordNet)
Knowledge-Based Semantic Embedding for Machine Translation
A Neural Knowledge Language Model
2.深度学习与传统方法的结合
▲人工规则与神经网络的结合
Harnessing Deep Neural Networks with Logic Rules
▲贝叶斯与神经网络的结合
Human-level concept learning through probabilistic program induction(论文讲的是用贝叶斯让机器模仿人写字的，但是对深度学习有非常大的启发价值）
▲迁移学习与神经网络的结合
▲强化学习与神经网络的结合
Mastering the game of Go with deep neural networks and tree search
▲图模型与神经网络的结合
Bidirectional LSTM-CRF Models for Sequence Tagging
A Hierarchical Latent Variable Encoder-Decoder Model for Generating Dialogues
3.无监督的深度生成模型。
Generative Adversarial Networks
4.新的网络结构
▲Highway Networks
▲Neural Turing Machines
▲End-To-End Memory Networks
▲Deep Residual Learning for Image Recognition
▲Mollifying Networks
5.新的训练方法
Batch Normalization Accelerating Deep Network Training by Reducing Internal Covariate Shift
从具体研究方向上来说，我觉得深度学习在图像和语音上已经非常成熟，因为图像信号和语音信号，都是比较原始的信号，从原始信号中抽取特征对人比较困难，但对深度学习模型比较容易，因此深度学习技术率先在这两个领域取得巨大成功。而NLP领域，因为文字是一种high level的信息，而且从文字到语义，存在一个比较大的语义鸿沟，因此深度学习技术在NLP上存在很大的挑战，但是挑战也意味着机会，因此除了传统NLP领域的研究人大量开始发力深度学习，许多其他领域的人（如机器学习，统计），也开始向NLP进军（Bengio组的人开始搞机器翻译，语言模型，对话系统等等）。
上面是我一些不太成熟的看法，欢迎大家指正交流。
作者：萧瑟
链接：/question//answer/
来源：知乎
著作权归作者所有，转载请联系作者获得授权。
编辑 汪梦梦 王飞翔
【Tips】网络爬虫的七点总结
豆豆叶知乎live：机器学习与我的学术日常
豆豆叶答知友十六问
机器学习算法常用指标总结
Boosted Tree
专业大数据竞赛平台
中国数据青年成长之家
英国将举行性爱机器人大会 专家提醒：容易上瘾
10年后人工智能会怎样？17位微软女科学家告诉你
梦想家扎克伯格为Facebook插上人工智能之翼
人工智能vs人类智能：人机结合才是未来？
霍金再发声：人工智能的下一步或是摧毁中产阶级
富士康追求机器人是表象 看清工业4.0到底是啥？
美国Arcturus无人机公司和氢发动机中心HEC-TINA两家公司宣布，将合作研发支持Arcturus T-20系列无人机的氢燃料内燃机。
按：机器学习与人工智能变得越来越热。大数据原本在工业界中就已经炙手可热，而基于大数据的机器学习则更加流行，因为其通过对数据的计算，可以实现数据预测、为公司提供决策依据。跟我们生活息息相关的最常见机器学习算法包括电影推荐算法、图书推荐算法。
本文首发于微信公众号：新网贷。文章内容属作者个人观点，不代表和讯网立
11月30日，渡鸦科技在798发布了一套智能家居控制设备Raven H-1，通过这个套装可以控制家中不同品牌的电子设备，打破了国内家电厂商各自为
文本报记者 李 伟 业内人士大多对智能隐形眼镜持乐观态度，认为从技术层面上讲，只是时间问题。 在电影《碟中谍4：幽灵协议》中，最令人惊艳的一项高科技可能要数特工特雷弗所佩戴的那款智能隐形眼镜，特雷弗凭借它眨眼间便巧妙地拍下了多份文件。因为它的出
以物联网、云计算、移动互联、大数据为代表的新一代信息技术突飞猛进，虚拟现实（Virtual Reality，简称VR）/增强现实（Augmented Reality，简称AR）/混合现实（Mixed Reality，简称MR）更被广泛认为是下一代的通用计算平台。VR/AR/MR不仅带来更大规模的技术
技术公司爱立信（Ericsson）于本周二在其年度趋势报告《2017年以后十大热门消费品发展趋势》中列出AI和VR领域发展的十大趋势。 报告指出，35%的高端互联网用户希望工作中能有顾问可以建言献策，25%的用户希望能有一个AI管家。而且报告更进一步预言，可能在短据群众举报，经缜密侦查，共查获嫌疑人数百名。
女子在郑州高速上被踹下车，哭诉一年被打二十次。
声明：本文由入驻搜狐公众平台的作者撰写，除搜狐官方账号外，观点仅代表作者本人，不代表搜狐立场。
　　深度学习目前来讲非常火，他火的原因是什么？因为最近这几年，我们首先有大量的数据，像ImageNet，提供了大量的数据，计算的能力也大幅提升，我们知道摩尔定律在过去这些年给我们提升更多的计算能力，存储能力也大幅度提升。
　　过去二十年来，我们的计算能力提升了上百倍都不止，我是90年代读大学的，用的是286，386，现在二十年后，是百倍级的提升，机器你的主屏强，内存小，性能还是不够。1995年的时候，一个GB的存储一千美金，现在0.03美金，这都是通过过去的摩尔定律推动到现在，才有这个爆发点。这个爆发导致我们可以通过深度学习，在某些领域取得比较大的突破，有些领域比如说做视觉识别，特定的人脸识别，已经可以超过人，他犯的错误比人的少，因为人是生物，人会疲劳，人会走神，机器不会。所以目前在语音的识别和视觉的物体识别两个领域有非常大的突破。我们也看到了这个突破，通过深度学习可以通过增加它的训练数据增加性能，意味着我要增加训练能力，来支持这些训练，而不是把数据增加一百倍，把训练时间增加一百倍，我增加这些处理数量，是希望大幅度缩减我的训练时间，但是光增加处理数量行吗？不行，你会遇到一个平台，因为处理器与处理器之间需要有通讯，这些通讯有时候是数据通讯，有时候是控制通讯，当你通讯的瓶颈达到的时候，你再增加处理器，你也缩短不了。所以这就是目前来讲，为什么你在使用某些架构的时候，你再增加处理器，也不见得训练时间减少了，而这时候需要有更高效的技术，能够同时增加你计算的密度，同时也能够大幅度增加你的通讯带宽，这样才能达到线性的增长。
欢迎举报抄袭、转载、暴力色情及含有欺诈和虚假信息的不良文章。
请先登录再操作
请先登录再操作
微信扫一扫分享至朋友圈
搜狐公众平台官方账号
生活时尚&搭配博主 /生活时尚自媒体 /时尚类书籍作者
搜狐网教育频道官方账号
全球最大华文占星网站-专业研究星座命理及测算服务机构
互联网无穷大,带你了解互联网各种热点事件
主演：黄晓明/陈乔恩/乔任梁/谢君豪/吕佳容/戚迹
主演：陈晓/陈妍希/张馨予/杨明娜/毛晓彤/孙耀琦
主演：陈键锋/李依晓/张迪/郑亦桐/张明明/何彦霓
主演：尚格?云顿/乔?弗拉尼甘/Bianca Bree
主演：艾斯?库珀/ 查宁?塔图姆/ 乔纳?希尔
baby14岁写真曝光
李冰冰向成龙撒娇争宠
李湘遭闺蜜曝光旧爱
美女模特教老板走秀
曝搬砖男神奇葩择偶观
柳岩被迫成赚钱工具
大屁小P虐心恋
匆匆那年大结局
乔杉遭粉丝骚扰
男闺蜜的尴尬初夜
客服热线：86-10-
客服邮箱：