什么是非线性 线性与非线性的区别(2)
什么是非线性 线性与非线性的区别(2)
学习啦【百科知识】 编辑：谢君
　　(2) 非线性的物理机制
　　相对于非线性的数学表达而言，它的物理机制是更重要的，也是我们更感兴趣的。非线性的物理机制有很多方面，至于哪方面是最根本的，还没有&致的认识。从非线性的定义来看，可以把非线性的物理机制表述为：一个测度的变化受到两个、两种或更多因素的联合影响，换言之就是非&次项的影响。具体的非线性方式决定于参与联合作用的因素间联合作用的方式，如：两种或多种因素联合作用，Lorenz吸引子中的X&Z是X与Z的联合作用;牛顿第二定律F=m&a2中，a2= a&a 是两个相同的对人有意义的物理变量a与a的联合作用。下面从相互作用、耗散性、有限性、多值性四个方面具体地讨论非线性的物理机制。
　　①相互作用
　　非线性的&个最主要的物理机制，可以说就是相互作用。之所以说世界在本质上是非线性的，在很大程度上就是由于相互作用的普遍存在，完全孤立的事物是没有的(即使有，在原则上它的存在本身也就包含了它与认识主体&&人的相互作用)。实际上，我们遇到的大都是处于某种相互作用网之中的事物，而任何事物在受其它事物作用、影响的同时，也作用于、影响着其它的事物，正如牛顿第三定律所表述的那样，作用与反作用是同时存在的，所以，我们要想准确地、深刻地认识一个事物，就要把该系统在其它系统作用下的行为规律与该系统对其它系统的影响联合起来考虑。这种双向的作用&般就出现非线性项，成为非线性问题。例如：场对粒子运动有作用，粒子的运动也使场发生变化，这时场方程和粒子运动方程就要联合起来考察，从而使之成为非线性问题，再如，人与自然、主体与客体都是双向作用的关系，原则上都将是非线性问题。
　　其实，双向作用的存在必将使其中之一通过对方而作用于自身，从而形成正的或负的反馈回路，起到放大或抑制的作用，使任何初始变化都会产生不成比例的响应，呈现出非线性现象。
　　②耗散性
　　这里所说的耗散性，是指能推动并维持系统远离平衡态的耗散性，而不是近平衡区内较弱的耗散性。
　　系统对能量的耗散是一个不可逆过程，输入系统的能量在流经输入端和输出端过程中，驱动系统做某种单向的不可逆的运动，其间会使子系统间产生非线性连接，实现协同运动，从而形成宏观有序状态。能量在系统内的耗散，相当于为系统内某些运动按了一个&泵&，这个泵的作用在很多的情况下，就是系统非线性现象的根源。例如：在B&nard实验中，扮演非线性现象物理机制的正是耗散性，耗散性的不断加强，使系统达到远离平衡态，产生规则的宏观结构以至呈现混沌状态;与此类似的如：Lorenz吸引子的机制是太阳光加热大气，大气在能量耗散过程中，为耗散性所驱动而产生混沌运动：再如：画包师变换中，无论是拉伸，还是折叠操作，实际上都是&种能量耗散过程。
　　从另一个角度说，对能量的耗散增强，使子系统相互作用程度增强、方式增多，也就使系统可能有的稳态的数目越来越多，局域稳定性越来越小，直到极端的混沌状态。在这&过程中，对系统未来的发展轨迹将难以准确预测，即未来现实发展道路的可能性越来越多，简并程度越来越高，因而可预测性越来越弱。这意味着耗散性导致了系统宏观运动时间反演对称性的破缺，也就是说当耗散加强时，原则上从系统现在的状态无法精确预测其未来的状态，未来不包含于现在之中，它有&新质&产生。
　　③ 有限性
　　现实的、具体的自然都是有限的自然，有限性及其结果蕴含于一切事物之中，在相应的方面规定着一切事物的性质。我们应该把有限性作为考虑一切事物的基本前提之&，作为自然界的&个基本事实。
　　有限性在一定情况下必然导致非线性，它是非线性的另一个重要机制。地说，有限的事物相对于无限的事物而言丧失了许多对称性， 因而作用于其上的操作及结果都可能对应着由有限性直接导致的非对称性。具体地，如Robort May用以研究小生境的虫口模型 ，其非线性项的存在，就是由于环境容量R的有限造成的，如果R无限大，那么此模型就自然成为线性的了;拉伸机制与有限性造成的压缩机制的结合，才使奇异吸引子呈现局部不稳定性和整体稳定性，产生特定的非线性形式&&混沌;除此之外，各种相互作用速度的有限、时空域的有限、结构方式的有限等等都可成为导致非线性的物理机制。
　　④多值性
　　动力系统中常会出现某些变量的一个值对应着其它变量多个值的情况，从物理上说， 就是相同的条件对应着多种可能的状态，约束条件的弱化使系统状态的简并性强化，使可能性非唯&化。多值性的存在，也就自然产生了多值解和对多种可能解的选择，多值性越强，系统就可能越复杂，相对于一定的多值性系统就会有相应的随机性。多值性的存在实际上是约束的有限造成的，对于有限约束所不能制约的方面，系统存在于它的一切可能性之中。
　　多值性在动力学方程中必然表现为非线性，因为只有非线性关系才具有多值性，线性关系不可能有多值性。例如：倍周期分叉过程，在分叉点一侧出现非唯一稳定轨道，使系统的演化轨迹出现随机性、复杂性，&方面可以说这里是非线性产生了多值性，另一方面也可以说这里的非线性物理机制正是系统的多值性。再如：哈密顿系统的三体问题，在考虑小质量物体运动时，由于两个大质量物体造成的引力势场中，存在引力势为0的面、点等特殊空时区域(即两个大质量物体的作用相互抵消的地方)，小质量物体在这些特殊区域的可能轨道就有了多种选择，即约束的弱化造成了系统可能状态的多值化。这种多值性在数学上就表现为非线性，它是复杂现象的重要根源之&。
　　(3)非线性与稳定性的关系
　　稳定性问题是我们研究系统动力学性质的一个先验角度，系统稳定的条件、机制、类型， 失稳的条件、机制、类型，及由稳定到不稳定，由不稳定到稳定的&般规律，对于我们理解一般系统和具体系统的动力学行为都是极为重要的。而稳定性与非线性有着密切的关系， 简言之，处于稳定的系统，必然存在非线性的李雅普诺夫函数(Lyapunov function)。
　　所谓稳定性是用来刻划系统在受到扰动后的行为的，&事物的存在方式或运动状态，不会因为扰动、起伏涨落而改变就谓之稳定。如果有一个或多个小的扰动，使系统的存在方式或运动状态发生了改变，而后，系统又能克服扰动自动地回到未受扰动前的状态，这种系统就是稳定的。&其实，所谓稳定都是相对于&定的扰动而言的，系统的抗扰能力可用稳定程度来标度，稳定程度是我们对系统的稳定性进行区分、刻划的不可缺少的变量。
　　稳定性有多种类型，我们这里所说的是局域稳定性，即&相对于&定的扰动而言，系统是稳定的&，它包含了两个方面的意思，①在我们考察的系统状态附近存在Lyapunov函数， ②环境扰动小于由Lyapunov函数的存在域确定的系统的稳定程度。
　　来源于Lyapunov第一稳定性定理：令 ，x0是一定点( 。假定存在一个函数 使(a) ，且在 的某个邻域内，如果 ， &0，(b)在那个邻域内 ，那么 是稳定的。&满足这两个条件的函数 叫严格的Lyapunov函数。由(a)可见， 为 的极小点，处于稳定状态的系统，可以找到其Lyapunov函数 ，此 在稳定点附近是凹形的，即 不可能有 = 的线性形式，而只能是非线性的。由(b) ，其实就是 ，保证了 沿 减小的路径位移，对于足够小的扰动 将返回x0， 的这种性质，反映了系统具有占优势的维持稳定的机制，这种机制的存在保证了系统对所有小于稳定程度的涨落的有效阻尼。在保守系统中， 多数情况下就是能量，一定范围的凹形 ，就是具有一定深度的势阱的势函数，维持稳定的力则是与函数相应的回复力。
　　总之，无论 是线性的，还是非线性的，只要它是稳定的，那么它就对应着某个非线性的Lyapunov函数 。
　　如：超循环结构的稳定性来源于子系统间的功能耦合造成的非线性;耗散结构的稳定性源于子系统间的协同相互作用，这种相互作用也是非线性的;倍周期分叉序列及混沌区中的周期窗口，这些轨道的稳定也都是非线性机制产生的;奇异吸引子的整体稳定性是系统的耗散性这一非线性机制的结果。可以说，稳态存在的地方，必然存在非线性。
　　不稳定在数学上对应着势函数的极大区域，势函数是凸的，其中包括函数的一阶导数等于0，二阶导数小于0的极大值点;物理上，势阱深度小于等于内外涨落的强度。显然线性关系不会造成这种不稳定性，不稳定机制是一种非线性机制。上文所谈及的各种非线性物理机制在一定情况下都将导致不稳定性。
　　造成混沌轨道指数发散的伸缩变换是&种非线性操作，它使系统敏感初条件、极不稳定;在单峰映射中，无沦在 倍周期分叉点，还是在混沌区内周期窗口结束时，都是非线性机制使原来的稳定的轨道失稳，而后才进入新的轨道。
　　在耗散结构理论中，系统演化过程中热力学分枝的失稳、稳定的耗散结构的出现，其机制是子系统间通过相互作用实现的协同运动，而这种相互作用正是非线性的一种重要物理机制。
　　体在无外界物质、能量输入时，它的耗散机制会使其失稳而滑向热力学平衡态;在保守系统中，随机网的存在使系统在一定程度上呈现不稳定性。这些起不稳定作用的机制都是我们已讨论的非线性机制。
　　综合以上两个方面可见，非线性既是稳定的原因，也是不稳定的原因，在不同情况下它扮演不同的角色。非线性同是稳定和不稳定的必要条件，而不是它们的充分条件，系统稳定与否和非线性机制没有对应关系，系统的稳定或不稳定在不同情况下对应于某些非线性机制或某些非线性机制与其它因素的结合方式。例如：在混沌现象中，非线性机制产生奇异吸引子相空间的局部不稳定性，整体耗散性或有限性等非线性机制造成奇异吸引子的整体稳定性，两者的结合才产生了具有特定分维的奇异吸引子;在孤立子现象中，非线性项与色散项的巧妙平衡才使满足KdV方程的孤立子呈现稳定性，成为纯粹的拟序结构。所以在考察非线性与稳定性问题时，要依据具体情况做具体分析。
看过&线性与非线性的区别&的人还看了：
本文已影响 人
[什么是非线性 线性与非线性的区别(2)]相关的文章
看过本文的人还看了
2233人看了觉得好
6323人看了觉得好
716人看了觉得好
【百科知识】图文推荐
Copyright & 2006 -
All Rights Reserved
学习啦 版权所有线性分类器 VS 非线性分类器
发表于 23:02|
来源NLP.Stanford|
作者NLP.Stanford
摘要：Naive Bayes和Rocchio这两个学习方法是非常重要的线性分类器，如何运用与操作这两个学习方法，就由这篇文章来带给大家。
在这一小节，我展示了Naive Bayes和Rocchio这两个学习方法，它们都属于线性分类器，大概也是文本分类器中最重要的一组，接着我把它们和非线性分类器做了一个比较。为了简化讨论部分，我在这一节将只考虑二类分类器，并将不同特征的线性组合和阈值做比较从而定义一个线性分类器为一个二类分类器。
图 14.8：有无数个可划分这两个线性可分类的超平面
在二维空间里面，一个线性分类器是一条线。图14.8展示了五个分类例子。这些线有一个函数形式w1x1-+w2-x2=b。线性分类器的分类规则是：如果w1x1-+w2-x2&b，就把一个文档归类为，如果w1x1-+w2-x2&=b,就把它归类为。在这里，(x1,x2)T是文档的二维向量表示，(w1,w2)是参数向量，和b一起决定决策边界。此外，在图
中给出了线性分类器的另一种几何解释。
正如我们之前在公式
中处理的那样，我们可以通过定义一个超平面将一个二维线性分类器映射到更高维空间，这里我重复一下之前的公式，即公式
然后，分类标准更改为：如果，就归类为，如果，就归类为。我们把使用的超平面作为一个线性分类器的决策超平面。
图14.9 线性分类算法
展示的是在M维空间中对应的线性分类算法。首先，从给出的这个简化算法表述来看，线性分类似乎是很简单的。然而，困难的是线性分类器的训练，也就是基于数据集来确定参数和b。我们用于评估学习算法性能的标准是通过比较经过学习得到的线性分类器在新数据上的表现效果来确定的，通常会有一些学习算法最后会计算出优于其它算法的参数。
现在，我们来证实下Rocchio和Naive Bayes这两个线性分类器。让我们先来看看Rocchio，可以看出如果一个向量到两个类质心的距离相等，那么它就位于决策边界上。
我们可以从它的决策规则中推导出Na?ve bayes的线性，它选择有最大的作为类别(如图
表示的是词表中包含的词在文档中出现的个数。对立类别用表示，我们可以得到log概率：
如果概率大于1，或是log概率大于0，我们就归类为。很容易看出，公式
的一个实例，其中，xi=d中ti的出现次数，。这里，下标i，
指的是词表中的词（并不是和k一样，指词在文档d中的位置；参见variantmultinomial），x和w是M维向量。因此，在log空间中，朴素贝叶斯是一个线性分类器。
一个线性分类器。在Reuters-21578中用于分类interest（如interest rate）的线性分类器的维数
和参数，阈值。像dlr和world这样的术语有负权重，因为它们是用于另一个类别“货币”的标志。
工作例子。表14.4定义了一个用于在Reuters-21578（见
）中分类interest的线性分类器。我们把文档`
`rate discount dlrs world''分为interest，因为
`prime dlrs''分为对立类（不在interest中），因为
。为了简化，我们在这个例子中假设一个简单的二类向量可以表示为如下形式：1表示出现的术语，0表示没有出现的术语。工作例子到此为止。
一个有噪声数据的线性问题。在这个假设的web页面分类场景中，全是中文的网页用实心圆标记，中英混合的网页用正方形表示。这两类被一个线性分类边界（虚线、短虚线）区分开，除了三个噪声文档（使用箭头标记）
是线性问题的图例，我们的定义表明两个类的潜在分布
和中有一条分隔线。我们把这条分割线称作类边界。这是两类的“true”边界并且我们把它从决策边界（学习方法计算类边界的近似值）中识别出来。
在典型的文本分类中，如图
（使用箭头标记的部分）有一些噪声文档，没有很好的拟合类别的整体分布。在
小节（页码
），我们把噪声特征定义为误导特征，当文档中包含有噪声特征时，分类误差会均匀地增加。类似的，当训练集中包含噪声文档时，那么它将会误导学习方法并且增加分类错误率。直觉上，将代表空间划分为不同的区域，区域内的大部分样本类别都相同。一个文档如果不属于它所在区域的主要类别，那么它就是噪声文档。
噪声文档是使训练线性分类器变得困难的一个原因。在选择分类器决策超平面时，如果我们过于关注噪声文档，那么分类器在新的数据上就会表现得的不精确。最根本的是，通常很难决定哪一个文档属于噪声文档并因此潜在的误导我们。
如果存在一个超平面能够完美的的划分两个类别，那么我们称这两个类别为线性可分。事实上，如果具有线性可分性，那么会有无数条线性分割线（练习
所示，可分割超平面是无限的。
表明了在训练线性分类器中的另一挑战。如果我们处理的是一个线性可分问题，那么我们需要一条标准从所有的决策超平面中来进行选择，让其能够完美的划分训练数据。通常这些超平面，有些可以在新数据上表现的很好，而另一些则表现的不尽人意。
图14.11 非线性问题
非线性分类器的一个典型例子就是kNN。从图
这个例子可以看出，kNN的非线性是直观清晰的。kNN的决策边界（如14.6的
）是局部线性划分，但通常有一个复杂的形状，并不等同于二维空间中的一条线或是更高维空间中的一条超平面。
是另一个非线性问题的例子：在
分布中没有一条很好的线性分割线，因为在图的左上角还有一个环形包围的“区域”。
线性分类器会误分圆形内部的部分，所以在处理这种类型的问题时，如果训练集足够大的话，像kNN这样的非线性分类器反而会表现得更加精确。
如果一个问题是非线性问题并且它的类边界不能够用线性超平面估计得很好，那么非线性分类器通常会比线性分类器表现得更精准。如果一个问题是线性的，那么最好使用简单的线性分类器来处理。
· 证明二分类中线性分割线的个数要么是无穷个，要么是零。
原文链接：
（译者/刘帝伟 审校/赵屹华、朱正贵、李子健 责编/仲浩）
译者简介:&刘帝伟,中南大学软件学院在读研究生，关注机器学习、数据挖掘及生物信息领域。
【分享预告】9月29日20:30-21:30，CSDN人工智能用户群安排技术专家深度分享“世纪佳缘推荐和机器学习算法实践”。
讲师简介：杨鹏，世纪佳缘算法组，从事推荐和机器学习算法相关工作。
分享内容：佳缘网站在用的推荐和排序的算法，用到的工具，架构，一些成功和失败的尝试。
分享通道：1.CSDN 人工智能技术交流QQ群：。2.CSDN 人工智能用户微信群，请加微信号“jianding_zhou”或扫下方二维码，由工作人员邀请入群。
加群请注明“机构名-技术方向-姓名/昵称”，并按此格式修改群名片。
推荐阅读相关主题：
CSDN官方微信
扫描二维码,向CSDN吐槽
微信号：CSDNnews
相关热门文章概念解释（1）
1. 线性linear，指量与量之间按比例、成直线的关系，在数学上可以理解为一阶导数为常数的函数；
& &非线性non-linear则指不按比例、不成直线的关系，一阶导数不为常数。
2. 线性的可以认为是1次曲线，比如y=ax+b ,即成一条直线
& &非线性的可以认为是2次以上的曲线，比如y=ax^2+bx+c，(x^2是x的2次方)，即不为直线的即可
3. 两个变量之间的关系是一次函数关系的——图象是直线，这样的两个变量之间的关系就是“线性关系”；
& &如果不是一次函数关系的——图象不是直线，就是“非线性关系
4. “线性”与“非线性”，常用于区别函数y = f (x)对自变量x的依赖关系。线性函数即一次函数，其图像为一条直线。其它函数则为非线性函数，其图像不是直线。
　　线性，指量与量之间按比例、成直线的关系，在空间和时间上代表规则和光滑的运动；而非线性则指不按比例、不成直线的关系，代表不规则的运动和突变。&
　　比如，普通的电阻是线性元件，电阻R两端的电压U，与流过的电流I，呈线性关系，即R=U/I，R是一个定数。二极管的正向特性，就是一个典型的非线性关系，二极管两端的电压u，与流过的电流i不是一个固定的比值，即二极管的正向电阻值，是随不同的工作点(u、i)而不同的。
5. 在数学上，线性关系是指自变量x与因变量yo之间可以表示成y=ax+b ,（a,b为常数），即说x与y之间成线性关系。
& &不能表示成y=ax+b ,（a,b为常数），即非线性关系，非线性关系可以是二次，三次等函数关系，也可能是没有关系。
参考知识库
* 以上用户言论只代表其个人观点，不代表CSDN网站的观点或立场
访问：19165次
排名：千里之外
评论：31条
(1)(4)(3)(2)(1)(1)(1)(1)(2)君，已阅读到文档的结尾了呢~~
线性与非线性的基本定义与区别
扫扫二维码，随身浏览文档
手机或平板扫扫即可继续访问
线性与非线性的基本定义与区别
举报该文档为侵权文档。
举报该文档含有违规或不良信息。
反馈该文档无法正常浏览。
举报该文档为重复文档。
推荐理由：
将文档分享至：
分享完整地址
文档地址：
粘贴到BBS或博客
flash地址：
支持嵌入FLASH地址的网站使用
html代码：
&embed src='/DocinViewer-4.swf' width='100%' height='600' type=application/x-shockwave-flash ALLOWFULLSCREEN='true' ALLOWSCRIPTACCESS='always'&&/embed&
450px*300px480px*400px650px*490px
支持嵌入HTML代码的网站使用
您的内容已经提交成功
您所提交的内容需要审核后才能发布，请您等待！
3秒自动关闭窗口您的举报已经提交成功，我们将尽快处理，谢谢！
两个变量之间的关系是一次函数关系的——图象是直线，这样的两个变量之间的关系就是“线性关系”；如果不是一次函数关系的——图象不是直线，就是“非线性关系”。如此而已...
随着变化量的上升而上升下降而下降的是线性关系,反之是非线性关系,变化量是多元的,是多元线性关系.反之是多元非线性关系
线性函数就是一次函数,这种函数的图象是一条直线. 当然,非线性函数就是指非一次函数,如:二次函数,反比例函数,指数函数,对数函数,三角函数,......
大家还关注