線性與非線性的區別和關系

來來來，普及一個基本的問題

線性和非線性到底是怎么區分的

https://www.zhihu.com/question/20084968

 

數學里，一般說的線性，是說的線性映射：

"線性"="齊次性"+"可加性",
"齊次性"是指類似於: f(ax)=af(x),
"可加性"是指類似於: f(x+y)=f(x)+f(y),
這里沒有太多特別的原因, 就是一個名字. "非線性"當然就是這兩條至少之一不成立.

 

前面有說f(x)=ax+b就是線性，但是應該叫線性方程。因為它既不滿足可加性也不滿足齊次性，叫線性映射是不對的。

 

線性的確是由linear引入的 而linear又是西方文獻中描述直線形象的抽象指代
據韋伯斯特linear下的解釋呢
第一條就是 ： of, relating to, resembling or having graph that is a line and esp. a straight line :STRAIGHT
詞源 ORIGIN mid 17th centL from Latin linearis,"a line"

 

作者：李越阡
鏈接：https://www.zhihu.com/question/20084968/answer/13923679
來源：知乎
著作權歸作者所有。商業轉載請聯系作者獲得授權，非商業轉載請注明出處。

 

另外，這一篇說曲線其實也是線性。

https://segmentfault.com/a/1190000009596712

其實，線性模型和非線性模型的區別並不在於能不能去擬合曲線。

一個模型如果是線性的，就意味着它的參數項要么是常數，要么是原參數和要預測的特征之間的乘積加和就是我們要預測的值。

 

如果相對於參數是線性，那么即使性對於樣本變量的特征是二次方或者多次方，這個回歸模型也是線性的 (例如下面的公式)。

 

Y=b+w1x1+w2x22

 

你甚至可以使用 log 或者指數去形式化特征

 

Y=b+w1e−x1+w2e−x2

 

最簡單的判斷一個模型是不是非線性，就是關注非線性本身，判斷它的參數是不是非線性的。非線性有很多種形象，這也是為什么非線性模型能夠那么好的擬合那些曲折的函數曲線的原因。比如下面這個：

 

Y=θ1∗xθ2

 

 

Y=θ1+(θ3−θ2)∗e−θ4X

 

與線性模型不一樣的是，這些非線性模型的特征因子對應的參數不止一個。

最后的觀點，和下一篇，就很類似了。

 

 

另外從下面的文章，可以看出，線性回歸和線性分類是要分開看的。線性分類，就是一條直線把樣本分開。

http://blog.csdn.net/wbcnb/article/details/78306970

 

1. 線性模型可以是用曲線擬合樣本，但是分類的決策邊界一定是直線的，例如logistics模型
2. 區分是否為線性模型，主要是看一個乘法式子中自變量x前的系數w,如果w只影響一個x（注：應該是說x只被一個w影響），那么此模型為線性模型。或者判斷決策邊界是否是線性的