轉導推理_歸納推理
【Def:傳統推理方法:歸納推理】直到今天,傳統的推理方法仍然是歸納-演繹法,人們首先用已有信息定義一個一般規則,然后用這個規則來推斷所需要的答案(首先從特殊到一般,然后從一般特殊。)。
【Def:轉導推理 Transductive Inference】轉導推理的目的是估計某一位置預測函數在給定興趣點上的值(而非函數全部定義域上的值)。
【轉導和歸納的差別】轉導推理推廣性的屆優於歸納推理相應的界(解決實際問題有優勢),同時也是推廣性哲理上的突破,轉導推理直接進行從特殊到特殊的推理,避免問題中不適定部分(從特殊到一般),因此在轉導推理執行的是不依賴於推廣性思想的經驗推理。
在統計學習中,轉導推理(Transductive Inference)是一種通過觀察特定的訓練樣本,進而預測特定的測試樣本的方法。另一方面,歸納推理(Induction Inference)先從訓練樣本中學習得到通過的規則,再利用規則判斷測試樣本,常見的監督學習。然而有些轉導推理的預測無法由歸納推理獲得,這是因為轉導推理在不同的測試集上會產生相互不一致的預測,這也是最令轉導推理的學者感興趣的地方,比如處理訓練樣本少的少樣本學習方面就是種轉導推理。
當我們把轉導推理和歸納推理的思想應用到深度學習中,即為轉導學習和歸納學習
轉導學習_歸納學習
實際上我們平時所說的learning一般指的是inductive learning。
考慮普通學習問題,訓練集為 ,測試(未標記)
,眾所周知,
不會出現在訓練集中。這種情況就是inductive learning。
半監督學習的情況,訓練集為 ,測試
,此時,
與
都是未標記的,但我們測試的
在訓練時沒有見過,這種情況是 inductive semi-supervised learning。
如果我們不管 ,而是想知道對
的效果怎么樣時,由於此時在訓練的時候我們已經見過
(利用了
的特征信息),這時就叫transductive semi-supervised learning。
簡單來說,transductive和inductive的區別在於我們想要預測的樣本,是不是我們在訓練的時候已經見(用)過的。
通常transductive比inductive的效果要好,因為inductive需要從訓練generalize到測試。