Zero-shot / One-shot / Few-shot Learning 簡析


本文轉載自https://blog.csdn.net/JNingWei/article/details/79235019,感謝原博主整理分享

1. Introduction

遷移學習 中,由於傳統深度學習的 學習能力弱,往往需要 海量數據反復訓練 才能修得 泛化神功 。為了 “多快好省” 地通往煉丹之路,煉丹師們開始研究 Zero-shot Learning / One-shot Learning / Few-shot Learning。

愛上一匹野馬 (泛化能力),可我的家里沒有草原 (海量數據) 。

2. Learning類型

(1) 零次學習(Zero-shot Learning)

訓練集中沒有某個類別的樣本,但是如果我們可以學到一個牛逼的映射,這個映射好到我們即使在訓練的時候沒看到這個類,但是我們在遇到的時候依然能通過這個映射得到這個新類的特征。即: 對於 訓練集沒有出現過 的 類別,模型能自動創造出相應的映射: XX -> YY。

注:既要馬兒跑,還 不讓 馬兒吃草。

(2)一次學習(One-shot Learning)

wikipedia:

One-shot learning is an object categorization problem in computer vision. Whereas most machine learning based object categorization algorithms require training on hundreds or thousands of images and very large datasets, one-shot learning aims to learn information about object categories from one, or only a few, training images.

訓練集中,每個類別 都有樣本,但都只是 少量樣本(只有一個或幾個) 。此時,我們可以在一個更大的數據集上或者利用knowledge graph、domain-knowledge 等方法,學到一個一般化的映射,然后再到小數據集上進行更新升級映射。

注:既要馬兒跑,還不讓馬兒 吃草。
One-shot Learning

(3) 少量學習(Few-shot Learning)

等同於 一次學習One-shot Learning 。關鍵就在於如何學到一個好的映射,能應用到沒有看到的問題上。

(4) 傳統 Learning

即傳統深度學習的 海量數據 + 反復訓練 煉丹模式。

注:家里一座大草原,馬兒馬兒你隨便吃
傳統Learning


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM