今晚聽了李文博士的報告“Domain Generalization and Adaptation using Low-Rank Examplar Classifiers”,講的很精彩。自己第一次聽說domain generalization和domain adaptation,故此簡單記錄一下。很多機器學習的任務都假設樣本是獨立同分布的(i.i.d),但是真實世界的數據往往不一樣都滿足。訓練樣本和測試樣本之間分布可能存在偏差。這是因為數據集本身可能是存在biased,比如:比較經典的幾個數據集imagenet,caltech等,都有各自的特點;還有就是真實的數據集是具有多樣性的,用domain A的數據對一類物體進行訓練,在domian B的同一類物體進行識別,表現往往都有下降。所以在模式識別、人臉識別、動作識別時候需要解決模型的泛化和自適應問題。
他們提出用examplar SVM進行分類,並且考慮到預測的稀疏性,融合了低秩矩陣的概念。為了加快訓練,損失函數那塊用exp替代log,用矩陣的block inverse來加快矩陣求逆。感覺工作量很充足,不愧是一篇TPAMI的文章。向大牛看齊。另外給出李文博士的個人主頁:http://www.vision.ee.ethz.ch/~liwenw/