數據科學導引（大綱）

• 線性回歸（Linear Regression）
  • 求解方法
    • 最小二乘法
    • 極大似然估計法（MLE）
    • 梯度下降法
  • 推廣
    • 多項式線性回歸
    • 廣義線性回歸
  • 正則化
    • L1正則化（Lasso）
    • L2正則化（Ridge，嶺回歸）
  • 代碼
• 分類（Classification）
  • 最近鄰（Nearest Neighbor）
    • K Nearest Neigbor（K近鄰，KNN）
      • kd樹
  • 決策樹（Decision Tree）
  • 感知機（Perceptron）
  • 邏輯回歸（Logistic Regression）
  • 支持向量機（Support Vector Machine，SVM）
  • 神經網絡（Neural Networks）
  • 朴素貝葉斯（Naive Bayes）
• 集成模型（Ensemble Models）
  • Bootstrap Aggregating（Bagging）
  • Boosting
  • Stacking
  • Bagging減少variance，Boosting減少bias？
• 聚類（Clustering）
  • K-means
  • 分層聚類（Hierarchical Clustering）
  • 譜聚類（Spectral Clustering）
  • 基於密度的聚類（Density-based Clustering）
  • 聚類的評判標准
• 降維（Dimensionality Reduction）
  • 線性降維方法
    • PCA（Principle Component Analysis）
    • LDA（Linear Discriminant Analysis）
    • ICA（Independent Component Analysis）
    • CCA（Canonical Correlation Analysis）
  • 非線性降維方法
    • 基於和函數的降維方法
    • 基於流形學習的降維方法