- 講演者
- 杉山 将 准教授(東京工業大学 大学院情報理工学研究科 計算工学専攻)
- 講演日時
- 2012年6月11日(月) 16:30~18:00
- 講演場所
- 創想館2階 セミナールーム3 (14-203)
- 講演概要
-
統計的機械学習のほとんどの課題は,データの生成確率分布の推定を介して解決することができる.しかし,確率分布の推定は機械学習における最も困難な問題の一つとして知られているため,現実的には分布推定を回避しながら対象となる課題を解決することが望ましい.例えば,パターン認識法の一つであるサポートベクトルマシンでは,データの生成確率を推定することなくパターン認識に最低限必要な決定境界を直接学習することにより,高い汎化性能の獲得を可能にした.
これまで,分布推定を介さない学習アルゴリズムの開発は,個々の機械学習課題に対して個別に行われてきた.それに対し我々は,様々な機械学習課題に対して統一的に分布推定を避けることのできる汎用的な枠組みを提案してきた.この枠組みでは,確率分布でなく確率密度関数の比を考え,分子と分母の確率密度関数を推定することなくそれらの比を直接推定する.密度比推定によって,重点サンプリング(共変量シフト適応,ドメイン適応,マルチタスク学習),ダイバージェンス推定(二標本検定,外れ値検出,変化点検知),相互情報量推定(独立性検定,独立成分分析,特徴選択,十分次元削減,因果推定),条件付き確率推定(確率的パターン認識,条件付き密度推定)など様々な機械学習課題が解決できることを示してきた.従って,我々の開発してきた密度比直接推定手法を用いることにより,上記の機械学習課題群を一挙に,かつ,高精度に解決できるようになった.
本講演では,この枠組の全体像を紹介すると共に,最新の研究成果についても述べる.
参考文献
- 枠組み全体の説明 杉山 将, 密度比に基づく機械学習の新たなアプローチ, 統計数理, vol.58, no.2, pp.141-155, 2010.
- 密度比推定の方法の説明 Sugiyama, M., Suzuki, T., & Kanamori, T. : Density ratio estimation: A comprehensive review, In Statistical Experiment and Its Related Topics, Research Institute for Mathematical Sciences Kokyuroku, 2010.
- 本 Sugiyama, M., Suzuki, T., & Kanamori, T. : Density Ratio Estimation in Machine Learning, Cambridge University Press, 2012.
- 本 Sugiyama, M. & Kawanabe, M. : Machine Learning in Non-Stationary Environments, MIT Press, Cambridge, MA, USA, 2012.
- リンク
- ブログ記事