[Home]   [TOC]

Study_Algorithm_MachineLearning  
Machine learning Study
Updated Jan 12, 2014 by jht5...@gmail.com

机器学习可以分成下面几种类别:

监督学习 从给定的训练数据集中学习出一个函数,当新的数据到来时,可以根据这个函数预测结果。监督学习的训练集要求是包括输入和输出,
也可以说是特征和目标。训练集中的目标是由人标注的。常见的监督学习算法包括回归分析和统计分类。
无监督学习 与监督学习相比,训练集没有人为标注的结果。常见的无监督学习算法有聚类。
半监督学习 介于监督学习与无监督学习之间。
增强学习 通过观察来学习做成如何的动作。每个动作都会对环境有所影响,学习对象根据观察到的周围环境的反馈来做出判断。

具体的机器学习算法有:

  • 构造条件概率:回归分析和统计分类
    • 人工神经网络
    • 决策树(Decision tree)
    • 高斯过程回归
    • 线性判别分析
    • 最近邻居法
    • 感知器
    • 径向基函数核
    • 支持向量机
  • 通过再生模型构造概率密度函数(Probability density function):
    • 最大期望算法(Expectation-maximization algorithm)
    • graphical model:包括贝叶斯网和Markov随机场
    • Generative Topographic Mapping
  • 近似推断技术:
    • 马尔可夫链(Markov chain)蒙特卡罗方法
    • 变分法
  • 最优化(Optimization):大多数以上方法,直接或者间接使用最优化算法。

参考资料

[1]. http://zh.wikipedia.org/wiki/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0