机器学习的核心原理主要有两方面:
一、学习算法
机器学习主要通过下列算法学习数据。
1. 监督学习
通过带标签的实例数据学习。
包括分类、回归等问题。
2. 无监督学习
通过无标签实例数据学习。
包括聚类等问题。
3. 半监督学习
使用部分带标签数据和大量无标签数据学习。
4. 增强学习
通过与环境交互获取回报信号,逐渐提高策略。
二、学习规则
机器学习主要通过以下规则从数据中学习知识。
1. 经验风险最小化
通过对历史样本计算经验风险,获取最小风险的模型。
2. 结构风险最小化
通过控制模型复杂度来避免过拟合,降低风险。
3. 最大后验概率
通过求解 posterior 概率,获取最优模型。
4. 信息极大化
通过最大化训练数据的似然函数,学习数据分布。
5.误差反向传播
通过调整模型参数最小化损失函数,不断逼近目标。
总的来说,机器学习的主要原理体现在:
- 不同的学习算法上
- 不同的学习规则上