集成学习

由多个个体学习器结合的复杂模型
boosting-串联,强依赖关系
bagging-并联,不存在强依赖

学的不太好的每次都处理一部分多个弱学习器结合形成强学习器
Boosting的算法原理示意图
弱学习器1
带权重D(1)
权g2(1)
基于学习误差率e1
训练集
更新权重系数a1
根据.1更新州本权2
弱学习器2
带权重D(2)
权重D(2)
基于学习误差率e2
训练集
更新权重系数a2
合策策
n个样本
强学习器
根据a1更新样本权重D(3)
训练集
弱学习器T
带权重D(T)
训练
基于学习误差|eT更
权重D(T)
训练集
新权重系数aT

Adaboost- 考虑样本的权重,

bagging