「ML」 基学习器
一、 基分类器
1. 常用的基分类器1
最常用的基分类器是「决策树」:
- 决策树不稳定,适合用集成学习来提升效果;
除了决策树以外,神经网络也很适合;
2. 可否将随机森林中的基分类器由决策树替换为线性分类器或 KNN?1
随机森林属于 Bagging 类的集成学习;Bagging 最大的好处就是集成后,分类器方差更小;
而线性分类器和 KNN 都是较为稳定的分类器,本身方差就不大;使用 Bagging 后并不能获得更好的表现;甚至可能因为 Bagging 的采样,而导致他们在训练中更难收敛,从而增大了集成分类器的偏差;
Comments