基学习器学习笔记
在集成学习（Ensemble Learning）中，基学习器（Base Learner）是指用于构建集成模型的单个弱学习器。本文将介绍几种常见的基学习器，包括决策树、神经网络、支持向量机等。
1. 决策树
决策树是一种基于树形结构的分类模型，它的每个非叶子节点表示一个特征或属性，叶子节点表示一个类别。当新数据进来时，决策树会从根节点开始依次判断数据所对应的特征，并按照决策树的结构进行分类。
决策树的训练过程就是构建一个树形结构的过程。常用的决策树算法有ID3、C4.5、CART等。
2. 神经网络
神经网络是一种模拟人脑神经元的计算机模型，它由多个神经元组成，每个神经元接收来自其他神经元的输入信号，并根据权重和激活函数的处理输出结果。
在集成学习中，我们通常使用浅层神经网络作为基学习器，因为它们的运算速度较快、容易训练。常用的神经网络模型有多层感知机（MLP）、卷积神经网络（CNN）等。
3. 支持向量机
支持向量机（Support Vector Machine，SVM）是一种二元分类模型，它通过在高维空间中构建超平面对数据进行分割。SVM训练过程中需要解决一个凸二次规划问题。
SVM通常可以使用核函数将低维输入映射到高维特征空间上，从而更好地处理非线性分类问题。常用的核函数有线性核、多项式核、径向基函数核等。
4. 总结
本文介绍了几种常见的基学习器，包括决策树、神经网络、支持向量机等。在集成学习中，选择合适的基学习器对于提高集成模型的表现非常重要。
