Scikit Learn 线性建模


本章将帮助你了解 Scikit-Learn 中的线性建模,让我们首先了解什么是 Sklearn 中的线性回归。

下表列出了 Scikit-Learn 提供的各种线性模型:

序号模型和说明
1

线性回归

它是研究因变量 (Y) 与一组给定的自变量 (X) 之间关系的最佳统计模型之一。

2

逻辑回归

逻辑回归,尽管它的名字,是一种分类算法,而不是回归算法。基于给定的一组自变量,它用于估计离散值(0 或 1,是/否,真/假)。

3

岭回归

岭回归或 Tikhonov 正则化是执行 L2 正则化的正则化技术。它通过添加相当于系数大小平方的惩罚(收缩量)来修改损失函数。

4

贝叶斯岭回归

贝叶斯回归允许一种自然机制,通过使用概率分布器而不是点估计来制定线性回归,从而在数据不足或分布不均的情况下幸免于难。

5

LASSO

LASSO 是执行 L1 正则化的正则化技术。它通过添加相当于系数绝对值总和的惩罚(收缩量)来修改损失函数。

6

多任务套索

它允许联合拟合多个回归问题,强制所有回归问题(也称为任务)的所选特征相同。 Sklearn 提供了一个名为 MultiTaskLasso 的线性模型,使用混合 L1、L2 范数进行正则化训练,它联合估计多元回归问题的稀疏系数。

7

弹性网

Elastic-Net 是一种正则化回归方法,它线性组合了 Lasso 和 Ridge 回归方法的 L1 和 L2 两种惩罚。当有多个相关特征时,它很有用。

8

多任务弹性网

它是一个 Elastic-Net 模型,允许拟合多个回归问题,共同强制所有回归问题的所选特征相同,也称为任务