文章目录

一、线性回归简介1. 线性回归应用场景2. 什么是线性回归2.1 定义与公式2.2 线性回归的特征与目标的关系分析3. 小结二、线性回归api初步使用1. 线性回归API2. 举例2.1 步骤分析2.2 代码过程3. 小结三、线性回归的损失和优化1. 损失函数2. 优化算法2.1 正规方程2.1.1 什么是正规方程2.1.2 正规方程求解举例2.1.3 正规方程的推导2.2 梯度下降(Gradient Descent)2.2.1 什么是梯度下降2.2.2 梯度的概念2.2.3 梯度下降举例1. 单变量函数的梯度下降2.多变量函数的梯度下降2.2.4 梯度下降（Gradient Descent）公式3. 梯度下降和正规方程的对比3.1 两种方法对比3.2 算法选择依据：四、线性回归api再介绍五、案例：波士顿房价预测1. 案例背景介绍2. 案例分析3. 回归性能评估4. 代码实现4.1 正规方程4.2 梯度下降法5. 小结六、欠拟合和过拟合1. 定义2. 原因以及解决办法3. 正则化3.1 什么是正则化3.2 正则化类别七、正则化线性模型1. Ridge Regression (岭回归，又名 Tikhonov regularization)2. Lasso Regression(Lasso 回归)3. Elastic Net (弹性网络)4. Early Stopping [了解]八、线性回归的改进-岭回归1. API2. 观察正则化程度的变化，对结果的影响？3. 波士顿房价预测4. 小结

一、线性回归简介

1. 线性回归应用场景

房价预测

销售额度预测

贷款额度预测

举例：

2. 什么是线性回归

2.1 定义与公式

线性回归(Linear regression)是利用回归方程(函数)对一个或多个自变量(特征值)和因变量(目标值)之间关系进行建模的一种分析方式。

特点：只有一个自变量的情况称为单变量回归，多于一个自变量情况的叫做多元回归 线性回归用矩阵表示举例

那么怎么理解呢？我们来看几个例子

期末成绩：0.7×考试成绩+0.3×平时成绩房子价格 = 0.02×中心区域的距离 + 0.04×城市一氧化氮浓度 + (-0.12×自住房平均房价) + 0.254×城镇犯罪率

上面两个例子，我们看到特征值与目标值之间建立了一个关系，这个关系可以理解为线性模型。

2.2 线性回归的特征与目标的关系分析

线性回归当中主要有两种模型，一种是线性关系，另一种是非线性关系。在这里我们只能画一个平面更好去理解，所以都用单个特征或两个特征举例子。

线性关系

单变量线性关系：

多变量线性关系

注释：单特征与目标值的关系呈直线关系，或者两个特征与目标值呈现平面的关系

更高维度的我们不用自己去想，记住这种关系即可

非线性关系

注释：为什么会这样的关系呢？原因是什么？

如果是非线性关系，那么回归方程可以理解为：

w1x1+w2x22+w3x32w_1x_1+w_2x_2^2+w_3x_3^2w1​x1​+w2​x22​+w3​x32​

3. 小结

线性回归的定义【了解】 利用回归方程(函数)对一个或多个自变量(特征值)和因变量(目标值)之间关系进行建模的一种分析方式 线性回归的分类【知道】 线性关系非线性关系

二、线性回归api初步使用

1. 线性回归API

sklearn.linear_model.LinearRegression() LinearRegression.coef_：回归系数

2. 举例

2.1 步骤分析

1.获取数据集

2.数据基本处理（该案例中省略）

3.特征工程（该案例中省略）

4.机器学习

5.模型评估（该案例中省略）

2.2 代码过程

导入模块

from sklearn.linear_model import LinearRegression

构造数据集

x = [[80, 86],[82, 80],[85, 78],[90, 90],[86, 82],[82, 90],[78, 80],[92, 94]]y = [84.2, 80.6, 80.1, 90, 83.2, 87.6, 79.4, 93.4]

机器学习-- 模型训练

# 实例化APIestimator = LinearRegression()# 使用fit方法进行训练estimator.fit(x,y)estimator.coef_estimator.predict([[100, 80]])

3. 小结

sklearn.linear_model.LinearRegression() LinearRegression.coef_：回归系数

三、线性回归的损失和优化

假设刚才的房子例子，真实的数据之间存在这样的关系：

真实关系：真实房子价格 = 0.02×中心区域的距离 + 0.04×城市一氧化氮浓度 + (-0.12×自住房平均房价) + 0.254×城镇犯罪率

那么现在呢，我们随意指定一个关系（猜测）

随机指定关系：预测房子价格 = 0.25×中心区域的距离 + 0.14×城市一氧化氮浓度 + 0.42×自住房平均房价 + 0.34×城镇犯罪率

请问这样的话，会发生什么？真实结果与我们预测的结果之间是不是存在一定的误差呢？类似这样样子

既然存在这个误差，那我们就将这个误差给衡量出来

1. 损失函数

总损失定义为：

yi为第i个训练样本的真实值h(xi)为第i个训练样本特征值组合预测函数又称最小二乘法

如何去减少这个损失，使我们预测的更加准确些？既然存在了这个损失，我们一直说机器学习有自动学习的功能，在线性回归这里更是能够体现。这里可以通过一些优化方法去优化（其实是数学当中的求导功能）回归的总损失！！！

2. 优化算法

如何去求模型当中的W，使得损失最小？（目的是找到最小损失对应的W值）

线性回归经常使用的两种优化算法 正规方程梯度下降法

​

2.1 正规方程

2.1.1 什么是正规方程

w=(XTX)−1XTyw=(X^TX)^{-1}X^Tyw=(XTX)−1XTy

理解：X为特征值矩阵，y为目标值矩阵。直接求到最好的结果

缺点：当特征过多过复杂时，求解速度太慢并且得不到结果

2.1.2 正规方程求解举例

以下表示数据为例：

即：

运用正规方程方法求解参数：

2.1.3 正规方程的推导

推导方式一：

把该损失函数转换成矩阵写法：

其中y是真实值矩阵，X是特征值矩阵，w是权重矩阵

对其求解关于w的最小值，起止y,X 均已知二次函数直接求导，导数为零的位置，即为最小值。

求导：

注：式(1)到式(2)推导过程中, X是一个m行n列的矩阵，并不能保证其有逆矩阵，但是右乘XT把其变成一个方阵，保证其有逆矩阵。

式（5）到式（6）推导过程中，和上类似。

2.2 梯度下降(Gradient Descent)

2.2.1 什么是梯度下降

梯度下降法的基本思想可以类比为一个下山的过程。

假设这样一个场景：

一个人被困在山上，需要从山上下来(i.e. 找到山的最低点，也就是山谷)。但此时山上的浓雾很大，导致可视度很低。

因此，下山的路径就无法确定，他必须利用自己周围的信息去找到下山的路径。这个时候，他就可以利用梯度下降算法来帮助自己下山。

具体来说就是，以他当前的所处的位置为基准，寻找这个位置最陡峭的地方，然后朝着山的高度下降的地方走，（同理，如果我们的目标是上山，也就是爬到山顶，那么此时应该是朝着最陡峭的方向往上走）。然后每走一段距离，都反复采用同一个方法，最后就能成功的抵达山谷。

梯度下降的基本过程就和下山的场景很类似。

首先，我们有一个可微分的函数。这个函数就代表着一座山。

我们的目标就是找到这个函数的最小值，也就是山底。

根据之前的场景假设，最快的下山的方式就是找到当前位置最陡峭的方向，然后沿着此方向向下走，对应到函数中，就是找到给定点的梯度，然后朝着梯度相反的方向，就能让函数值下降的最快！因为梯度的方向就是函数值变化最快的方向。 所以，我们重复利用这个方法，反复求取梯度，最后就能到达局部的最小值，这就类似于我们下山的过程。而求取梯度就确定了最陡峭的方向，也就是场景中测量方向的手段。

2.2.2 梯度的概念

梯度是微积分中一个很重要的概念

在单变量的函数中，梯度其实就是函数的微分，代表着函数在某个给定点的切线的斜率；

在多变量函数中，梯度是一个向量，向量有方向，梯度的方向就指出了函数在给定点的上升最快的方向；

在微积分里面，对多元函数的参数求∂偏导数，把求得的各个参数的偏导数以向量的形式写出来，就是梯度。

这也就说明了为什么我们需要千方百计的求取梯度！我们需要到达山底，就需要在每一步观测到此时最陡峭的地方，梯度就恰巧告诉了我们这个方向。梯度的方向是函数在给定点上升最快的方向，那么梯度的反方向就是函数在给定点下降最快的方向，这正是我们所需要的。所以我们只要沿着梯度的反方向一直走，就能走到局部的最低点！

2.2.3 梯度下降举例

1. 单变量函数的梯度下降

我们假设有一个单变量的函数 ：J(θ)=θ2J(θ) = θ^2J(θ)=θ2

函数的微分：J′(θ)=2θJ'(θ) = 2θJ′(θ)=2θ

初始化，起点为： θ0=1θ^0 = 1θ0=1

学习率：α=0.4α = 0.4α=0.4

我们开始进行梯度下降的迭代计算过程:

如图，经过四次的运算，也就是走了四步，基本就抵达了函数的最低点，也就是山底

2.多变量函数的梯度下降

我们假设有一个目标函数 ：J(θ)=θ12+θ22J(θ) = θ1^2 + θ2^2J(θ)=θ12+θ22

现在要通过梯度下降法计算这个函数的最小值。我们通过观察就能发现最小值其实就是 (0，0)点。但是接下 来，我们会从梯度下降算法开始一步步计算到这个最小值! 我们假设初始的起点为: θ0 = (1, 3)

初始的学习率为:α=0.1α = 0.1α=0.1

函数的梯度为:∇J(θ)=<2θ1,2θ2>\nabla J(θ) =< 2θ_1 ,2θ_2>∇J(θ)=<2θ1​,2θ2​>

进行多次迭代:

我们发现，已经基本靠近函数的最小值点

2.2.4 梯度下降（Gradient Descent）公式

θi+1=θi−α∂∂θiJ(θ)\theta_{i+1}=\theta_i-{ \alpha { {\partial } \over {\partial \theta_i}} J(\theta) }θi+1​=θi​−α∂θi​∂​J(θ)

1) α是什么含义？

α在梯度下降算法中被称作为学习率或者步长，意味着我们可以通过α来控制每一步走的距离，以保证不要步子跨的太大扯着蛋，哈哈，其实就是不要走太快，错过了最低点。同时也要保证不要走的太慢，导致太阳下山了，还没有走到山下。所以α的选择在梯度下降法中往往是很重要的！α不能太大也不能太小，太小的话，可能导致迟迟走不到最低点，太大的话，会导致错过最低点！

2) 为什么梯度要乘以一个负号？

梯度前加一个负号，就意味着朝着梯度相反的方向前进！我们在前文提到，梯度的方向实际就是函数在此点上升最快的方向！而我们需要朝着下降最快的方向走，自然就是负的梯度的方向，所以此处需要加上负号

我们通过两个图更好理解梯度下降的过程

所以有了梯度下降这样一个优化算法，回归就有了"自动学习"的能力

优化动态图演示

3. 梯度下降和正规方程的对比

3.1 两种方法对比

经过前面的介绍，我们发现最小二乘法适用简洁高效，比梯度下降这样的迭代法似乎方便很多。但是这里我们就聊聊最小二乘法的局限性。

首先，最小二乘法需要计算XTXX^TXXTX的逆矩阵，有可能它的逆矩阵不存在，这样就没有办法直接用最小二乘法了。

此时就需要使用梯度下降法。当然，我们可以通过对样本数据进行整理，去掉冗余特征。让XTXX^TXXTX的行列式不为0，然后继续使用最小二乘法。

第二，当样本特征n非常的大的时候，计算XTXX^TXXTX​​的逆矩阵是一个非常耗时的工作（nxn的矩阵求逆），甚至不可行。

此时以梯度下降为代表的迭代法仍然可以使用。那这个n到底多大就不适合最小二乘法呢？如果你没有很多的分布式大数据计算资源，建议超过10000个特征就用迭代法吧。或者通过主成分分析降低特征的维度后再用最小二乘法。

第三，如果拟合函数不是线性的，这时无法使用最小二乘法，需要通过一些技巧转化为线性才能使用，此时梯度下降仍然可以用。

第四，以下特殊情况，。

当样本量m很少，小于特征数n的时候，这时拟合方程是欠定的，常用的优化方法都无法去拟合数据。当样本量m等于特征数n的时候，用方程组求解就可以了。当m大于n时，拟合方程是超定的，也就是我们常用与最小二乘法的场景了。

3.2 算法选择依据：

小规模数据： 正规方程：LinearRegression(不能解决拟合问题)岭回归 大规模数据： 梯度下降法：SGDRegressor

经过前面介绍，我们发现在真正的开发中，我们使用梯度下降法偏多（深度学习中更加明显）。

四、线性回归api再介绍

sklearn.linear_model.LinearRegression(fit_intercept=True) 通过正规方程优化参数 fit_intercept：是否计算偏置 属性 LinearRegression.coef_：回归系数LinearRegression.intercept_：偏置 sklearn.linear_model.SGDRegressor(loss=“squared_loss”, fit_intercept=True, learning_rate =‘invscaling’, eta0=0.01) SGDRegressor类实现了随机梯度下降学习，它支持不同的loss函数和正则化惩罚项来拟合线性回归模型。参数： loss:损失类型 loss=”squared_loss”: 普通最小二乘法 fit_intercept：是否计算偏置learning_rate : string, optional 学习率填充‘constant’: eta = eta0‘optimal’: eta = 1.0 / (alpha * (t + t0))‘invscaling’: eta = eta0 / pow(t, power_t) [default]power_t=0.25:存在父类当中对于一个常数值的学习率来说，可以使用learning_rate=’constant’ ，并使用eta0来指定学习率。 属性： SGDRegressor.coef_：回归系数SGDRegressor.intercept_：偏置

sklearn提供给我们两种实现的API， 可以根据选择使用

小结

正规方程 sklearn.linear_model.LinearRegression() 梯度下降法 sklearn.linear_model.SGDRegressor(）

五、案例：波士顿房价预测

1. 案例背景介绍

数据介绍

给定的这些特征，是专家们得出的影响房价的结果属性。我们此阶段不需要自己去探究特征是否有用，只需要使用这些特征。到后面量化很多特征需要我们自己去寻找

2. 案例分析

回归当中的数据大小不一致，是否会导致结果影响较大。所以需要做标准化处理。

数据分割与标准化处理回归预测线性回归的算法效果评估

3. 回归性能评估

均方误差(Mean Squared Error)MSE)评价机制：

注：yiy^iyi为预测值，y‾\overline{y}y​为真实值

思考：MSE和最小二乘法的区别是？

MSE是用来评估训练后的模型的效果的，是在测试集的进行的，而最小二乘法是损失函数，是用来训练模型的，用在训练集上。

sklearn.metrics.mean_squared_error(y_true, y_pred)均方误差回归损失y_true:真实值y_pred:预测值return:浮点数结果

4. 代码实现

4.1 正规方程

def linear_model1():"""线性回归:正规方程:return:None"""# 1.获取数据data = load_boston()# 2.数据集划分x_train, x_test, y_train, y_test = train_test_split(data.data, data.target, random_state=22)# 3.特征工程-标准化transfer = StandardScaler()x_train = transfer.fit_transform(x_train)x_test = transfer.fit_transform(x_test)# 4.机器学习-线性回归(正规方程)estimator = LinearRegression()estimator.fit(x_train, y_train)# 5.模型评估# 5.1 获取系数等值y_predict = estimator.predict(x_test)print("预测值为:\n", y_predict)print("模型中的系数为:\n", estimator.coef_)print("模型中的偏置为:\n", estimator.intercept_)# 5.2 评价# 均方误差error = mean_squared_error(y_test, y_predict)print("误差为:\n", error)return None

4.2 梯度下降法

def linear_model2():"""线性回归:梯度下降法:return:None"""# 1.获取数据data = load_boston()# 2.数据集划分x_train, x_test, y_train, y_test = train_test_split(data.data, data.target, random_state=22)# 3.特征工程-标准化transfer = StandardScaler()x_train = transfer.fit_transform(x_train)x_test = transfer.fit_transform(x_test)# 4.机器学习-线性回归(特征方程)estimator = SGDRegressor(max_iter=1000)estimator.fit(x_train, y_train)# 5.模型评估# 5.1 获取系数等值y_predict = estimator.predict(x_test)print("预测值为:\n", y_predict)print("模型中的系数为:\n", estimator.coef_)print("模型中的偏置为:\n", estimator.intercept_)# 5.2 评价# 均方误差error = mean_squared_error(y_test, y_predict)print("误差为:\n", error)return None

我们也可以尝试去修改学习率

estimator = SGDRegressor(max_iter=1000,learning_rate="constant",eta0=0.1)

此时我们可以通过调参数，找到学习率效果更好的值。

5. 小结

正规方程和梯度下降法api在真实案例中的使用【知道】线性回归性能评估【知道】 均方误差

六、欠拟合和过拟合

1. 定义

过拟合：一个假设在训练数据上能够获得比其他假设更好的拟合， 但是在测试数据集上却不能很好地拟合数据，此时认为这个假设出现了过拟合的现象。(模型过于复杂)欠拟合：一个假设在训练数据上不能获得更好的拟合，并且在测试数据集上也不能很好地拟合数据，此时认为这个假设出现了欠拟合的现象。(模型过于简单)

那么是什么原因导致模型复杂？线性回归进行训练学习的时候变成模型会变得复杂，这里就对应前面再说的线性回归的两种关系，非线性关系的数据，也就是存在很多无用的特征或者现实中的事物特征跟目标值的关系并不是简单的线性关系。

2. 原因以及解决办法

欠拟合原因以及解决办法 原因：学习到数据的特征过少解决办法： 1）添加其他特征项，有时候我们模型出现欠拟合的时候是因为特征项不够导致的，可以添加其他特征项来很好地解决。例如，“组合”、“泛化”、“相关性”三类特征是特征添加的重要手段，无论在什么场景，都可以照葫芦画瓢，总会得到意想不到的效果。除上面的特征之外，“上下文特征”、“平台特征”等等，都可以作为特征添加的首选项。2）添加多项式特征，这个在机器学习算法里面用的很普遍，例如将线性模型通过添加二次项或者三次项使模型泛化能力更强。 过拟合原因以及解决办法 原因：原始特征过多，存在一些嘈杂特征， 模型过于复杂是因为模型尝试去兼顾各个测试数据点解决办法： 1）重新清洗数据，导致过拟合的一个原因也有可能是数据不纯导致的，如果出现了过拟合就需要我们重新清洗数据。2）增大数据的训练量，还有一个原因就是我们用于训练的数据量太小导致的，训练数据占总数据的比例过小。3）正则化4）减少特征维度，防止维灾难

3. 正则化

3.1 什么是正则化

在解决回归过拟合中，我们选择正则化。但是对于其他机器学习算法如分类算法来说也会出现这样的问题，除了一些算法本身作用之外（决策树、神经网络），我们更多的也是去自己做特征选择，包括之前说的删除、合并一些特征

如何解决？

在学习的时候，数据提供的特征有些影响模型复杂度或者这个特征的数据点异常较多，所以算法在学习的时候尽量减少这个特征的影响（甚至删除某个特征的影响），这就是正则化

注：调整时候，算法并不知道某个特征影响，而是去调整参数得出优化的结果

3.2 正则化类别

L2正则化 作用：可以使得其中一些W的都很小，都接近于0，削弱某个特征的影响优点：越小的参数说明模型越简单，越简单的模型则越不容易产生过拟合现象Ridge回归（岭回归） L1正则化 作用：可以使得其中一些W的值直接为0，删除这个特征的影响LASSO回归

七、正则化线性模型

Ridge Regression 岭回归Lasso 回归Elastic Net 弹性网络Early stopping

1. Ridge Regression (岭回归，又名 Tikhonov regularization)

岭回归是线性回归的正则化版本，即在原来的线性回归的 cost function 中添加正则项（regularization term）:

α∑i=1nθi2\alpha \sum_{i=1}^n \theta_i^2αi=1∑n​θi2​

以达到在拟合数据的同时，使模型权重尽可能小的目的,岭回归代价函数:

α=0α=0α=0：岭回归退化为线性回归

2. Lasso Regression(Lasso 回归)

Lasso 回归是线性回归的另一种正则化版本，正则项为权值向量的ℓ1ℓ1ℓ1范数。

Lasso回归的代价函数 ：

【注意】

Lasso Regression 的代价函数在 θi=0处是不可导的.解决方法：在θi=0θ_i=0θi​=0处用一个次梯度向量(subgradient vector)代替梯度，如下式Lasso Regression 的次梯度向量

Lasso Regression 有一个很重要的性质是：倾向于完全消除不重要的权重。

例如：当α 取值相对较大时，高阶多项式退化为二次甚至是线性：高阶多项式特征的权重被置为0。

也就是说，Lasso Regression 能够自动进行特征选择，并输出一个稀疏模型（只有少数特征的权重是非零的）。

3. Elastic Net (弹性网络)

弹性网络在岭回归和Lasso回归中进行了折中，通过混合比(mix ratio) r进行控制：

r=0：弹性网络变为岭回归r=1：弹性网络便为Lasso回归

弹性网络的代价函数 ：

一般来说，我们应避免使用朴素线性回归，而应对模型进行一定的正则化处理，那如何选择正则化方法呢？

小结：

常用：岭回归

假设只有少部分特征是有用的：

弹性网络Lasso一般来说，弹性网络的使用更为广泛。因为在特征维度高于训练样本数，或者特征是强相关的情况下，Lasso回归的表现不太稳定。

api:

from sklearn.linear_model import Ridge, ElasticNet, Lasso

4. Early Stopping [了解]

Early Stopping 也是正则化迭代学习的方法之一。

其做法为：在验证错误率达到最小值的时候停止训练。

八、线性回归的改进-岭回归

1. API

sklearn.linear_model.Ridge(alpha=1.0, fit_intercept=True,solver=“auto”, normalize=False) 具有l2正则化的线性回归alpha:正则化力度，也叫 λ λ取值：0~1 1~10solver:会根据数据自动选择优化方法 sag:如果数据集、特征都比较大，选择该随机梯度下降优化 normalize:数据是否进行标准化 normalize=False:可以在fit之前调用preprocessing.StandardScaler标准化数据 Ridge.coef_:回归权重Ridge.intercept_:回归偏置

Ridge方法相当于SGDRegressor(penalty=‘l2’, loss=“squared_loss”),只不过SGDRegressor实现了一个普通的随机梯度下降学习，推荐使用Ridge(实现了SAG)

sklearn.linear_model.RidgeCV(_BaseRidgeCV, RegressorMixin) 具有l2正则化的线性回归，可以进行交叉验证coef_:回归系数

class _BaseRidgeCV(LinearModel):def __init__(self, alphas=(0.1, 1.0, 10.0),fit_intercept=True, normalize=False,scoring=None,cv=None, gcv_mode=None,store_cv_values=False):

2. 观察正则化程度的变化，对结果的影响？

正则化力度越大，权重系数会越小正则化力度越小，权重系数会越大

3. 波士顿房价预测

def linear_model3():"""线性回归:岭回归:return:"""# 1.获取数据data = load_boston()# 2.数据集划分x_train, x_test, y_train, y_test = train_test_split(data.data, data.target, random_state=22)# 3.特征工程-标准化transfer = StandardScaler()x_train = transfer.fit_transform(x_train)x_test = transfer.fit_transform(x_test)# 4.机器学习-线性回归(岭回归)estimator = Ridge(alpha=1)# estimator = RidgeCV(alphas=(0.1, 1, 10))estimator.fit(x_train, y_train)# 5.模型评估# 5.1 获取系数等值y_predict = estimator.predict(x_test)print("预测值为:\n", y_predict)print("模型中的系数为:\n", estimator.coef_)print("模型中的偏置为:\n", estimator.intercept_)# 5.2 评价# 均方误差error = mean_squared_error(y_test, y_predict)print("误差为:\n", error)

4. 小结

sklearn.linear_model.Ridge(alpha=1.0, fit_intercept=True,solver="auto", normalize=False)【知道】 具有l2正则化的线性回归alpha – 正则化 正则化力度越大，权重系数会越小正则化力度越小，权重系数会越大 normalize 默认封装了，对数据进行标准化处理

如果觉得《机器学习基础 线性回归及一些基础概念（正则化 过拟合 欠拟合等）》对你有帮助，请点赞、收藏，并留下你的观点哦！