【组队学习】sklearn线性回归与逻辑回归

荔枝炖梨

墨衍会员 · AI 创作全网分发码龄10年

关注

原创最新推荐文章于 2026-08-22 12:45:00 发布 2.1k 阅读 AI 写同款· GEO 优化 ›

AI权益加码！Claude Code、Cursor等20+工具免费用！购周边限时加赠Coding Plan Lite，畅享主流AI工具！学习进阶更高效！阅读详情

只了解基本的python，匆匆翻阅过一遍西瓜书的我大胆的加入了这个组队活动然后发现……这点知识不够用QAQ。把一些琐碎的东西记下来吧。

本文代码都来自于Datawhale~

一、线性回归

#1产生数据
import numpy as np
import matplotlib.pyplot as plt 

def true_fun(X): # 这是我们设定的真实函数，即ground truth的模型
    return 1.5*X + 0.2

np.random.seed(0) # 设置随机种子
n_samples = 30 # 设置采样数据点的个数

'''生成随机数据作为训练集，并且加一些噪声'''
X_train = np.sort(np.random.rand(n_samples)) 
y_train = (true_fun(X_train) + np.random.randn(n_samples) * 0.05).reshape(n_samples,1)

#2定义模型
from sklearn.linear_model import LinearRegression # 导入线性回归模型
model = LinearRegression() # 定义模型
model.fit(X_train[:,np.newaxis], y_train) # 训练模型
print("输出参数w：",model.coef_) # 输出模型参数w
print("输出参数b：",model.intercept_) # 输出参数b

#3可视化
X_test = np.linspace(0, 1, 100)
plt.plot(X_test, model.predict(X_test[:, np.newaxis]), label="Model")
plt.plot(X_test, true_fun(X_test), label="True function")
plt.scatter(X_train,y_train) # 画出训练集的点
plt.legend(loc="best")
plt.show()

这是我的运行结果：

代码注释中还有个“增加噪声”，很好奇，调了下参数，把0.05调大了：

可以看到，数据更加分散。

托群里小伙伴的福，困惑得到了大佬的解释。因为这些样本不是真实数据，而是随机数，按照正弦函数分布，但这样和真实数据差得太远了，看不出模型的好坏，于是增加了“噪声”，简而言之，就是在原本数据的基础上又给大家增加了一个小小的随机数，让他们更接近真实数据。所以当我把参数调大时，数据更加分散了，哪怕是真实函数的拟合效果也没那么好了。线性函数，不适合当前情况，可以考虑多项式回归。

import numpy as np
import matplotlib.pyplot as plt
from sklearn.pipeline import Pipeline
from sklearn.preprocessing import PolynomialFeatures # 导入能够计算多项式特征的类
from sklearn.linear_model import LinearRegression
from sklearn.model_selection import cross_val_score

def true_fun(X): # 这是我们设定的真实函数，即ground truth的模型
    return np.cos(1.5 * np.pi * X)
np.random.seed(0)
n_samples = 30 # 设置随机种子

X = np.sort(np.random.rand(n_samples)) 
y = true_fun(X) + np.random.randn(n_samples) * 0.1

degrees = [1, 4, 15] # 多项式最高次
plt.figure(figsize=(14, 5))
for i in range(len(degrees)):
    ax = plt.subplot(1, len(degrees), i + 1)
    plt.setp(ax, xticks=(), yticks=())
    polynomial_features = PolynomialFeatures(degree=degrees[i],
                                             include_bias=False)
    linear_regression = LinearRegression()
    pipeline = Pipeline([("polynomial_features", polynomial_features),
                         ("linear_regression", linear_regression)]) # 使用pipline串联模型
    pipeline.fit(X[:, np.newaxis], y)
    
    scores = cross_val_score(pipeline, X[:, np.newaxis], y,scoring="neg_mean_squared_error", cv=10) # 使用交叉验证
    X_test = np.linspace(0, 1, 100)
    plt.plot(X_test, pipeline.predict(X_test[:, np.newaxis]), label="Model")
    plt.plot(X_test, true_fun(X_test), label="True function")
    plt.scatter(X, y, edgecolor='b', s=20, label="Samples")
    plt.xlabel("x")
    plt.ylabel("y")
    plt.xlim((0, 1))
    plt.ylim((-2, 2))
    plt.legend(loc="best")
    plt.title("Degree {}\nMSE = {:.2e}(+/- {:.2e})".format(
        degrees[i], -scores.mean(), scores.std()))
plt.show()

运行结果如下：

二、逻辑回归

在运行逻辑回归的代码时，我遇到了很多问题。因为需要导入数据，但是程序总是告诉我无法找到相应的文件，在网上找了很多方法都不行，队长帮忙让导其他数据库也不可，后来大佬A重做了一份，大佬B上传，渣渣只负责下载2333

问题还是要记下来的，我在github上看到的文件是这样：

但是下载下来：

就散开了，然后还有一份.py文件和raw同级在外面，里面的这些文件依然找不到。

据说方法是：需要新clone一次仓库，然后再回退到这个版本
git clone https://github.com.cnpmjs.org/datawhalechina/machine-learning-toy-code.git
然后回退
git reset --hard 5d09e889df3a1169eed3059dd542696d83e32e08

啊，我就先记下来吧，渣渣的电脑连git都要现装，今天实在来不及了。

总之正确做法后，是这样的：