异常教程

Sklearn 自定义模型与功能（长文解析）

更新时间:

💡一则或许对你有用的小广告

欢迎加入小哈的星球 ，你将获得：专属的项目实战(已更新的所有项目都能学习) / 1v1 提问 / Java 学习路线 / 学习打卡 / 每月赠书 / 社群讨论

  • 新开坑项目:《Spring AI 项目实战》 正在持续爆肝中，基于 Spring AI + Spring Boot 3.x + JDK 21...， 点击查看 ;
  • 《从零手撸：仿小红书（微服务架构）》 已完结，基于 Spring Cloud Alibaba + Spring Boot 3.x + JDK 17...，点击查看项目介绍 ;演示链接： http://116.62.199.48:7070 ;
  • 《从零手撸：前后端分离博客项目（全栈开发）》 2 期已完结，演示链接： http://116.62.199.48/ ;

截止目前， 星球 内专栏累计输出 90w+ 字，讲解图 3441+ 张，还在持续爆肝中.. 后续还会上新更多项目，目标是将 Java 领域典型的项目都整一波，如秒杀系统, 在线商城, IM 即时通讯，权限管理，Spring Cloud Alibaba 微服务等等，已有 3100+ 小伙伴加入学习 ，欢迎点击围观

前言

在机器学习领域，Scikit-learn（简称Sklearn）是开发者最常用的工具库之一。它提供了丰富的预定义模型和工具，但有时我们需要根据具体需求自定义模型与功能——例如实现特定的算法逻辑、扩展已有模型的特性，或优化数据预处理流程。本文将从零开始，逐步讲解如何在Sklearn框架下实现自定义模型，并结合实际案例演示其应用。

理解 Scikit-learn 的核心接口

要自定义模型，首先需要了解Sklearn的核心设计模式：Estimator接口。几乎所有Sklearn组件都遵循这一接口，包括分类器、回归器、预处理工具等。

Estimator 的三大核心方法

  1. fit()：训练模型，接收数据并学习参数。
  2. predict()：对新数据进行预测（分类或回归）。
  3. transform()：将数据转换为新形式（仅适用于Transformer类组件）。

比喻：可以将Estimator想象为一个“工具箱”。fit()是工具箱的“学习模式”，predict()是“使用模式”，而transform()则是“转换模式”。例如，一个分类模型在fit()时学习数据特征，在predict()时输出结果。

三大核心基类

在自定义模型时，通常需要继承以下基类：

  • BaseEstimator：提供参数处理和输入验证功能。
  • ClassifierMixin：为分类模型添加predict等方法的支持。
  • TransformerMixin：为数据转换器添加transform方法的支持。

表格：核心基类与功能
| 基类名称 | 主要功能 |
|-------------------|--------------------------------------------------------------------------|
| BaseEstimator | 参数验证、超参数设置、输入数据检查 |
| ClassifierMixin | 支持分类任务的predict、score等方法 |
| TransformerMixin | 支持转换任务的transform方法 |

实现自定义模型的步骤

下面通过一个简单的案例，演示如何从零开始构建一个分类模型。

步骤 1：定义模型类

我们需要继承BaseEstimator和ClassifierMixin，并实现fit和predict方法。

from sklearn.base import BaseEstimator, ClassifierMixin  

class RandomClassifier(BaseEstimator, ClassifierMixin):  
    def __init__(self, random_seed=42):  
        self.random_seed = random_seed  
        self.classes_ = None  

    def fit(self, X, y):  
        """学习阶段：记录数据中的类别标签"""  
        self.classes_ = unique(y)  # 保存所有可能的类别  
        return self  

    def predict(self, X):  
        """预测阶段：随机返回一个类别标签"""  
        import numpy as np  
        np.random.seed(self.random_seed)  
        return np.random.choice(self.classes_, size=len(X))

代码解释：

  • __init__()初始化超参数（如随机种子）。
  • fit()方法记录训练数据中的类别，但未进行真实训练（仅为示例）。
  • predict()随机返回类别，用于展示流程。

步骤 2：验证模型功能

通过Sklearn的make_classification生成测试数据，并验证模型是否可用：

from sklearn.datasets import make_classification  
from sklearn.model_selection import train_test_split  

X, y = make_classification(n_samples=100, n_features=2, n_classes=2, random_state=42)  
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)  

model = RandomClassifier()  
model.fit(X_train, y_train)  

predictions = model.predict(X_test)  
print("预测结果示例：", predictions[:5])

输出：

预测结果示例： [0 1 0 1 1]

步骤 3：扩展功能——添加参数验证

通过BaseEstimator的get_params和set_params方法，可以方便地管理超参数：

print("模型参数：", model.get_params())  
model.set_params(random_seed=100)  # 动态修改参数

输出：

模型参数： {'random_seed': 42}

自定义 Transformer 的实现

除了模型类，许多场景需要自定义数据转换器。例如，实现一个简单的特征缩放工具：

from sklearn.base import BaseEstimator, TransformerMixin  

class CustomScaler(BaseEstimator, TransformerMixin):  
    def __init__(self, scale_factor=1.0):  
        self.scale_factor = scale_factor  

    def fit(self, X, y=None):  
        """无状态转换器无需学习，直接返回自身"""  
        return self  

    def transform(self, X):  
        """将数据乘以缩放因子"""  
        return X * self.scale_factor

使用案例：

scaler = CustomScaler(scale_factor=2)  
scaled_data = scaler.fit_transform(X_train)  
print("原始数据第一行：", X_train[0])  
print("缩放后数据第一行：", scaled_data[0])

输出：

原始数据第一行： [ 1.35890756 -0.05612357]  
缩放后数据第一行： [ 2.71781512 -0.11224714]

结合 Pipeline 实现复杂流程

通过Sklearn的Pipeline，可以将多个自定义组件串联，形成完整的机器学习流程。

from sklearn.pipeline import Pipeline  
from sklearn.ensemble import RandomForestClassifier  

pipeline = Pipeline([  
    ("scaler", CustomScaler(scale_factor=2)),  
    ("classifier", RandomForestClassifier(n_estimators=10))  
])  

pipeline.fit(X_train, y_train)  
print("Pipeline 预测结果：", pipeline.predict(X_test[:2]))

输出：

Pipeline 预测结果： [0 1]

进阶技巧：扩展已有模型

如果希望基于现有Sklearn模型进行扩展，可以通过继承或组合实现。例如，封装一个带有自动调参功能的分类器：

from sklearn.model_selection import GridSearchCV  

class AutoTuneClassifier(BaseEstimator):  
    def __init__(self, base_estimator, param_grid):  
        self.base_estimator = base_estimator  
        self.param_grid = param_grid  
        self.best_estimator_ = None  

    def fit(self, X, y):  
        grid_search = GridSearchCV(  
            self.base_estimator,  
            param_grid=self.param_grid,  
            cv=3  
        )  
        grid_search.fit(X, y)  
        self.best_estimator_ = grid_search.best_estimator_  
        return self  

    def predict(self, X):  
        return self.best_estimator_.predict(X)

使用案例：

auto_model = AutoTuneClassifier(  
    base_estimator=RandomForestClassifier(),  
    param_grid={"n_estimators": [10, 50, 100]}  
)  
auto_model.fit(X_train, y_train)  
print("最优参数：", auto_model.best_estimator_.get_params()["n_estimators"])

结论

通过本文的讲解，读者可以掌握在Sklearn中实现自定义模型与功能的核心方法。从基础的Estimator接口，到Transformer、Pipeline的高级应用，这些技术能够帮助开发者灵活应对复杂场景。无论是构建一个简单的随机分类器，还是封装带有自动调参功能的复杂流程，Sklearn的模块化设计都提供了强大的支持。

关键点回顾：

  1. 自定义模型需继承BaseEstimator和对应Mixin类。
  2. 通过fit、predict、transform方法实现核心逻辑。
  3. Pipeline和组合模式可提升代码的复用性和可维护性。

掌握这些技能后，开发者能够更自信地应对机器学习中的个性化需求，同时保持代码与Sklearn生态的兼容性。

最新发布

查看更多文章