当前位置:

首页 > 业界资讯 > 监督学习有哪些常见算法?都是如何应用的

监督学习有哪些常见算法?都是如何应用的

​什么是监督学习?监督学习是机器学习的子集,监督学习会对机器学习模型的输入数据进行标记,并对其进行练习。因此,监督模型能最大限度地预测模型的输出结果。监督学习背后的概念也可以从现实生活中找到影子,例如老师给孩子做辅导。假设老师要教孩子认识猫、狗的图像。她/他将通过不断地向孩子展示猫或狗的图像来辅导孩子,同时告知孩子图像是狗还是猫。展示和告知图像的过程可以被认为是标记数据,机器学习模型训练过程中,会被告知哪些数据属于哪个类别。监督学习有什么用?监督学习可用于回归和分类问题。分类模型允许算法确定给定数据属于哪

本文目录

    ​什么是监督学习?

    监督学习是机器学习的子集,监督学习会对机器学习模型的输入数据进行标记,并对其进行练习。因此,监督模型能最大限度地预测模型的输出结果。

    监督学习背后的概念也可以从现实生活中找到影子,例如老师给孩子做辅导。假设老师要教孩子认识猫、狗的图像。她/他将通过不断地向孩子展示猫或狗的图像来辅导孩子,同时告知孩子图像是狗还是猫。

    展示和告知图像的过程可以被认为是标记数据,机器学习模型训练过程中,会被告知哪些数据属于哪个类别。

    监督学习有什么用?监督学习可用于回归和分类问题。分类模型允许算法确定给定数据属于哪个组别。示例可能包括 True/False、Dog/Cat 等。

    由于回归模型能够根据历史数据预测将来的数值,因此它会被用于预测员工的工资或房地产的售价。

    在本文中,我们将列出一些用于监督学习的常见算法,以及关于此类算法的实用教程。

    线性回归

    线性回归是一种监督学习算法,它根据给定的输入值预测输出值。当目标(输出)变量返回一个连续值时,使用线性回归。

    线性算法主要有两种类型,简单线性回归和多元线性回归。

    简单线性回归仅使用一个独立(输入)变量。一个例子是通过给定的身高来预测孩子的年龄。

    另一方面,多元线性回归可以使用多个自变量来预测其最终结果。一个例子是根据它的位置、大小、需求等来预测给定房产的价格。

    以下是线性回归公式

    监督学习有哪些常见算法?都是如何应用的

    对于 Python的示例,我们将使用线性回归来预测相对于给定 x 值的 y 值。

    我们给定的数据集仅包含两列:x 和 y。请注意,y 结果将返回连续值。

    下面是给定数据集的截图:

    监督学习有哪些常见算法?都是如何应用的

    使用 Python 的线性回归模型示例

    1.导入必要的库

    import numpy as np 
    import pandas as pd
    import matplotlib.pyplot as plt
    import seaborn as sns from sklearn
    import linear_model from sklearn.model_selection
    import train_test_split import os

    2. 读取和采样我们的数据集

    为了简化数据集,我们抽取了 50 个数据行的样本,并将数据值四舍五入为 2 个有效数字。

    请注意,您应该在完成此步骤之前导入给定的数据集。

    df = pd.read_csv("../input/random-linear-regression/train.csv") 
    df=df.sample(50) df=round(df,2)

    3. 过滤 Null 和 Infinite 值

    如果数据集包含空值和无限值,则可能会出现错误。因此,我们将使用 clean_dataset 函数来清理这些值的数据集。

    def clean_dataset(df): 
    assert isinstance(df, pd.DataFrame), "df needs to be a pd.DataFrame"
    df.dropna(inplace=True)
    indices_to_keep = ~df.isin([np.nan, np.inf, -np.inf]).any(1)
    return df[indices_to_keep].astype(np.float64)
    df=clean_dataset(df)

    4. 选择我们依赖和独立的价值观

    请注意,我们将数据转换为​​ DataFrame 格式。​​dataframe 数据类型是一种二维结构,可将我们的数据对齐到行和列中。

    5. 拆分数据集

    我们将数据集划分为训练和测试部分。选择测试数据集大小为总数据集的 20%。

    请注意,通过设置 random_state=1,每次模型运行时,都会发生相同的数据拆分,从而产生完全相同的训练和测试数据集。

    这在您想进一步调整模型的情况下很有用。

    x_train,  x_test, y_train, y_test = train_test_split(X, Y, test_size=0.2, random_state=1)

    6.建立线性回归模型

    使用导入的线性回归模型,我们可以在模型中自由使用线性回归算法,绕过我们为给定模型获得的 x 和 y 训练变量。

    lm=linear_model.LinearRegression() lm.fit(x_train,y_train)

    7. 以分散的方式绘制我们的数据

    df.plot(kind="scatter", x="x", y="y")

    8. 绘制我们的线性回归线

    plt.plot(X,lm.predict(X), color="red")

    监督学习有哪些常见算法?都是如何应用的

    蓝点表示数据点,而红线是模型绘制的最佳拟合线性回归线。线性模型算法总是会尝试绘制最佳拟合线以尽可能准确地预测结果。

    逻辑回归

    与线性回归类似,​​逻辑回归​​根据输入变量预测输出值,两种算法的主要区别在于逻辑回归算法的输出是分类(离散)变量。

    对于 Python的示例,会使用逻辑回归将“花”分成两个不同的类别/种类。在给定的数据集中会包括不同花的多个特征。

    模型的目的是将给花识别为Iris-setosa、Iris-versicolor或 Iris-virginica 几个种类。

    下面是给定数据集的截图:

    监督学习有哪些常见算法?都是如何应用的

    使用 Python 的逻辑回归模型示例

    1.导入必要的库

    import numpy as np 
    import pandas as pd from sklearn.model_selection
    import train_test_split import warnings warnings.filterwarnings('ignore')

    2. 导入数据集

    data = pd.read_csv('../input/iris-dataset-logistic-regression/iris.csv')

    3. 选择我们依赖和独立的价值观

    对于独立 value(x) ,将包括除类型列之外的所有可用列。至于我们的可靠值(y),将只包括类型列。

    X = data[['x0','x1','x2','x3','x4']] 
    y = data[['type']]

    4. 拆分数据集

    将数据集分成两部分,80% 用于训练数据集,20% 用于测试数据集。

    X_train,X_test,y_train,y_test = train_test_split(X,y, test_size=0.2, random_state=1)

    5. 运行逻辑回归模型

    从 linear_model 库中导入整个逻辑回归算法。然后我们可以将 X 和 y 训练数据拟合到逻辑模型中。

    from sklearn.linear_model import LogisticRegression 
    model = LogisticRegression(random_state = 0)
    model.fit(X_train, y_train)

    6. 评估我们模型的性能

    print(lm.score(x_test, y_test))

    返回值为0.9845128775509371,这表明我们模型的高性能。

    请注意,随着测试分数的增加,模型的性能也会增加。

    7. 绘制图表

    import matplotlib.pyplot as plt %matplotlib inline 
    plt.plot(range(len(X_test)), pred,'o',c='r')

    输出图:

    监督学习有哪些常见算法?都是如何应用的

    在逻辑图中,红点表示给定的数据点。这些点清楚地分为 3 类,Virginica、versicolor 和 setosa 花种。

    使用这种技术,逻辑回归模型可以根据花在图表上的位置轻松对花类型进行分类。

    支持向量机

    ​​支持向量机​​( SVM) 算法是另一个著名的监督机器学习模型,由 Vladimir Vapnik 创建,它能够解决分类和回归问题。实际上它更多地被用到解决分类问题。

    SVM 算法能够将给定的数据点分成不同的组。算法在绘制出数据之后,可以绘制最合适的线将数据分成多个类别,从而分析数据之间的关系。

    如下图所示,绘制的线将数据集完美地分成 2 个不同的组,蓝色和绿色。

    监督学习有哪些常见算法?都是如何应用的

    SVM 模型可以根据图形的维度绘制直线或超平面。行只能用于二维数据集,这意味着只有 2 列的数据集。

    如果是多个特征来预测数据集,就需要更高的维度。在数据集超过 2 维的情况下,支持向量机模型将绘制超平面。

    在支持向量机 Python 的示例中,将对 3 种不同的花卉类型进行物种分类。我们的自变量包括花的所有特征,而因变量是花所属物种。

    花卉品种包括Iris-setosa、 Iris-versicolor和Iris-virginica。

    下面是数据集的截图:

    监督学习有哪些常见算法?都是如何应用的

    使用 Python 的支持向量机模型示例

    1.导入必要的库

    import numpy as np 
    import pandas as pd from sklearn.model_selection
    import train_test_split from sklearn.datasets
    import load_iris

    2. 读取给定的数据集

    请注意,在执行此步骤之前,应该导入数据集。

    data = pd.read_csv(‘../input/iris-flower-dataset/IRIS.csv’)

    3. 将数据列拆分为因变量和自变量

    将 X 值作为自变量,其中包含除物种列之外的所有列。

    因变量y仅包含模型预测的物种列。

    X = data.drop(‘species’, axis=1) y = data[‘species’]

    4. 将数据集拆分为训练和测试数据集

    将数据集分为两部分,其中我们将 80% 的数据放入训练数据集中,将 20% 放入测试数据集中。

    X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=1)

    5.导入SVM并运行模型

    导入了支持向量机算法。然后,使用上面步骤中收到的 X 和 y 训练数据集运行它。

    from sklearn.svm import SVC 
    model = SVC( )
    model.fit(X_train, y_train)

    6. 测试模型的性能

    model.score(X_test, y_test)

    为了评估模型的性能,将使用 score 函数。在第四步中创建的 X 和 y 测试值输入到 score 方法中。

    返回值为0.9666666666667,这表明模型的高性能。

    请注意,随着测试分数的增加,模型的性能也会增加。

    其他流行的监督机器学习算法

    虽然线性、逻辑和 SVM 算法非常可靠,但还会提到一些有监督的机器学习算法。

    1. 决策树

    监督学习有哪些常见算法?都是如何应用的

    ​​决策树算法​​是一种有监督的机器学习模型,它利用树状结构进行决策。决策树通常用于分类问题,其中模型可以决定数据集中给定项目所属的组。

    请注意,使用的树格式是倒置树的格式。

    2. 随机森林

    监督学习有哪些常见算法?都是如何应用的

    被认为是一种更复杂的算法,​​ 随机森林算法​​通过构建大量决策树来实现其最终目标。

    意味着同时构建多个决策树,每个决策树都返回自己的结果,然后将其组合以获得更好的结果。

    对于分类问题,随机森林模型将生成多个决策树,并根据大多数树预测的分类组对给定对象进行分类。

    模型可以修复由单个树引起的过拟合问题。同时,随机森林算法也可用于回归,尽管可能导致不良结果。

    3. k-最近邻

    监督学习有哪些常见算法?都是如何应用的

    k最近​​邻​​(KNN) 算法是一种监督机器学习方法,它将所有给定数据分组到单独的组中。

    这种分组基于不同个体之间的共同特征。KNN 算法可用于分类和回归问题。

    KNN 的经典示例就是将动物图像分类到不同的组集中。

    总结

    本文介绍了监督机器学习及其可以解决的两类问题,并解释了分类和回归问题,给出了每个输出数据类型的一些示例。

    详细解释了线性回归是什么以及它是如何工作的,并提供了一个 Python 中的具体示例,它会根据独立的 X 变量预测 Y 值。

    随后又介绍了逻辑回归模型,并给出了分类模型示例,该示例将给定的图像分类为具体花的种类。

    对于支持向量机算法,可以用它来预测 3 种不同花种的给定花种。最后列出了其他著名的监督机器学习算法,例如决策树、随机森林和 K 近邻算法。

    无论您是为了学习、工作还是娱乐阅读本文,我们认为了解这些算法是开始进入机器学习领域的一个开端。

    如果您有兴趣并想了解更多关于机器学习领域的信息,我们建议您深入研究此类算法的工作原理以及如何调整此类模型以进一步提高其性能。

    译者介绍

    崔皓,51CTO社区编辑,资深架构师,拥有18年的软件开发和架构经验,10年分布式架构经验。曾任惠普技术专家。乐于分享,撰写了很多热门技术文章,阅读量超过60万。​​《分布式架构原理与实践》​​作者。

    原文标题:​Primary Supervised Learning Algorithms Used in Machine Learning​,作者:Kevin Vu

    ​

    ​

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    业界资讯 人工智能 机器学习
    相关文章 更多
    llama.cpp b12345的Hexagon后端支持哪些Q5量化格式?
    llama.cpp b12345的Hexagon后端支持哪些Q5量化格式?

    llama.cpp b12345的预发布构建为Hexagon HTP后端增加Q5_0和Q5_1支持。选择模型时需要核对完整量化名称及实际运行后端,不能只看到“Q5”就视为同一种格式。

    llama.cpp b12344的MCP工具调用在断连或超时后会怎样处理?
    llama.cpp b12344的MCP工具调用在断连或超时后会怎样处理?

    llama.cpp b12344的预发布构建调整了MCP工具调用的取消行为:客户端断连或调用超时时,服务器会向MCP服务发送带请求ID的取消通知。使用服务端工具的Web界面也属于这项变更范围。

    llama.cpp b12342的CUDA量化计算适用于哪些GPU,如何构建?
    llama.cpp b12342的CUDA量化计算适用于哪些GPU,如何构建?

    llama.cpp b12342新增面向少列矩阵计算的CUDA量化内核,覆盖2至24个src1列等场景,例如推测解码的验证阶段。新增内核针对Ampere及更新的NVIDIA GPU,并限定于发行说明列出的量化类型;它不是所有硬件与模型都会得到相同收益的通用开关。

    LiteLLM 1.111.0-dev.1的Docker镜像如何验证签名?
    LiteLLM 1.111.0-dev.1的Docker镜像如何验证签名?

    LiteLLM 1.111.0-dev.1是预发布版本。核对这一镜像是否由对应项目密钥签署,可使用cosign,并把公钥固定到发行说明指定的提交。镜像签名校验与应用功能测试分别进行,校验通过不代表升级后的计费和网关配置已经验证。

    claude怎么收费最新价格与会员收费标准详解
    claude怎么收费最新价格与会员收费标准详解

    想了解Claude怎么收费?本文梳理了Claude Free、Pro及Team版的最新月费价格、消息限额与高级功能权益,并对比了不同层级的性价比,助你快速找到适合的AI办公伙伴。

    sora使用指南国内使用的具体操作步骤教程
    sora使用指南国内使用的具体操作步骤教程

    本文详细解析Sora在国内的使用现状,指出目前官方未对公众开放注册,提醒用户警惕虚假链接,并提供关注官方动态及替代方案的实用建议。

    南邮光擎智算团队:GaN基Micro-LED光计算芯片从理论到流片的突破
    南邮光擎智算团队:GaN基Micro-LED光计算芯片从理论到流片的突破

    南京邮电大学“光擎智算”团队联合南京大学,攻克GaN基Micro-LED器件技术,成功搭建实验室级光计算验证系统。团队自主研发的5×5 Micro-LED光电计算阵列芯片已进入流片封装阶段,实现了图像识别等算力任务验证,推动光计算技术从理论走向工程落地。

    苹果与铠侠签署NAND长期供应协议:3-5年长约与不设价格上限背后的供应链战略
    苹果与铠侠签署NAND长期供应协议:3-5年长约与不设价格上限背后的供应链战略

    苹果与铠侠签署为期3-5年的NAND闪存长期供应协议,且可能不设价格上限。此举旨在应对AI数据中心需求激增导致的芯片供应紧张,从单纯压价转向确保稳定供货。

    中国人民大学AI团队揭开大语言模型的隐藏秘密
    中国人民大学AI团队揭开大语言模型的隐藏秘密

    一项研究揭示大语言模型在文本嵌入任务中表现平庸的根源:反嵌入矩阵边缘频谱引入高频词偏见。提出的EmbedFilter方法通过滤除该噪声,在MTEB49项任务上显著提升性能,且无需重新训练,兼容多种基线方法。

    2026世界人工智能大会倒计时30天:全球首发超300款AI新品
    2026世界人工智能大会倒计时30天:全球首发超300款AI新品

    2026年世界人工智能大会将于7月17日至20日举办,超过300款人工智能新品全球首发,1400多位嘉宾参会,近140场论坛,展览面积超过10万平方米,促成意向合作金额达162亿元,并且推出首个自主举办的国际顶级人工智能学术会议。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。