机器学习|VC维的理解

我去喝咖啡了

于 2022-01-09 18:02:12 发布

阅读量2.9k

点赞数 6

分类专栏：概念学习文章标签：机器学习人工智能

本文链接： https://blog.csdn.net/weixin_45581089/article/details/122396217

版权

考虑二分类问题

现有数学定义：

待分类样本集 $\{x_1,x_2,\cdots,x_m\}$
假设空间 $\mathcal{H}=\{h_1,h_2,\cdots\}$

那么利用假设对样本集进行标记，那么二分类就是对样本标记为1,-1

例如

‘对分’和‘打散’

$h$ 相当于利用红线，完成将样本点标记为‘+’或‘-’，每种标记称为一种“对分”

对于二分类，最多有2^m种标记结果，于是取定义：

$\Pi_{\mathcal{H}}(m)=2^m$

立减 ¥

6
点赞
踩
17

收藏

觉得还不错? 一键收藏
0
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

专栏目录

机器学习：VC维的概念和用途

gongdiwudu的专栏

06-29

1万+

VC维是机器学习的重要概念，它给机器学习的“可学习性”提供了理论基础。然而，在网上的博客中，多数将VC维解释的复杂抽象，看后似是而非。本文意在用浅显易懂的手段，将VC维的基本概念交待清楚，然后，再在高层次上介绍其用途。...............

ML之VC维：VC维(Vapnik-Chervonenkis Dimension)理论的概述(衡量模型复杂度和预测能力的指标)的简介、案例理解之详细攻略

近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…

03-28

1万+

ML之VC维：VC维(Vapnik-Chervonenkis Dimension)理论的概述(衡量模型复杂度和预测能力的指标)的简介、案例理解之详细攻略目录 VC维(Vapnik-Chervonenkis Dimension)理论的简介 VC维(Vapnik-Chervonenkis Dimension)理论的概述(衡量模型复杂度和预测能力的指标，但VC维理论目前已被边缘化) 案例理解如何计算VC维的大小 VC维(Vapnik-Chervonenkis Dimension

参与评论您还未登录，请先登录后发表或查看评论

vc维

gaofen100

11-05

353

1. 什么是VC维 VC维（Vapnik-Chervonenkis Dimension）的概念是为了研究学习过程一致收敛的速度和推广性，由统计学习理论定义的有关函数集学习性能的一个重要指标。传统的定义是：对一个指标函数集，如果存在H个样本能够被函数集中的函数按所有可能的2的K次方种形式分开，则称函数集能够把H个样本打散；函数集的VC维就是它能打散的最大样本数目H。若对任意数目的样本都有函数能...

机器学习-VC维

05-07

包含监督学习与非监督学习的基本概念，VC维，概率逼近学习的基本原理

VC维

iteye_16791的博客

10-31

237

VC维（Vapnik-Chervonenkis Dimension）的概念是为了研究学习过程一致收敛的速度和推广性，由统计学理论定义的有关函数集学习性能的一个重要指标。传统的定义是：对一个指示函数集，如果存在H个样本能够被函数集中的函数按所有可能的2的H次方种形式分开，则称函数集能够把H个样本打散；函数集的VC维就是它能打散的最大样本数目H。若对任意数目的样本都有函数能将它们打散，则...

机器学习和数据挖掘（7）：VC维

热门推荐

Mr.Phoebe的专栏

07-24

1万+

VC维回顾与说明如果一个假设空间存在突破点，则一定存在成长函数mH(N)m_{\mathcal H}(N)被某个上限函数B(N,k)B(N,k)所约束，而上限函数等于一个组合的求和形式∑k−1i=0CiN\sum_{i=0}^{k-1}C_N^i，易知该形式的最高次项是Nk−1N^{k-1}。图左和右分别是以上限函数为上限的情况和以为Nk−1N_{k-1}上限的情况。可以看得出来：mH(N)≤B(N

模式识别与机器学习中英文版本PRML.zip

10-13

此外，他还讨论了Vapnik-Chervonenkis（VC）维数、风险上界和经验风险最小化等关键概念，这些都是理解和优化机器学习算法性能的基础。对于中英文版本的PRML，这为学习者提供了双语学习的机会。英文版可以帮助读者...

VC维（VC Dimension）

qq_43391414的博客

12-25

8791

定义 VC Dimension：全称是Vapnik-Chervonenkis dimension。其用来衡量一个模型的复杂度，定义为：在该模型对应的空间中随机撒x点，然后对其中的每个点随机分配一个2类标签，使用你的模型来分类，并且要分对，请问x至多是多少。这个x就是VC维。例子 1.线性函数如果选用二维空间中的直线作为判别函数，该分类模型的VC维是多少？答案：3 解释：如果是3个点，无论如何随机的打标签，都存在一条直线都可以将两类样本分开。如果是4个点，就可能会出现一种标签序列，使得不存在一条直线将

关于VC维

zhuhongde的博客

06-17

215

博客地址

VC Dimension (VC 维)

丁磊_ml的博客

08-06

1801

vc维

【机器学习】VC维

littlemichelle

04-06

4561

VC维的直观定义对一个指示函数集，如果存在h个样本能够被函数集中的函数按所有可能的2^h种形式分开，则称函数集能够把h个样本打散。函数集的VC维就是它能打散的最大样本数目h。若对任意数目的样本都有函数能将它们打散，则函数集的VC维是无穷大。 VC维是一个评判模型复杂程度的工具。VC维越大则模型的复杂度越高。线性函数的VC维 VC维：将N个点进行分类，如分成两类，那么可以有2^N...