就我目前非常肤浅的了解来看,Vapnik 的统计学习理论除了给出了这里提到的收敛性以外,更重要的是分析了 $n$ 有限的情况.因为虽然 $n\rightarrow \infty$ 的情况在理论上是很重要的需要搞清楚的,但是当 $n\rightarrow \infty$ 时是好的并不是就代表 $n$ 有限的时候同样的做法就是好的,而实际学习问题中我们所能拿到的 $n$ 总是有限的.具体来说,在 $n$ 有限时,直接去最小化经验风险泛函并不一定是最优的,会造成 overfitting 等问题.
请问你blog中的公式是怎么设计的?
你好,公式是用 MathJaX ,验证码是因为垃圾评论太多了,所以不得不用比较难的验证码......暂时换另一种基于 JS 的反垃圾工具吧,如果挡不住的话,可能还得换回来.
foreseer201
请教楼主:最小化目标函数空间的"大小",这个目标在SVM的推导中,是在哪一步(哪个公式)体现的呢?谢谢.
直观来看,在 SVM 中可以体现为 large margin 的要求:比如,原本的目标函数空间是"所有的线性分类器",现在变成"所有 large margin 的线性分类器",于是空间的"大小"被缩小了.
原来那个最大化间隔的步骤,就是最小化VC维的考虑.但从直观上很难发现两者的直接联系,感觉VC维是很抽象的一个概念,不想其他概念能具体形象的理解.也可能是我的抽象能力不够:(.
Steven Wang
计算学习理论应该是由霍夫丁定理推出来的,而不是大数定理.