失眠网,内容丰富有趣,生活中的好帮手!
失眠网 > 【机器学习】支持向量机 SVM 原理详解 详细数学推导

【机器学习】支持向量机 SVM 原理详解 详细数学推导

时间:2020-05-05 15:59:41

相关推荐

【机器学习】支持向量机 SVM 原理详解 详细数学推导

前排提示 多公式预警,如果想真正掌握、想对SVM的推导和原理理解透彻,就请耐心的看完推导过程,博主发现很多书籍文献资料上推导过程大多有所省略,这对数学基础不牢靠的同学来说不太友好(比如博主自己 - -#),所以在此给出最细致的推导过程。

由于公式符号繁多,博主也经过了多次修正检查,如有疏漏或不对的地方还请指正(公式编辑真的打的累死惹)~~

支持向量机 SVM(support vector machine)算法原理:

(首先给出一个图,svm最终目的就是要求解图中的超平面g,也叫决策边界。其中样本G,R,S可称为 支持向量)

将含两种类别的样本空间通过一个决策边界分开,使得离决策边界最近的样本点能够尽可能远离决策边界 (通俗理解:找到一条线,使得离该线最近的点能够最远),下面直接进入正题开始推导:

1.点面距离公式 =》svm的中最优解问题:

===》几何公式:

点(x0,y0)到直线 Ax + By + C = 0 的距离

===》样本空间下描述:(含x轴y轴的二维平面,等价于 含两种特征的样本空间)

在含两种特征f1,f2的样本空间中,

某个样本点Xi(特征f1 = x1,特征f2 = x2) 与某个特征划分边界D: w1f1 +w2f2 + b = 0 的欧氏距离为:

将特征划分边界 写成向量形式=》

其中,F=(f1,f2)表示样本空间中各个维度的特征,样本点 【0.3】

===》样本空间推广至N维

N维特征空间有样本点

特征划分平面D: w1f1+w2f2+...+wnfn + b = 0 即:

【0.4】

决策方程的变换&

如果觉得《【机器学习】支持向量机 SVM 原理详解 详细数学推导》对你有帮助,请点赞、收藏,并留下你的观点哦!

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。