第十章《搞懂算法:支持向量机是怎么回事》笔记

2023-11-06 11:52

本文主要是介绍第十章《搞懂算法:支持向量机是怎么回事》笔记,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

支持向量机(Support Vector Machine,SVM )主要用于分类问题的处理。

10.1 SVM有什么用

SVM 的分类效果很 好,适用范围也较广,但模型的可解释性较为一般。

SVM 根据线性可分的程度不同,可以分为 3 类:线性可分 SVM、线性 SVM 和非线性 SVM。

10.2 SVM算法原理和过程是什么

样本数据的特征向量构成了一 个空间,每个样本点都占据空间中的一个位置。如果有一条线、一个面或者一个特殊形状将样本数据分割成两部分,其中一部分为正样本,另一部分为负样本,这样就太美好了。因为我们把新数据的特征向量跟这个分割线(面)进行比较,就可以判断新数据是正样本还是负样本了,也就实现了对新数据的分类。这样的一个分割线(面)就叫作超平面。所以采用 SVM 的目的就 是找到这样一个超平面。

但大多数时候,满足这样条件的超平面(分割线)不是唯一的,而是有多个。分割线更加远离正、负样本数据点,具有更好和更稳定的分类效果,这就是我们想寻找的分离超平面。

10.2.1 分离超平面是什么

一般来说,SVM 中把这种对正、负样本进行分割的操作叫作“分离超平面”。分离超平面在不同维度上表现的形态 不同。

最佳分离超平面的判断标准,是间隔与支持向量。

10.2.2 间隔与支持向量是什么

理想的分离超平面应该具有这样的特点:能够分割正、负样本,但同时尽可能远离所有样本数据点。

三维空间中,任何一个平面都可以用 Ax+By+Cz+D=0 来表示,于是点 (x0 , y0 , z0) 到该平面

的距离为,一维空间和二维空间也类似。。分别是一维空间、二维空间、三维空间中的范数,被记 作 ‖w‖。

假设超平面能够将样本正确分类,那么距离超平面最近的几个训练样本数据点被称为“支持向量”。

两个不同类支持向量到分离超平面的距离之和为,这个距离被称为“间隔”。

最佳分离超平面就是“间隔”最大的分离超平面,而要想找到“最大间隔”的分离超平面,就要找到满足约束条件(将样本分为两类)的参数 w 和 b,使得 γ 取到最大值。

解决线性不可分的方法就是使用核函数。核函数解决线性不可分的本质思想就 是把原始样本通过核函数映射到高维空间中,从而让样本在高维空间中成为线性可分的,然后 再使用常见的线性分类器进行分类。

n 维空间上线性不可分的问题可以通过升维到 n+1 维空间中构造新的分类函数并使其在 n 维空间上的投影对样本数据点进行分类来解决。SVM 中 这种通用的升维方法就是核函数,常见的核函数有线性核函数、多项式核函数、径向基核函数(RBF 核函数)、高斯核函数等。

10.3 编程实践:手把手教你写代码

这篇关于第十章《搞懂算法:支持向量机是怎么回事》笔记的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/356459

相关文章

华为鸿蒙HarmonyOS 5.1官宣7月开启升级! 首批支持名单公布

《华为鸿蒙HarmonyOS5.1官宣7月开启升级!首批支持名单公布》在刚刚结束的华为Pura80系列及全场景新品发布会上,除了众多新品的发布,还有一个消息也点燃了所有鸿蒙用户的期待,那就是Ha... 在今日的华为 Pura 80 系列及全场景新品发布会上,华为宣布鸿蒙 HarmonyOS 5.1 将于 7

六个案例搞懂mysql间隙锁

《六个案例搞懂mysql间隙锁》MySQL中的间隙是指索引中两个索引键之间的空间,间隙锁用于防止范围查询期间的幻读,本文主要介绍了六个案例搞懂mysql间隙锁,具有一定的参考价值,感兴趣的可以了解一下... 目录概念解释间隙锁详解间隙锁触发条件间隙锁加锁规则案例演示案例一:唯一索引等值锁定存在的数据案例二:

一文彻底搞懂Java 中的 SPI 是什么

《一文彻底搞懂Java中的SPI是什么》:本文主要介绍Java中的SPI是什么,本篇文章将通过经典题目、实战解析和面试官视角,帮助你从容应对“SPI”相关问题,赢得技术面试的加分项,需要的朋... 目录一、面试主题概述二、高频面试题汇总三、重点题目详解✅ 面试题1:Java 的 SPI 是什么?如何实现一个

使用雪花算法产生id导致前端精度缺失问题解决方案

《使用雪花算法产生id导致前端精度缺失问题解决方案》雪花算法由Twitter提出,设计目的是生成唯一的、递增的ID,下面:本文主要介绍使用雪花算法产生id导致前端精度缺失问题的解决方案,文中通过代... 目录一、问题根源二、解决方案1. 全局配置Jackson序列化规则2. 实体类必须使用Long封装类3.

Springboot实现推荐系统的协同过滤算法

《Springboot实现推荐系统的协同过滤算法》协同过滤算法是一种在推荐系统中广泛使用的算法,用于预测用户对物品(如商品、电影、音乐等)的偏好,从而实现个性化推荐,下面给大家介绍Springboot... 目录前言基本原理 算法分类 计算方法应用场景 代码实现 前言协同过滤算法(Collaborativ

一文带你搞懂Redis Stream的6种消息处理模式

《一文带你搞懂RedisStream的6种消息处理模式》Redis5.0版本引入的Stream数据类型,为Redis生态带来了强大而灵活的消息队列功能,本文将为大家详细介绍RedisStream的6... 目录1. 简单消费模式(Simple Consumption)基本概念核心命令实现示例使用场景优缺点2

一文带你搞懂Python中__init__.py到底是什么

《一文带你搞懂Python中__init__.py到底是什么》朋友们,今天我们来聊聊Python里一个低调却至关重要的文件——__init__.py,有些人可能听说过它是“包的标志”,也有人觉得它“没... 目录先搞懂 python 模块(module)Python 包(package)是啥?那么 __in

openCV中KNN算法的实现

《openCV中KNN算法的实现》KNN算法是一种简单且常用的分类算法,本文主要介绍了openCV中KNN算法的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的... 目录KNN算法流程使用OpenCV实现KNNOpenCV 是一个开源的跨平台计算机视觉库,它提供了各

利用Python快速搭建Markdown笔记发布系统

《利用Python快速搭建Markdown笔记发布系统》这篇文章主要为大家详细介绍了使用Python生态的成熟工具,在30分钟内搭建一个支持Markdown渲染、分类标签、全文搜索的私有化知识发布系统... 目录引言:为什么要自建知识博客一、技术选型:极简主义开发栈二、系统架构设计三、核心代码实现(分步解析

springboot+dubbo实现时间轮算法

《springboot+dubbo实现时间轮算法》时间轮是一种高效利用线程资源进行批量化调度的算法,本文主要介绍了springboot+dubbo实现时间轮算法,文中通过示例代码介绍的非常详细,对大家... 目录前言一、参数说明二、具体实现1、HashedwheelTimer2、createWheel3、n