【科研积累】机器学习的认知笔记

2024-09-04 00:12

本文主要是介绍【科研积累】机器学习的认知笔记,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一、机器学习通识

机器学习,就是用模型来学习数据的规律。

大多数机器学习任务都是三步走:实例化➡️训练➡️预测。

机器学习任务按照最后一步预测,可以分为三种:

1. 分类:输出概率分布

2. 回归

3. 生成:本质上也是分类,生成的是对下一个字的分类,在字典中,每个字都是一个类别。

如果按照数据标签的完整与否来划分,则可以分为以下三类:

1. 结构化的数据(全都有标签):用于监督学习,包括分类、回归;

2. 半结构化的数据(部分有标签)

3. 无标签的数据:用于无监督学习,包括聚类、降维、生成模型、主题模型、文本编码。

对算法而言,数据分为序列数据和静态数据,其中序列数据就包括文本、时间序列和音频视频。

在深度学习中,无论什么数据,都要转化为张量来计算。

监督学习/无监督学习:

监督学习本质上就是在做函数逼近F(x),通过内部外部参数的学习,找到和数据最贴合的函数。

这里的内参和外参是什么?

内参是模型通过训练数据自动学习得到的,而非像外参那样直接由用户指定。

模型 = 外部参数实例化 + 训练数据调整内部参数 + 算法

在实践中,我们把内部分数称为参数,外部参数称为超参数

经典机器学习可以理解为显式的函数,也就是能用数学公式表达的算法,而深度学习则可以理解为函数的隐式表达,过于复杂,写不出来。

而无监督学习不想监督学习那样有标签,所以这样自由的数据所找到的规律就没有明确的评判标准。

无监督学习主要有以下这些:

1. 聚类:给数据划分类别

常见模型:kmeans,DBSCAN,谱聚类

常见问题:数字可以聚类,那文本是否可以?大部分时候需要吧文本转化为数字,编码成数字后就可以衡量其距离,这样就可以按照距离来完成聚类了。

2. 降维:PCA主成分分析,SVD奇异值分解

3. 主题模型:LDA

4. 文本编码:单词向量化,文档向量化

二、经典机器学习的流程

首先要认识自己面对的是一个什么问题,是分类还是回归,还是生成,对于分类问题中最基础的二分类问题,我们需要分清楚标签和特征,接着判断标签是否均衡,如果不均衡则可以采用过采样SMOTE来处理。

其次是进行数据预处理,数据预处理也就是数据清洗,需要对异常值进行处理,对于连续特征,画出箱线图来判断异常值,对于离散特征,则需要画出直方图来判断,筛选出来以后,直接删除,然后和缺失值一起采用众数填补。另外如果是分类变量,则需要进行独热编码,连续特征需要进行归一化标准化。

接着就是特征工程了,在这一步,我们可以借助热力图判断,把最重要的特征构造交互项。

最后是模型选取,这里我们可以进行单模型调参和多模型优化。

这篇关于【科研积累】机器学习的认知笔记的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1134446

相关文章

Go学习记录之runtime包深入解析

《Go学习记录之runtime包深入解析》Go语言runtime包管理运行时环境,涵盖goroutine调度、内存分配、垃圾回收、类型信息等核心功能,:本文主要介绍Go学习记录之runtime包的... 目录前言:一、runtime包内容学习1、作用:① Goroutine和并发控制:② 垃圾回收:③ 栈和

Android学习总结之Java和kotlin区别超详细分析

《Android学习总结之Java和kotlin区别超详细分析》Java和Kotlin都是用于Android开发的编程语言,它们各自具有独特的特点和优势,:本文主要介绍Android学习总结之Ja... 目录一、空安全机制真题 1:Kotlin 如何解决 Java 的 NullPointerExceptio

电脑软件不能安装到C盘? 真相颠覆你的认知!

《电脑软件不能安装到C盘?真相颠覆你的认知!》很多人习惯把软件装到D盘、E盘,刻意绕开C盘,这种习惯从哪来?让我们用数据和案例,拆解背后的3大原因... 我身边不少朋友,在使用电脑安装软件的时候,总是习惯性的把软件安装到D盘或者E盘等位置,刻意避开C盘。如果你也有这样的习惯,或者不明白为什么要这么做,那么我

重新对Java的类加载器的学习方式

《重新对Java的类加载器的学习方式》:本文主要介绍重新对Java的类加载器的学习方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、介绍1.1、简介1.2、符号引用和直接引用1、符号引用2、直接引用3、符号转直接的过程2、加载流程3、类加载的分类3.1、显示

Java学习手册之Filter和Listener使用方法

《Java学习手册之Filter和Listener使用方法》:本文主要介绍Java学习手册之Filter和Listener使用方法的相关资料,Filter是一种拦截器,可以在请求到达Servl... 目录一、Filter(过滤器)1. Filter 的工作原理2. Filter 的配置与使用二、Listen

利用Python快速搭建Markdown笔记发布系统

《利用Python快速搭建Markdown笔记发布系统》这篇文章主要为大家详细介绍了使用Python生态的成熟工具,在30分钟内搭建一个支持Markdown渲染、分类标签、全文搜索的私有化知识发布系统... 目录引言:为什么要自建知识博客一、技术选型:极简主义开发栈二、系统架构设计三、核心代码实现(分步解析

Java进阶学习之如何开启远程调式

《Java进阶学习之如何开启远程调式》Java开发中的远程调试是一项至关重要的技能,特别是在处理生产环境的问题或者协作开发时,:本文主要介绍Java进阶学习之如何开启远程调式的相关资料,需要的朋友... 目录概述Java远程调试的开启与底层原理开启Java远程调试底层原理JVM参数总结&nbsMbKKXJx

Java深度学习库DJL实现Python的NumPy方式

《Java深度学习库DJL实现Python的NumPy方式》本文介绍了DJL库的背景和基本功能,包括NDArray的创建、数学运算、数据获取和设置等,同时,还展示了如何使用NDArray进行数据预处理... 目录1 NDArray 的背景介绍1.1 架构2 JavaDJL使用2.1 安装DJL2.2 基本操

HarmonyOS学习(七)——UI(五)常用布局总结

自适应布局 1.1、线性布局(LinearLayout) 通过线性容器Row和Column实现线性布局。Column容器内的子组件按照垂直方向排列,Row组件中的子组件按照水平方向排列。 属性说明space通过space参数设置主轴上子组件的间距,达到各子组件在排列上的等间距效果alignItems设置子组件在交叉轴上的对齐方式,且在各类尺寸屏幕上表现一致,其中交叉轴为垂直时,取值为Vert

Ilya-AI分享的他在OpenAI学习到的15个提示工程技巧

Ilya(不是本人,claude AI)在社交媒体上分享了他在OpenAI学习到的15个Prompt撰写技巧。 以下是详细的内容: 提示精确化:在编写提示时,力求表达清晰准确。清楚地阐述任务需求和概念定义至关重要。例:不用"分析文本",而用"判断这段话的情感倾向:积极、消极还是中性"。 快速迭代:善于快速连续调整提示。熟练的提示工程师能够灵活地进行多轮优化。例:从"总结文章"到"用