R语言-数据预处理的一些实用(万能)办法:缺失值、数据重复、共线性等等的处理

本文主要是介绍R语言-数据预处理的一些实用(万能)办法:缺失值、数据重复、共线性等等的处理,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

#在这里呢主要是想介绍一下数据预处理的一些常用问题:缺失值、数据重复、共线性等等的处理办法,自己写了一点代码,希望能帮助到有需要的朋友
#删除缺失比例达到20%的列,并打印出删除的列
fun1<-function(data,naratio=0.2){
  na_ratio<-apply(is.na(data),2,sum)/nrow(data)#求每列的缺失比例
  x<-data[,na_ratio<naratio]#保留缺失比例小于0.2的列
  print(colnames(data)[na_ratio>=naratio])#打印出被删除的列变量名
  return(x)
}

#或者可以直接利用R中的DMwR包来进行处理
library(DMwR)
data4<-data[-manyNAs(data,nORp=0.2),] #删除缺失比例达到20%(默认0.2)的行(如果想删除列先将矩阵进行转置就行了)

#删除某列众数比例达到50%的列,并打印出删除的列
fun2<-function(data){
  fun_const<-function(x){ 
    xn1<-which.max(table(x))#找出每列的众数
    return(x[xn1])
  }
  constant1<-as.numeric(apply(data,2,fun_const))
  fun_i<-function(data,constant1,i){
    zero_ratio<-sum(data[,i]==constant1[i])/nrow(data)
    return(zero_ratio)
  }
  zero_ratio1<-numeric(ncol(data))
  
  for(i in 1:ncol(data)){
    zero_ratio1[i]<-fun_i(data,constant1,i)
  }
  data1<-data[,zero_ratio1<0.5]
  print(colnames(data)[zero_ratio1>=0.5])
  return(data1)
}

#删除相关系数达到0.9的列,并打印出删除的列
fun3<-function(data,corr=0.9){
  xc<-cor(data);diag(xc)=0
  lc<-which(abs(xc)>=corr,arr.ind = T)
  if(length(lc)!=0){
    lc1<-lc[lc[,1]<lc[,2],]
    if(is.matrix(lc1)) lcd<-unique(lc1[,2]) else lcd<-lc1[2]
    x<-data[,-lcd]
    print(colnames(data)[lcd])
    return(x)
  } else return(data)
}

#删除列名重复的情形(可能列名只是差个空格或者其他符号,但其实是同一个变量)
col_name<-colnames(data)
col_name1<-gsub(" ","",col_name)#删掉变量名中的空格
new_col<-unique(col_name1)
data1<-data[,match(new_col,col_name1)]

#其实这些都是平时做数据处理时可以预先做的一些简单处理,还是非常实用的,但是我只是针对自己的数据编写的,如果数据不一样会出现一些小问题,只要稍微做下修改应该就没啥问题,有好办法欢迎来贴,只有互相学习才能更快的提升自己!





这篇关于R语言-数据预处理的一些实用(万能)办法:缺失值、数据重复、共线性等等的处理的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/925560

相关文章

从基础到高级详解Go语言中错误处理的实践指南

《从基础到高级详解Go语言中错误处理的实践指南》Go语言采用了一种独特而明确的错误处理哲学,与其他主流编程语言形成鲜明对比,本文将为大家详细介绍Go语言中错误处理详细方法,希望对大家有所帮助... 目录1 Go 错误处理哲学与核心机制1.1 错误接口设计1.2 错误与异常的区别2 错误创建与检查2.1 基础

Linux下利用select实现串口数据读取过程

《Linux下利用select实现串口数据读取过程》文章介绍Linux中使用select、poll或epoll实现串口数据读取,通过I/O多路复用机制在数据到达时触发读取,避免持续轮询,示例代码展示设... 目录示例代码(使用select实现)代码解释总结在 linux 系统里,我们可以借助 select、

解决docker目录内存不足扩容处理方案

《解决docker目录内存不足扩容处理方案》文章介绍了Docker存储目录迁移方法:因系统盘空间不足,需将Docker数据迁移到更大磁盘(如/home/docker),通过修改daemon.json配... 目录1、查看服务器所有磁盘的使用情况2、查看docker镜像和容器存储目录的空间大小3、停止dock

Go语言中json操作的实现

《Go语言中json操作的实现》本文主要介绍了Go语言中的json操作的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧... 目录 一、jsOChina编程N 与 Go 类型对应关系️ 二、基本操作:编码与解码 三、结构体标签(Struc

5 种使用Python自动化处理PDF的实用方法介绍

《5种使用Python自动化处理PDF的实用方法介绍》自动化处理PDF文件已成为减少重复工作、提升工作效率的重要手段,本文将介绍五种实用方法,从内置工具到专业库,帮助你在Python中实现PDF任务... 目录使用内置库(os、subprocess)调用外部工具使用 PyPDF2 进行基本 PDF 操作使用

分析 Java Stream 的 peek使用实践与副作用处理方案

《分析JavaStream的peek使用实践与副作用处理方案》StreamAPI的peek操作是中间操作,用于观察元素但不终止流,其副作用风险包括线程安全、顺序混乱及性能问题,合理使用场景有限... 目录一、peek 操作的本质:有状态的中间操作二、副作用的定义与风险场景1. 并行流下的线程安全问题2. 顺

MyBatis/MyBatis-Plus同事务循环调用存储过程获取主键重复问题分析及解决

《MyBatis/MyBatis-Plus同事务循环调用存储过程获取主键重复问题分析及解决》MyBatis默认开启一级缓存,同一事务中循环调用查询方法时会重复使用缓存数据,导致获取的序列主键值均为1,... 目录问题原因解决办法如果是存储过程总结问题myBATis有如下代码获取序列作为主键IdMappe

Python异常处理之避免try-except滥用的3个核心原则

《Python异常处理之避免try-except滥用的3个核心原则》在Python开发中,异常处理是保证程序健壮性的关键机制,本文结合真实案例与Python核心机制,提炼出避免异常滥用的三大原则,有需... 目录一、精准打击:只捕获可预见的异常类型1.1 通用异常捕获的陷阱1.2 精准捕获的实践方案1.3

C#使用iText获取PDF的trailer数据的代码示例

《C#使用iText获取PDF的trailer数据的代码示例》开发程序debug的时候,看到了PDF有个trailer数据,挺有意思,于是考虑用代码把它读出来,那么就用到我们常用的iText框架了,所... 目录引言iText 核心概念C# 代码示例步骤 1: 确保已安装 iText步骤 2: C# 代码程

Pandas处理缺失数据的方式汇总

《Pandas处理缺失数据的方式汇总》许多教程中的数据与现实世界中的数据有很大不同,现实世界中的数据很少是干净且同质的,本文我们将讨论处理缺失数据的一些常规注意事项,了解Pandas如何表示缺失数据,... 目录缺失数据约定的权衡Pandas 中的缺失数据None 作为哨兵值NaN:缺失的数值数据Panda