机器学习(hadoop实战)01: 家电故障备件储备预测分析

2024-03-03 23:08

本文主要是介绍机器学习(hadoop实战)01: 家电故障备件储备预测分析,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

家电故障备件储备预测分析

本例来源于《Hadoop大数据分析与挖掘实战》第十二章家电故障备件储备预测分析。

数据集:请留言,我会私发。

  • 问题:针对手机数据,要求从服务商代码中提取出地区编码,对每个地区进行故障率的预测,从而做到备件的提前储备。

  • 问题分析:从问题描述可以看出,可以看作是对每个地区进行故障的推荐,地区编码作为用户id,故障代码作为项目id,现有数据集中故障率作为评分,使用协同过滤算法进行故障的推荐。

  • 难点:

  1. 需要把故障描述转化为故障代码,故障描述是用户对故障的描述,所以各种各样,很难做到统一,需要提取其中的关键字。
  2. 现有数据集中故障率的计算。
  3. 在计算的时候,地区编码、故障代码都是字符串,但是协同过滤算法会把他们作为long类型处理,会出现数据失真的情况。

本次主要针对手机故障进行分析。
分析流程:

  • 第一步:查看数据集。本次主要分析手机故障,所以只需要excel中Sheet2中的数据(见图1.1),由于hadoop没有读取excel的InputFormat(我自己实现了一个,但是存在bug),所以采用了先把excel导出为txt文件,然后再处理的办法。数据集

    图1.1

  • 第二步:写mr程序计算故障率,map阶段读取文件。按照 \t 切分字符串,过滤掉不符合格式的数据(见代码2.1),然后从中取出服务商代码、故障描述。从服务商代码中取出地区代码,根据手机故障原因标准准则(见图2.3),把故障描述转化为故障代码(见代码2.2),然后写出。

代码2.1/*** 产品大类 品牌 产品型号 序列号 内机编码 服务商代码 受理时间 派工时间 故障原因代码 故障原因描述 维修措施 反映问题描述*/static class ParseMapper extends Mapper<LongWritable, Text, Text, IntWritable> {Text k = new Text();IntWritable v = new IntWritable();int sum = 0;@Overrideprotected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {// 删除空行if (!StringUtils.isBlank(value.toString())) {String[] fields = value.toString().split("\t");if (fields.length < 12) {System.out.println(Arrays.toString(fields));sum ++;}// 如果服务商代码或者反映问题描述为空,则删除行if (fields.length >=12 && !StringUtils.isBlank(fields[5]) && !StringUtils.isBlank(fields[11])) {// 服务商代码String districtCode = fields[5];// 反映问题描述String faultTxt = fields[11];try {if (districtCode.split("-").length >= 3) {// 从服务商代码中取出地区编码String district = districtCode.split("-")[2];// 把反映问题描述转化为故障代码int convertCode = convertCode(faultTxt);k.set(district);v.set(convertCode);context.write(k, v);}} catch (Exception e) {e.printStackTrace();}}}}@Overrideprotected void cleanup(Context context) throws IOException, InterruptedException {System.out.println("sum: " + sum);}}
代码2.2/*** 把反映问题描述转化为故障类型代码* @param faultText 反映问题描述* @return 故障类型代码*/public static int convertCode(String faultText) {int code = 0;String fault = faultText.toLowerCase();if (fault.contains("lcd")) {code = 2;} else if (fault.contains("键") && !fault.contains("印错")) {code = 3;} else if (fault.contains("网络") || fault.contains("服务")|| fault.contains("信号") || fault.contains("连接")|| fault.contains("功率低")) {code = 5;} else if (fault.contains("通话") || fault.contains("听筒")|| fault.contains("送话")) {code = 4;} else if (fault.contains("灯")) {code = 6;} else if (fault.contains("蓝牙")) {code = 7;} else if (fault.contains("不吃卡") || fault.contains("不识卡")|| fault.contains("不读卡")) {code = 8;} else if (fault.contains("电池") || fault.contains("耗电")) {code = 9;} else if (fault.contains("拍照") || fault.contains("照相")|| fault.contains("摄像头")) {code = 10;} else if (fault.contains("触屏")) {code = 11;} else if (fault.contains("振动")) {code = 12;} else if (fault.contains("mp3") || fault.contains("音")&& !fault.contains("键") && !fault.contains("喇叭")) {code = 13;} else if (fault.contains("喇叭") || fault.contains("耳机")) {code = 14;} else if (fault.contains("充电")) {code = 15;} else if (fault.contains("gps") || fault.contains("卫星")) {code = 16;} else if (fault.contains("壳") || fault.contains("螺丝")|| fault.contains("缝隙") || fault.contains("印错")) {code = 17;} else if (fault.contains("开机") || fault.contains("死机")|| fault.contains("开关机") || fault.contains("开(关)机")) {code = 1;} else {code = 18;}return code;}

手机故障原因标准准则

图2.3(部分)

  • 第三步:reduce阶段计算故障率。map阶段写出的时候把地区编码作为key,所以在reduce阶段取数据的时候,会把相同地区编码的数据作为一组,一起拿过来。然后针对每个地区,用每种故障数量除以总故障数量,得到每个地区各种故障的故障率。应该除以该地区的总故障率,因为我们使用协同过滤算法,研究的是各个地区之间故障率的相似度。计算完写出到文件。
    static class RateReducer extends Reducer<Text, IntWritable, Text, DoubleWritable> {String districtCode = null;Map<Integer, Integer> map = new HashMap<>();double sum = 0D;@Overrideprotected void reduce(Text key, Iterable<IntWritable> values, Context context) throws IOException, InterruptedException {districtCode = key.toString();for (IntWritable value : values) {int faultCode = value.get();// 如果map中没有此值,则放入1,有,则在此基础加1map.merge(faultCode, 1, Integer::sum);sum++;}// 写出for (Map.Entry<Integer, Integer> entry : map.entrySet()) {double rate = entry.getValue() / sum;Text outKey = new Text(districtCode + "\t" + entry.getKey());DoubleWritable value = new DoubleWritable(rate);context.write(outKey, value);}// 初始化值map.clear();sum = 0;districtCode = null;}@Overrideprotected void cleanup(Context context) throws IOException, InterruptedException {map.clear();sum = 0;districtCode = null;}}
  • 第四步:根据现有故障率,使用mahout协同过滤算法进行故障率预测。
    在处理之前,先使用MemoryIDMigrator把地区编码转化成了long,防止模型把数据从string转为long,造成前面的0缺失的问题,预测的时候,再把地区编码从long映射回string。具体代码如下:
import org.apache.mahout.cf.taste.common.TasteException;
import org.apache.mahout.cf.taste.impl.common.LongPrimitiveIterator;
import org.apache.mahout.cf.taste.impl.model.MemoryIDMigrator;
import org.apache.mahout.cf.taste.impl.model.file.FileDataModel;
import org.apache.mahout.cf.taste.impl.neighborhood.ThresholdUserNeighborhood;
import org.apache.mahout.cf.taste.impl.recommender.GenericUserBasedRecommender;
import org.apache.mahout.cf.taste.impl.similarity.EuclideanDistanceSimilarity;
import org.apache.mahout.cf.taste.neighborhood.UserNeighborhood;
import org.apache.mahout.cf.taste.recommender.RecommendedItem;
import org.apache.mahout.cf.taste.recommender.Recommender;
import org.apache.mahout.cf.taste.similarity.UserSimilarity;import java.io.*;
import java.util.HashMap;
import java.util.List;
import java.util.Map;/*** @author affable* @description 故障率预测的协同过滤算法* @date 2020-04-21 19:12*/
public class FaultPredict {/*** 推荐的个数*/private static final int RECOMMEND_NUM = 18;/*** 用户即地区代码* @param args 程序输入参数*/public static void main(String[] args) throws IOException, TasteException {// *******************************处理开始******************************************Map<Long, String> faultMap = loadFault();// 使用推荐模型之前,对数据的districtCode映射成long类型// 防止模型把districtCode转为long,出现数据异常String filePath = "data/faultRate/part-r-00000";File dealFile = new File("data/faultRateDeal.csv");MemoryIDMigrator memoryIDMigrator = new MemoryIDMigrator();FileWriter dealWriter = new FileWriter(dealFile, true);FileReader reader = new FileReader(filePath);BufferedReader bufferedReader = new BufferedReader(reader);String line = null;while ((line = bufferedReader.readLine()) != null) {String[] fields = line.split("\t");long districtCodeLong = memoryIDMigrator.toLongID(fields[0]);memoryIDMigrator.storeMapping(districtCodeLong, fields[0]);dealWriter.write(districtCodeLong + "," + fields[1] + "," + fields[2] + "\n");dealWriter.flush();}dealWriter.close();bufferedReader.close();reader.close();// ***********************************处理完成**************************************// **********************************模型推荐开始************************************// 创建包含用户评分的协同过滤模型FileDataModel dataModel = new FileDataModel(dealFile);// 指定使用欧式距离UserSimilarity userSimilarity = new EuclideanDistanceSimilarity(dataModel);// 指定临近算法// 指定距离最近的一定百分比的用户作为邻居// 百分比: 20%UserNeighborhood userNeighborhood = new ThresholdUserNeighborhood(0.2, userSimilarity, dataModel);// 创建推荐器Recommender recommender = new GenericUserBasedRecommender(dataModel, userNeighborhood, userSimilarity);// 获取所有的用户LongPrimitiveIterator userIDIter = dataModel.getUserIDs();StringBuilder recommendedRecord = new StringBuilder();while (userIDIter.hasNext()) {// 获取针对每个用户的推荐long userId = userIDIter.nextLong();List<RecommendedItem> recommendList = recommender.recommend(userId, RECOMMEND_NUM);for (RecommendedItem recommendedItem : recommendList) {recommendedRecord.append(String.format("%s,%s,%f\n", memoryIDMigrator.toStringID(userId), faultMap.get(recommendedItem.getItemID()), recommendedItem.getValue()));}}// **********************************模型推荐结束************************************// 写出推荐结果到文件File recommendFile = new File("data/recommend.csv");FileWriter writer = new FileWriter(recommendFile, true);writer.write(recommendedRecord.toString());writer.flush();writer.close();}/*** 加载故障代码对应的故障类型map* @return map*/private static Map<Long, String> loadFault() {Map<Long, String> faultMap = new HashMap<>(18);faultMap.put(1L, "开机故障");faultMap.put(2L, "LCD显示故障");faultMap.put(3L, "按键故障");faultMap.put(4L, "通话故障");faultMap.put(5L, "网络故障");faultMap.put(6L, "灯故障");faultMap.put(7L, "蓝牙机故障");faultMap.put(8L, "不读卡");faultMap.put(9L, "电池故障");faultMap.put(10L, "拍照故障");faultMap.put(11L, "触屏故障");faultMap.put(12L, "振动故障");faultMap.put(13L, "MP3、收音故障");faultMap.put(14L, "喇叭故障");faultMap.put(15L, "充电故障");faultMap.put(16L, "GPRS故障");faultMap.put(17L, "外观故障");faultMap.put(18L, "其他故障");return faultMap;}}

如有需要完整代码,请留言。

这篇关于机器学习(hadoop实战)01: 家电故障备件储备预测分析的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/771210

相关文章

IDEA下"File is read-only"可能原因分析及"找不到或无法加载主类"的问题

《IDEA下Fileisread-only可能原因分析及找不到或无法加载主类的问题》:本文主要介绍IDEA下Fileisread-only可能原因分析及找不到或无法加载主类的问题,具有很好的参... 目录1.File is read-only”可能原因2.“找不到或无法加载主类”问题的解决总结1.File

springboot项目redis缓存异常实战案例详解(提供解决方案)

《springboot项目redis缓存异常实战案例详解(提供解决方案)》redis基本上是高并发场景上会用到的一个高性能的key-value数据库,属于nosql类型,一般用作于缓存,一般是结合数据... 目录缓存异常实践案例缓存穿透问题缓存击穿问题(其中也解决了穿透问题)完整代码缓存异常实践案例Red

Dubbo之SPI机制的实现原理和优势分析

《Dubbo之SPI机制的实现原理和优势分析》:本文主要介绍Dubbo之SPI机制的实现原理和优势,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录Dubbo中SPI机制的实现原理和优势JDK 中的 SPI 机制解析Dubbo 中的 SPI 机制解析总结Dubbo中

C#继承之里氏替换原则分析

《C#继承之里氏替换原则分析》:本文主要介绍C#继承之里氏替换原则,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录C#里氏替换原则一.概念二.语法表现三.类型检查与转换总结C#里氏替换原则一.概念里氏替换原则是面向对象设计的基本原则之一:核心思想:所有引py

Spring Boot拦截器Interceptor与过滤器Filter深度解析(区别、实现与实战指南)

《SpringBoot拦截器Interceptor与过滤器Filter深度解析(区别、实现与实战指南)》:本文主要介绍SpringBoot拦截器Interceptor与过滤器Filter深度解析... 目录Spring Boot拦截器(Interceptor)与过滤器(Filter)深度解析:区别、实现与实

基于C#实现MQTT通信实战

《基于C#实现MQTT通信实战》MQTT消息队列遥测传输,在物联网领域应用的很广泛,它是基于Publish/Subscribe模式,具有简单易用,支持QoS,传输效率高的特点,下面我们就来看看C#实现... 目录1、连接主机2、订阅消息3、发布消息MQTT(Message Queueing Telemetr

Nginx使用Keepalived部署web集群(高可用高性能负载均衡)实战案例

《Nginx使用Keepalived部署web集群(高可用高性能负载均衡)实战案例》本文介绍Nginx+Keepalived实现Web集群高可用负载均衡的部署与测试,涵盖架构设计、环境配置、健康检查、... 目录前言一、架构设计二、环境准备三、案例部署配置 前端 Keepalived配置 前端 Nginx

Python日期和时间完全指南与实战

《Python日期和时间完全指南与实战》在软件开发领域,‌日期时间处理‌是贯穿系统设计全生命周期的重要基础能力,本文将深入解析Python日期时间的‌七大核心模块‌,通过‌企业级代码案例‌揭示最佳实践... 目录一、背景与核心价值二、核心模块详解与实战2.1 datetime模块四剑客2.2 时区处理黄金法

SpringBoot实现接口数据加解密的三种实战方案

《SpringBoot实现接口数据加解密的三种实战方案》在金融支付、用户隐私信息传输等场景中,接口数据若以明文传输,极易被中间人攻击窃取,SpringBoot提供了多种优雅的加解密实现方案,本文将从原... 目录一、为什么需要接口数据加解密?二、核心加解密算法选择1. 对称加密(AES)2. 非对称加密(R

基于Go语言实现Base62编码的三种方式以及对比分析

《基于Go语言实现Base62编码的三种方式以及对比分析》Base62编码是一种在字符编码中使用62个字符的编码方式,在计算机科学中,,Go语言是一种静态类型、编译型语言,它由Google开发并开源,... 目录一、标准库现状与解决方案1. 标准库对比表2. 解决方案完整实现代码(含边界处理)二、关键实现细