Python爬虫遇到法语é变成\u00e9

2023-10-23 12:40

本文主要是介绍Python爬虫遇到法语é变成\u00e9,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

用Python爬虫过程中,尤其是爬取国外网站时候会发现出现一些\u00e9,\u00e8这种

查看原网页发现是一些法文,如é,à,ù等

其实都是不同编码包含内容不同的问题

一般我们用Python存储数据到文件时候是先编码为其他的编码集,比如gbk,或者常用的utf-8

在这儿我们需要的是它原始信息,所以需要数据原始信息,这儿就要提到unicode-escape编码集

unicode-escape编码集是将unicode通过内存编码值直接存储,这正是我们所需要的

所以只要对网页内容通过unicode-escape直接decode就可以了,不过需要注意的是这时候数据类型是Unicode类型的

这时候内容就会变成法语音标的信息了

如果还想把法语改为utf-8的网页内容就继续往下看吧~

直接上图:

记得先引用unicodedata包哦~

normalize()的意思是将其标准化,第一个参数可选的有“NFC”,“NFD”,“NFKC”,“NFKD”

其中,NFC表示字符是一个整体,NFD表示字符是多个字符串合并起来的,所以其标准化后的长度也不一样,NFC的比NFD的要短

同理,NFKC和NFKD也大致是同一个意思,不过这两个新增了兼容性,一般推荐用这两个

而对于后面的decode来说,其函数原型是decode([encoding], [errors='strict'])

第一个参数就是你需要编码的类型

第二个参数控制错误处理的策略,默认的参数就是strict,代表遇到非法字符时抛出异常,它还可以选择为ignore,replace和xmlcharrefreplace 这三个分别代表的意思是忽略非法字符,用?代替非法字符,用XML的字符引用

最后再对相应的字符串改为utf-8就完全从原来的法语改为英语字母啦~~

PS:新手随笔,有错欢迎指正,转载请指明出处

这篇关于Python爬虫遇到法语é变成\u00e9的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/267901

相关文章

Python版本信息获取方法详解与实战

《Python版本信息获取方法详解与实战》在Python开发中,获取Python版本号是调试、兼容性检查和版本控制的重要基础操作,本文详细介绍了如何使用sys和platform模块获取Python的主... 目录1. python版本号获取基础2. 使用sys模块获取版本信息2.1 sys模块概述2.1.1

一文详解Python如何开发游戏

《一文详解Python如何开发游戏》Python是一种非常流行的编程语言,也可以用来开发游戏模组,:本文主要介绍Python如何开发游戏的相关资料,文中通过代码介绍的非常详细,需要的朋友可以参考下... 目录一、python简介二、Python 开发 2D 游戏的优劣势优势缺点三、Python 开发 3D

Python函数作用域与闭包举例深度解析

《Python函数作用域与闭包举例深度解析》Python函数的作用域规则和闭包是编程中的关键概念,它们决定了变量的访问和生命周期,:本文主要介绍Python函数作用域与闭包的相关资料,文中通过代码... 目录1. 基础作用域访问示例1:访问全局变量示例2:访问外层函数变量2. 闭包基础示例3:简单闭包示例4

Python实现字典转字符串的五种方法

《Python实现字典转字符串的五种方法》本文介绍了在Python中如何将字典数据结构转换为字符串格式的多种方法,首先可以通过内置的str()函数进行简单转换;其次利用ison.dumps()函数能够... 目录1、使用json模块的dumps方法:2、使用str方法:3、使用循环和字符串拼接:4、使用字符

Python版本与package版本兼容性检查方法总结

《Python版本与package版本兼容性检查方法总结》:本文主要介绍Python版本与package版本兼容性检查方法的相关资料,文中提供四种检查方法,分别是pip查询、conda管理、PyP... 目录引言为什么会出现兼容性问题方法一:用 pip 官方命令查询可用版本方法二:conda 管理包环境方法

基于Python开发Windows自动更新控制工具

《基于Python开发Windows自动更新控制工具》在当今数字化时代,操作系统更新已成为计算机维护的重要组成部分,本文介绍一款基于Python和PyQt5的Windows自动更新控制工具,有需要的可... 目录设计原理与技术实现系统架构概述数学建模工具界面完整代码实现技术深度分析多层级控制理论服务层控制注

pycharm跑python项目易出错的问题总结

《pycharm跑python项目易出错的问题总结》:本文主要介绍pycharm跑python项目易出错问题的相关资料,当你在PyCharm中运行Python程序时遇到报错,可以按照以下步骤进行排... 1. 一定不要在pycharm终端里面创建环境安装别人的项目子模块等,有可能出现的问题就是你不报错都安装

Python打包成exe常用的四种方法小结

《Python打包成exe常用的四种方法小结》本文主要介绍了Python打包成exe常用的四种方法,包括PyInstaller、cx_Freeze、Py2exe、Nuitka,文中通过示例代码介绍的非... 目录一.PyInstaller11.安装:2. PyInstaller常用参数下面是pyinstal

Python爬虫HTTPS使用requests,httpx,aiohttp实战中的证书异步等问题

《Python爬虫HTTPS使用requests,httpx,aiohttp实战中的证书异步等问题》在爬虫工程里,“HTTPS”是绕不开的话题,HTTPS为传输加密提供保护,同时也给爬虫带来证书校验、... 目录一、核心问题与优先级检查(先问三件事)二、基础示例:requests 与证书处理三、高并发选型:

Python中isinstance()函数原理解释及详细用法示例

《Python中isinstance()函数原理解释及详细用法示例》isinstance()是Python内置的一个非常有用的函数,用于检查一个对象是否属于指定的类型或类型元组中的某一个类型,它是Py... 目录python中isinstance()函数原理解释及详细用法指南一、isinstance()函数