PHP 里进行字符串 Unicode 编码并正确截短的方法

2024-03-14 05:38

本文主要是介绍PHP 里进行字符串 Unicode 编码并正确截短的方法,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

在 PHP 与其它语言互相调用传输数据的时候,经常会遇到字符串编码的问题。比如我最近使用 go 语言开发的一个 RPC 服务,在使用 PHP 作为客户端调用的时候,传输的对象数据就使用了 json_encode 来进行序列化,

源字符串:

> 测试41
> {"json":['test json 测试json串格式'不对'}

它序列化后得到的内容应该类似下面的:

> \u6d4b\u8bd541\n> {\"json\":['test json \u6d4b\u8bd5json\u4e32\u683c\u5f0f'\u4e0d\u5bf9'}

这个序列化看起来没有问题,我们可以很方便的用 json_decode 来获得原始字符串。

但是因为我的服务需要限制字符串长度,也就是说如果超出限制的字符串,会被截短,类似下面的:

> 测试41
> {"json":['test json 测试...

这里出现的问题,首先是截短的字符串长度不是预期的长度。为什么呢?因为 PHP 客户端如果在序列化之前就按限制长度来截短字符串,那么截短后的字符串序列化之后的长度肯定与源字符串序列化之后才截短的结果不一致。

假定我们限制长度为50(个单字节字符),我们撰写一个下面的脚本来展示一下截短序列化之前和之后的结果:

<?php$str1 = "> 测试41\n> {\"json\":['test json 测试json串格式'不对'}";$str2 = json_encode($str1);echo "str1: ".$str1."\n";
echo "Length of str1: ".strlen($str1)."\n\n";echo "str2: ".$str2."\n";
echo "Length of str2: ".strlen($str2)."\n\n";echo "MultiByte Length of str1: ".mb_strlen($str1)."\n\n";$limit = 50;$cut1 = substr($str1, 0, $limit);
$cut2 = substr($str2, 0, $limit);
$cut3 = mb_substr($str1, 0, $limit);echo "cut1: ".$cut1."\n";
echo "Encode cut1: ".json_encode($cut1)."\n";
echo "Length of encoded cut1: ".strlen(json_encode($cut1))."\n\n";echo "cut2: ".$cut2."\n";
echo "Length of cut2: ".strlen($cut2)."\n\n";echo "cut3: ".$cut3."\n";
echo "Encode cut3: ".json_encode($cut3)."\n";
echo "Length of encoded cut3: ".strlen(json_encode($cut3))."\n\n";

该脚本的运行结果如下:

str1: > 测试41
> {"json":['test json 测试json串格式'不对'}
Length of str1: 61str2: "> \u6d4b\u8bd541\n> {\"json\":['test json \u6d4b\u8bd5json\u4e32\u683c\u5f0f'\u4e0d\u5bf9'}"
Length of str2: 93MultiByte Length of str1: 43cut1: > 测试41
> {"json":['test json 测试json串格�
Encode cut1: 
Length of encoded cut1: 0cut2: "> \u6d4b\u8bd541\n> {\"json\":['test json \u6d4b\
Length of cut2: 50cut3: > 测试41
> {"json":['test json 测试json串格式'不对'}
Encode cut3: "> \u6d4b\u8bd541\n> {\"json\":['test json \u6d4b\u8bd5json\u4e32\u683c\u5f0f'\u4e0d\u5bf9'}"
Length of encoded cut3: 93

可以看到源字符串被截短后,再 json_encode 出了问题,得到的序列化结果为空字符串……

但是如果我们用 mbstring 的方法来衡量和截短字符串,其序列化之后的字符串长度超出了我们的限制……

所以,正确的做法是 先对字符串进行序列化,然后根据限制截短字符串。这样能够确保字符串在不同的语言里处理都能有一致的结果。

网络上有很多序列化 Unicode 字符串的方法,但经过测试我发现,如果截短后都可能因为包含 JSON 的特殊符号大括号、中括号或其它符号,导致反序列化出现问题。最后经过尝试,我利用 PHP 的 JSON 模块实现了如下的编码方法:

<?php
//将内容进行UNICODE编码
function unicode_encode($str){$pattern = '/([\[\]\{\}])/i';$replacement = '\\\\${1}';$str = preg_replace($pattern, $replacement, $str);$str = '{"str":"'. $str.'"}';$encode = json_encode($str);return substr($encode, 12, -4);
}//将UNICODE编码后的内容进行解码
function unicode_decode($unicode_str){//避免一半 unicode 截断的情况$cut_pos_check = strrpos($unicode_str, '\u', 0);if(strlen($unicode_str) - $cut_pos_check < 6) { // unicode 编码都是 6 个字节:\uxxxx$unicode_str = substr($unicode_str, 0, $cut_pos_check);}if(substr($unicode_str, -1) == "\\" && substr($unicode_str, -2, 1) != "\\") {  //去掉截断最后为 \ 且不是 \\ 的情况$unicode_str = substr($unicode_str, 0, -1);}$json = '{"str":"'.$unicode_str.'"}';$obj = json_decode($json);if(empty($obj)) return '';return $obj->str;
}//截断字符串
function cutData($data, $occupied, $limit) {if($limit < 0) $limit = intval($this->config->ratchet->msglimit);$msglimit = $limit - $occupied;   //有些必须占用的长度去掉echo(date("Y-m-d h:i:s")." Msg length: ".strlen($data)."\n");echo(date("Y-m-d h:i:s")." Msg limit: ".$msglimit."\n");$tmp = preg_replace("/\&nbsp\;/", " ", unicode_encode(trim(htmlspecialchars_decode($data))));    //编码为Unicode$encoded_len = strlen($tmp);echo(date("Y-m-d h:i:s")." Unicode Encoded: ".$tmp."\n\n");echo(date("Y-m-d h:i:s")." Unicode Encoded Msg length: ".$encoded_len."\n");if($encoded_len > $msglimit) {  //超出限制长度$sub = substr($tmp, 0, $msglimit);echo(date("Y-m-d h:i:s")." Substring: ".$sub."\n\n");echo(date("Y-m-d h:i:s")." Unicode Decoded: ".unicode_decode($sub)."\n\n");return unicode_decode($sub) . "...";   //返回截短后的解码字符串}return preg_replace("/\&nbsp\;/", " ", $data);
}

再用一个测试脚本测试一下:

<?php
$str1 = "> 测试41\n> {\"json\":['test json 测试json串格式'不对'}";$str2 = unicode_encode($str1);echo "str1: ".$str1."\n";
echo "Length of str1: ".strlen($str1)."\n\n";$limit = 50;$cut = cutData($str1, 0, $limit);echo "cut: ".$cut."\n";

结果类似下面的:

str1: > 测试41
> {"json":['test json 测试json串格式'不对'}
Length of str1: 612021-08-28 11:18:26 Msg length: 61
2021-08-28 11:18:26 Unicode Encoded: > \u6d4b\u8bd541\n> \\{\"json\":\\['test json \u6d4b\u8bd5json\u4e32\u683c\u5f0f'\u4e0d\u5bf9'\\}2021-08-28 11:18:26 Unicode Encoded Msg length: 97
2021-08-28 11:18:26 Msg limit: 50
2021-08-28 11:18:26 Substring: > \u6d4b\u8bd541\n> \\{\"json\":\\['test json \u6d2021-08-28 11:18:26 Unicode Decoded: > 测试41
> \{"json":\['test json cut: > 测试41
> \{"json":\['test json ...

这篇关于PHP 里进行字符串 Unicode 编码并正确截短的方法的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/807361

相关文章

Java实现字节字符转bcd编码

《Java实现字节字符转bcd编码》BCD是一种将十进制数字编码为二进制的表示方式,常用于数字显示和存储,本文将介绍如何在Java中实现字节字符转BCD码的过程,需要的小伙伴可以了解下... 目录前言BCD码是什么Java实现字节转bcd编码方法补充总结前言BCD码(Binary-Coded Decima

python获取指定名字的程序的文件路径的两种方法

《python获取指定名字的程序的文件路径的两种方法》本文主要介绍了python获取指定名字的程序的文件路径的两种方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要... 最近在做项目,需要用到给定一个程序名字就可以自动获取到这个程序在Windows系统下的绝对路径,以下

JavaScript中的高级调试方法全攻略指南

《JavaScript中的高级调试方法全攻略指南》什么是高级JavaScript调试技巧,它比console.log有何优势,如何使用断点调试定位问题,通过本文,我们将深入解答这些问题,带您从理论到实... 目录观点与案例结合观点1观点2观点3观点4观点5高级调试技巧详解实战案例断点调试:定位变量错误性能分

Python中 try / except / else / finally 异常处理方法详解

《Python中try/except/else/finally异常处理方法详解》:本文主要介绍Python中try/except/else/finally异常处理方法的相关资料,涵... 目录1. 基本结构2. 各部分的作用tryexceptelsefinally3. 执行流程总结4. 常见用法(1)多个e

Java实现将HTML文件与字符串转换为图片

《Java实现将HTML文件与字符串转换为图片》在Java开发中,我们经常会遇到将HTML内容转换为图片的需求,本文小编就来和大家详细讲讲如何使用FreeSpire.DocforJava库来实现这一功... 目录前言核心实现:html 转图片完整代码场景 1:转换本地 HTML 文件为图片场景 2:转换 H

PHP应用中处理限流和API节流的最佳实践

《PHP应用中处理限流和API节流的最佳实践》限流和API节流对于确保Web应用程序的可靠性、安全性和可扩展性至关重要,本文将详细介绍PHP应用中处理限流和API节流的最佳实践,下面就来和小编一起学习... 目录限流的重要性在 php 中实施限流的最佳实践使用集中式存储进行状态管理(如 Redis)采用滑动

JavaScript中比较两个数组是否有相同元素(交集)的三种常用方法

《JavaScript中比较两个数组是否有相同元素(交集)的三种常用方法》:本文主要介绍JavaScript中比较两个数组是否有相同元素(交集)的三种常用方法,每种方法结合实例代码给大家介绍的非常... 目录引言:为什么"相等"判断如此重要?方法1:使用some()+includes()(适合小数组)方法2

Java中如何正确的停掉线程

《Java中如何正确的停掉线程》Java通过interrupt()通知线程停止而非强制,确保线程自主处理中断,避免数据损坏,线程池的shutdown()等待任务完成,shutdownNow()强制中断... 目录为什么不强制停止为什么 Java 不提供强制停止线程的能力呢?如何用interrupt停止线程s

504 Gateway Timeout网关超时的根源及完美解决方法

《504GatewayTimeout网关超时的根源及完美解决方法》在日常开发和运维过程中,504GatewayTimeout错误是常见的网络问题之一,尤其是在使用反向代理(如Nginx)或... 目录引言为什么会出现 504 错误?1. 探索 504 Gateway Timeout 错误的根源 1.1 后端

MySQL 表空却 ibd 文件过大的问题及解决方法

《MySQL表空却ibd文件过大的问题及解决方法》本文给大家介绍MySQL表空却ibd文件过大的问题及解决方法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考... 目录一、问题背景:表空却 “吃满” 磁盘的怪事二、问题复现:一步步编程还原异常场景1. 准备测试源表与数据