Fast Implementations of Maps with Integer Keys in C++

2024-02-19 05:48

本文主要是介绍Fast Implementations of Maps with Integer Keys in C++,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

原文

说明: 因为图片无法下载,我们就看看结论吧。

介绍

在相当多的应用程序中,我们必须处理稀疏数组或具有整型键的映射。当元素的数量相当少 (比如不超过1000个) 时,使用标准的std::mapstd::unordered_map就足够了。当键的数量增加时,这些映射的表现就不那么好了: 我们想要考虑更快的容器。在本文中,我将尝试研究使用整数键实现映射并度量其性能的各种方法。

该代码在 Microsoft Visual C++ 14 CTP和GNU C++ 4.9 中进行了测试。

现有的map容器有问题吗?

现有的std::mapstd::unordered_map将元素分散到整个堆中,这将导致对元素的访问非常低效 (由于缓存丢失),特别是当它们的数量接近100,000时。这显然取决于元素的大小。衡量效率的两个主要标准可以是:

  • 随机存取的速度
  • 浏览整个列表的速度

另一个标准可能是元素创建和删除的速度。如果我们真的想实现高效的随机访问,我们可以用一个值数组替换map,并使用它的索引作为键。只要满足以下两个条件,就可以正常工作:

  • 对于给定的键值范围,有足够的内存空间容纳整个数组。
  • 我们要么不需要扫描所有的元素,要么对扫描的速度感到满意,如果值之间有很大的差距,可能就不会很快。

另一种选择是使用平面映射 (flat map),它不在C++ STL中,但在Boost中可用。平面映射是一个“键-值”对的排序数组,按键排序。平面映射的优点是它提供了按键顺序扫描元素的最快方式。它也是所有map中最紧凑的。但它存在以下问题:

  • 随机存取不是那么快。
  • 当元素的数量超过100,000时,添加和删除会非常缓慢。

我将尝试考虑一些其他方法,并根据已知的映射容器度量它们的性能。

提议的map容器

Flat Index Map

这个容器试图处理平面映射 (flat map) 的一些缺陷,方法是使用一个额外的std::vector<bool>类型的变量,该变量告诉我们平面映射中是否存在具有给定索引的元素。这种方法提高了随机访问的速度,因为当检查元素是否存在时,算法首先查看这个 vector,如果元素不存在,则无需进一步查看。当映射中有许多缺口 (gap) 时,这可以节省大量的时间。你必须付出的代价是std::vector<bool>的大小,它应该能够包含map中使用的所有可能的索引。

Unordered Index Map

这种映射类似于[2,3,4]中讨论的无序稀疏集。这个映射是用两个数组 (array) 实现的。一种称为密集 (dense) (无间隙),它包含“索引-值”对。另一个叫稀疏 (sparse),存在的元素的索引被包含在第二个数组中。规则是:

dense[sparse[i]].first = i

这个map提供了非常快速的扫描设施,因为密集数组 (dense array) 的性质——没有间隙。随机访问也相当快: dense[sparse[i]] 为你提供所需的键值对。这里的缺点是,密集数组的值不是有序的,映射需要大量的内存空间,这大致与映射中使用的索引范围成比例。

Sparse Map

这是一个有序映射,有点类似于无序索引映射 (unordered index map): 它由一个稀疏数组 (sparse array) 和一个密集列表 (dense list) (有序对) 组成。稀疏数组包含指向密集列表的指针 (实现为迭代器)。每次算法试图添加新元素时,都会将其放入密集列表中正确的位置,并在稀疏数组中设置相关的指针: 稀疏数组有助于提高效率。与无序索引映射相比,其优点是它是有序的。

Two-Level Map

两级映射试图通过使用 map-of-maps 方法来解决平面映射 (flat map) 生成的速度问题。在这个实现中,我使用了两个 flat map: 它们是最紧凑的。第一级 map 是第二级 map 的映射 (The first-level map is a map of second-level maps.)。每个二级 map 可以索引范围 [0-4095] 。与 flat map 相比,该 map 提供了更快的映射生成算法。

基准

一般评论

在这些基准测试中,我使用了各种映射 (map),其中索引的范围是固定的 [0;9999999]。元素的数量在20到10,000,000之间。每个元素由一个无符号键和一个双浮点值组成。

索引的范围影响了一些映射所需的内存大小。std::mapstd::unordered_map和平面映射 (flat map) 所使用的内存依赖于索引的可能范围: 它只依赖于映射中实际存在的元素。在某种程度上,这对两级映射 (two-level map) 来说也是如此: 但它增长的速度取决于范围。其他映射的内存使用在很大程度上取决于可能的索引范围。

map 生成

结果如图1所示。你可能会看到,平面映射 (flat map) 和平面索引映射 (flat index map) 的生成速度特别慢。两层映射 (two-level map) 不是最快的,但它设法让它“处于控制之下”。当元素数小于10000时,稀疏映射 (sparse map) 速度较慢,但当元素数增加时,稀疏映射开始超越其他映射。

随机存取

结果如图2所示。这里的“赢家”是: 稀疏映射 (sparse map)、无序索引映射 (unordered index map) 和std::unordered_map。平面索引映射在有很多缺失的时候表现得很好,但是当大部分缺失被填补时就开始变慢。你可能根据印象认为平面索引映射相当快: 当只处理成功命中时,它会很慢。

扫描整个范围的元素

结果的比较如图3所示。每次扫描所花费的时间除以元素的数量: 我们得到每个元素所花费的时间,单位是纳秒。这里的胜出者显然是:平面映射、平面索引映射和无序索引映射,因为它们使用成对的密集数组进行扫描。两层映射也很接近。当元素数量小于10,000时,稀疏映射和无序映射工作得相当好。

删除的元素

在某种程度上,删除映射的速度与生成映射的速度相似。例外是稀疏映射。结果如图4所示。这里最大的“输家”是平面映射和平面索引映射,以及生成速度的情况。

内存使用情况

图5显示了 [0;9999999] 范围内的内存使用情况。这里的“松散者”是稀疏映射、无序索引映射和平面索引映射。

结论

问题是:哪种映射是最好的? 答案并没有那么简单。如果你处理少于1000个元素,我也不会太在意。在这种情况下,平面映射可能是最有效的,而且非常紧凑,此外,它将提供最快的扫描算法。如果范围更大,问题是什么更重要:

  • 如果它是随机访问,那么你可以使用 std::unordered_map,稀疏映射或无序索引映射 (三个中只有稀疏映射是有序的);
  • 如果扫描更重要,那肯定是两级映射(平面映射的生成速度要慢得多)。

这篇关于Fast Implementations of Maps with Integer Keys in C++的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/723675

相关文章

C/C++中OpenCV 矩阵运算的实现

《C/C++中OpenCV矩阵运算的实现》本文主要介绍了C/C++中OpenCV矩阵运算的实现,包括基本算术运算(标量与矩阵)、矩阵乘法、转置、逆矩阵、行列式、迹、范数等操作,感兴趣的可以了解一下... 目录矩阵的创建与初始化创建矩阵访问矩阵元素基本的算术运算 ➕➖✖️➗矩阵与标量运算矩阵与矩阵运算 (逐元

C/C++的OpenCV 进行图像梯度提取的几种实现

《C/C++的OpenCV进行图像梯度提取的几种实现》本文主要介绍了C/C++的OpenCV进行图像梯度提取的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的... 目录预www.chinasem.cn备知识1. 图像加载与预处理2. Sobel 算子计算 X 和 Y

C/C++和OpenCV实现调用摄像头

《C/C++和OpenCV实现调用摄像头》本文主要介绍了C/C++和OpenCV实现调用摄像头,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一... 目录准备工作1. 打开摄像头2. 读取视频帧3. 显示视频帧4. 释放资源5. 获取和设置摄像头属性

c/c++的opencv图像金字塔缩放实现

《c/c++的opencv图像金字塔缩放实现》本文主要介绍了c/c++的opencv图像金字塔缩放实现,通过对原始图像进行连续的下采样或上采样操作,生成一系列不同分辨率的图像,具有一定的参考价值,感兴... 目录图像金字塔简介图像下采样 (cv::pyrDown)图像上采样 (cv::pyrUp)C++ O

c/c++的opencv实现图片膨胀

《c/c++的opencv实现图片膨胀》图像膨胀是形态学操作,通过结构元素扩张亮区填充孔洞、连接断开部分、加粗物体,OpenCV的cv::dilate函数实现该操作,本文就来介绍一下opencv图片... 目录什么是图像膨胀?结构元素 (KerChina编程nel)OpenCV 中的 cv::dilate() 函

C++ RabbitMq消息队列组件详解

《C++RabbitMq消息队列组件详解》:本文主要介绍C++RabbitMq消息队列组件的相关知识,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录1. RabbitMq介绍2. 安装RabbitMQ3. 安装 RabbitMQ 的 C++客户端库4. A

C++ HTTP框架推荐(特点及优势)

《C++HTTP框架推荐(特点及优势)》:本文主要介绍C++HTTP框架推荐的相关资料,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录1. Crow2. Drogon3. Pistache4. cpp-httplib5. Beast (Boos

C++类和对象之初始化列表的使用方式

《C++类和对象之初始化列表的使用方式》:本文主要介绍C++类和对象之初始化列表的使用方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录C++初始化列表详解:性能优化与正确实践什么是初始化列表?初始化列表的三大核心作用1. 性能优化:避免不必要的赋值操作2. 强

C++迭代器失效的避坑指南

《C++迭代器失效的避坑指南》在C++中,迭代器(iterator)是一种类似指针的对象,用于遍历STL容器(如vector、list、map等),迭代器失效是指在对容器进行某些操作后... 目录1. 什么是迭代器失效?2. 哪些操作会导致迭代器失效?2.1 vector 的插入操作(push_back,

pandas DataFrame keys的使用小结

《pandasDataFramekeys的使用小结》pandas.DataFrame.keys()方法返回DataFrame的列名,类似于字典的键,本文主要介绍了pandasDataFrameke... 目录Pandas2.2 DataFrameIndexing, iterationpandas.DataF