昇腾 - AscendCL C++应用开发 线程安全的队列

2024-08-21 08:52

本文主要是介绍昇腾 - AscendCL C++应用开发 线程安全的队列,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

昇腾 - AscendCL C++应用开发 线程安全的队列

flyfish

C++ mutex 各种各样的互斥锁 mutex、timed_mutex、recursive_mutex、shared_mutex
C++ 线程间同步的条件变量 std::condition_variable 和 std::condition_variable_any
C++提供的智能指针 unique_ptr、shared_ptr、weak_ptr
C++中的左值(lvalue)和 右值(rvalue),移动语义(move semantics)和完美转发(perfect forwarding)
std::thread非常详细的解释

在写推理视频代码时,需要线程安全的队列,例如可以一个线程存储视频帧,另一个线程取出帧,然后推理,再将推理结果写入另一个队列。

#ifndef THREAD_SAFE_QUEUE_H
#define THREAD_SAFE_QUEUE_H#include <mutex>
#include <queue>
#include <condition_variable>
#include <stdexcept>namespace aclcustom {template<typename T>
class ThreadSafeQueue {
public:explicit ThreadSafeQueue(uint32_t capacity = kDefaultQueueCapacity){if (capacity < kMinQueueCapacity) {queueCapacity = kDefaultQueueCapacity;} else if (capacity > kMaxQueueCapacity) {queueCapacity = kMaxQueueCapacity;} else {queueCapacity = capacity;}}~ThreadSafeQueue() = default;bool Push(T input_value){std::unique_lock<std::mutex> lock(mutex_);cond_full_.wait(lock, [this] { return queue_.size() < queueCapacity; });queue_.push(std::move(input_value));cond_empty_.notify_one();return true;}T Pop(){std::unique_lock<std::mutex> lock(mutex_);cond_empty_.wait(lock, [this] { return !queue_.empty(); });T tmp_ptr = std::move(queue_.front());queue_.pop();cond_full_.notify_one();return tmp_ptr;}bool Empty() const{std::lock_guard<std::mutex> lock(mutex_);return queue_.empty();}uint32_t Size() const{std::lock_guard<std::mutex> lock(mutex_);return queue_.size();}bool ExtendCapacity(uint32_t newSize) {std::lock_guard<std::mutex> lock(mutex_);if (newSize < queue_.size()) {return false;  // Indicate that the operation failed}queueCapacity = newSize;cond_full_.notify_all();  // Notify all producers if neededreturn true;  // Indicate that the operation succeeded}private:std::queue<T> queue_;uint32_t queueCapacity;mutable std::mutex mutex_;std::condition_variable cond_empty_;std::condition_variable cond_full_;static constexpr uint32_t kMinQueueCapacity = 1;static constexpr uint32_t kMaxQueueCapacity = 10000;static constexpr uint32_t kDefaultQueueCapacity = 10;
};}  // namespace aclcustom#endif /* THREAD_SAFE_QUEUE_H */

调用示例

#include "ThreadSafeQueue.h"
#include <iostream>
#include <thread>void producer(aclcustom::ThreadSafeQueue<int>& queue) {for (int i = 0; i < 10; ++i) {queue.Push(i);std::cout << "Produced: " << i << std::endl;}
}void consumer(aclcustom::ThreadSafeQueue<int>& queue) {for (int i = 0; i < 10; ++i) {int value = queue.Pop();std::cout << "Consumed: " << value << std::endl;}
}int main() {aclcustom::ThreadSafeQueue<int> queue(100001); // This will be clamped to 10000std::thread producer_thread(producer, std::ref(queue));std::thread consumer_thread(consumer, std::ref(queue));producer_thread.join();consumer_thread.join();return 0;
}

队列容量

如果传入的 capacity 小于 kMinQueueCapacity,队列容量会设置为 kDefaultQueueCapacity
如果 capacity 超过了 kMaxQueueCapacity,队列容量会被限制在 kMaxQueueCapacity
否则,容量按用户输入的 capacity 设置。确保了队列的容量始终在合理的范围内,不会超出预设的最大容量,也不会过小。

Push 方法

Push 方法负责将新元素插入队列中:
使用 std::unique_lock 锁住互斥量 mutex_ 以保护共享数据。
使用 cond_full_ 条件变量等待队列有空间可供插入,如果队列已满,生产者线程会阻塞在这里,直到有空间释放。
插入元素后,使用 cond_empty_ 条件变量通知至少一个等待的消费者线程,表明队列中有数据可供消费。

Pop 方法

Pop 方法用于从队列中取出元素:
同样使用 std::unique_lock 锁住互斥量。
使用 cond_empty_ 条件变量等待队列中有数据可供消费,如果队列为空,消费者线程会阻塞在这里,直到有数据被插入。
取出元素后,使用 cond_full_ 条件变量通知至少一个等待的生产者线程,表明队列中有空间可供插入新数据。

Empty 方法

Empty 方法检查队列是否为空,使用 std::lock_guard 进行加锁,提供快速访问:

Size 方法

Size 方法返回当前队列的大小,也使用 std::lock_guard 进行加锁:

ExtendCapacity 方法

ExtendCapacity 方法允许动态调整队列容量:
如果新容量小于当前队列大小,可以返回一个错误代码或状态,表示扩容失败
更新容量后,通知所有等待的生产者线程以便他们可以继续插入数据。

线程通知机制

通过使用 std::condition_variable,我们实现了生产者和消费者之间的同步:
当队列满时,生产者线程等待空间释放。
当队列空时,消费者线程等待数据生成。
这种机制有效避免了不必要的忙等待(Busy Waiting),从而减少了 CPU 占用。
线程间同步std::condition_variable 用于让一个或多个线程等待,直到另一个线程发出某种信号或条件满足时,才会被唤醒继续执行。通常与 std::mutex 一起使用,保证条件判断和线程唤醒的原子性。

避免忙等待 :在没有 std::condition_variable 的情况下,线程可能会通过循环不断检查某个条件是否满足,这会消耗大量的 CPU 资源。std::condition_variable 允许线程在条件不满足时进入等待状态,不占用 CPU,直到条件满足时才被唤醒。

这篇关于昇腾 - AscendCL C++应用开发 线程安全的队列的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1092693

相关文章

C++中unordered_set哈希集合的实现

《C++中unordered_set哈希集合的实现》std::unordered_set是C++标准库中的无序关联容器,基于哈希表实现,具有元素唯一性和无序性特点,本文就来详细的介绍一下unorder... 目录一、概述二、头文件与命名空间三、常用方法与示例1. 构造与析构2. 迭代器与遍历3. 容量相关4

C++中悬垂引用(Dangling Reference) 的实现

《C++中悬垂引用(DanglingReference)的实现》C++中的悬垂引用指引用绑定的对象被销毁后引用仍存在的情况,会导致访问无效内存,下面就来详细的介绍一下产生的原因以及如何避免,感兴趣... 目录悬垂引用的产生原因1. 引用绑定到局部变量,变量超出作用域后销毁2. 引用绑定到动态分配的对象,对象

JDK21对虚拟线程的几种用法实践指南

《JDK21对虚拟线程的几种用法实践指南》虚拟线程是Java中的一种轻量级线程,由JVM管理,特别适合于I/O密集型任务,:本文主要介绍JDK21对虚拟线程的几种用法,文中通过代码介绍的非常详细,... 目录一、参考官方文档二、什么是虚拟线程三、几种用法1、Thread.ofVirtual().start(

Java 虚拟线程的创建与使用深度解析

《Java虚拟线程的创建与使用深度解析》虚拟线程是Java19中以预览特性形式引入,Java21起正式发布的轻量级线程,本文给大家介绍Java虚拟线程的创建与使用,感兴趣的朋友一起看看吧... 目录一、虚拟线程简介1.1 什么是虚拟线程?1.2 为什么需要虚拟线程?二、虚拟线程与平台线程对比代码对比示例:三

一文详解Python如何开发游戏

《一文详解Python如何开发游戏》Python是一种非常流行的编程语言,也可以用来开发游戏模组,:本文主要介绍Python如何开发游戏的相关资料,文中通过代码介绍的非常详细,需要的朋友可以参考下... 目录一、python简介二、Python 开发 2D 游戏的优劣势优势缺点三、Python 开发 3D

基于Python开发Windows自动更新控制工具

《基于Python开发Windows自动更新控制工具》在当今数字化时代,操作系统更新已成为计算机维护的重要组成部分,本文介绍一款基于Python和PyQt5的Windows自动更新控制工具,有需要的可... 目录设计原理与技术实现系统架构概述数学建模工具界面完整代码实现技术深度分析多层级控制理论服务层控制注

Java 线程池+分布式实现代码

《Java线程池+分布式实现代码》在Java开发中,池通过预先创建并管理一定数量的资源,避免频繁创建和销毁资源带来的性能开销,从而提高系统效率,:本文主要介绍Java线程池+分布式实现代码,需要... 目录1. 线程池1.1 自定义线程池实现1.1.1 线程池核心1.1.2 代码示例1.2 总结流程2. J

利用Python操作Word文档页码的实际应用

《利用Python操作Word文档页码的实际应用》在撰写长篇文档时,经常需要将文档分成多个节,每个节都需要单独的页码,下面:本文主要介绍利用Python操作Word文档页码的相关资料,文中通过代码... 目录需求:文档详情:要求:该程序的功能是:总结需求:一次性处理24个文档的页码。文档详情:1、每个

Java JUC并发集合详解之线程安全容器完全攻略

《JavaJUC并发集合详解之线程安全容器完全攻略》Java通过java.util.concurrent(JUC)包提供了一整套线程安全的并发容器,它们不仅是简单的同步包装,更是基于精妙并发算法构建... 目录一、为什么需要JUC并发集合?二、核心并发集合分类与详解三、选型指南:如何选择合适的并发容器?在多

C++读写word文档(.docx)DuckX库的使用详解

《C++读写word文档(.docx)DuckX库的使用详解》DuckX是C++库,用于创建/编辑.docx文件,支持读取文档、添加段落/片段、编辑表格,解决中文乱码需更改编码方案,进阶功能含文本替换... 目录一、基本用法1. 读取文档3. 添加段落4. 添加片段3. 编辑表格二、进阶用法1. 文本替换2