昇腾 - AscendCL C++应用开发 线程安全的队列

2024-08-21 08:52

本文主要是介绍昇腾 - AscendCL C++应用开发 线程安全的队列,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

昇腾 - AscendCL C++应用开发 线程安全的队列

flyfish

C++ mutex 各种各样的互斥锁 mutex、timed_mutex、recursive_mutex、shared_mutex
C++ 线程间同步的条件变量 std::condition_variable 和 std::condition_variable_any
C++提供的智能指针 unique_ptr、shared_ptr、weak_ptr
C++中的左值(lvalue)和 右值(rvalue),移动语义(move semantics)和完美转发(perfect forwarding)
std::thread非常详细的解释

在写推理视频代码时,需要线程安全的队列,例如可以一个线程存储视频帧,另一个线程取出帧,然后推理,再将推理结果写入另一个队列。

#ifndef THREAD_SAFE_QUEUE_H
#define THREAD_SAFE_QUEUE_H#include <mutex>
#include <queue>
#include <condition_variable>
#include <stdexcept>namespace aclcustom {template<typename T>
class ThreadSafeQueue {
public:explicit ThreadSafeQueue(uint32_t capacity = kDefaultQueueCapacity){if (capacity < kMinQueueCapacity) {queueCapacity = kDefaultQueueCapacity;} else if (capacity > kMaxQueueCapacity) {queueCapacity = kMaxQueueCapacity;} else {queueCapacity = capacity;}}~ThreadSafeQueue() = default;bool Push(T input_value){std::unique_lock<std::mutex> lock(mutex_);cond_full_.wait(lock, [this] { return queue_.size() < queueCapacity; });queue_.push(std::move(input_value));cond_empty_.notify_one();return true;}T Pop(){std::unique_lock<std::mutex> lock(mutex_);cond_empty_.wait(lock, [this] { return !queue_.empty(); });T tmp_ptr = std::move(queue_.front());queue_.pop();cond_full_.notify_one();return tmp_ptr;}bool Empty() const{std::lock_guard<std::mutex> lock(mutex_);return queue_.empty();}uint32_t Size() const{std::lock_guard<std::mutex> lock(mutex_);return queue_.size();}bool ExtendCapacity(uint32_t newSize) {std::lock_guard<std::mutex> lock(mutex_);if (newSize < queue_.size()) {return false;  // Indicate that the operation failed}queueCapacity = newSize;cond_full_.notify_all();  // Notify all producers if neededreturn true;  // Indicate that the operation succeeded}private:std::queue<T> queue_;uint32_t queueCapacity;mutable std::mutex mutex_;std::condition_variable cond_empty_;std::condition_variable cond_full_;static constexpr uint32_t kMinQueueCapacity = 1;static constexpr uint32_t kMaxQueueCapacity = 10000;static constexpr uint32_t kDefaultQueueCapacity = 10;
};}  // namespace aclcustom#endif /* THREAD_SAFE_QUEUE_H */

调用示例

#include "ThreadSafeQueue.h"
#include <iostream>
#include <thread>void producer(aclcustom::ThreadSafeQueue<int>& queue) {for (int i = 0; i < 10; ++i) {queue.Push(i);std::cout << "Produced: " << i << std::endl;}
}void consumer(aclcustom::ThreadSafeQueue<int>& queue) {for (int i = 0; i < 10; ++i) {int value = queue.Pop();std::cout << "Consumed: " << value << std::endl;}
}int main() {aclcustom::ThreadSafeQueue<int> queue(100001); // This will be clamped to 10000std::thread producer_thread(producer, std::ref(queue));std::thread consumer_thread(consumer, std::ref(queue));producer_thread.join();consumer_thread.join();return 0;
}

队列容量

如果传入的 capacity 小于 kMinQueueCapacity,队列容量会设置为 kDefaultQueueCapacity
如果 capacity 超过了 kMaxQueueCapacity,队列容量会被限制在 kMaxQueueCapacity
否则,容量按用户输入的 capacity 设置。确保了队列的容量始终在合理的范围内,不会超出预设的最大容量,也不会过小。

Push 方法

Push 方法负责将新元素插入队列中:
使用 std::unique_lock 锁住互斥量 mutex_ 以保护共享数据。
使用 cond_full_ 条件变量等待队列有空间可供插入,如果队列已满,生产者线程会阻塞在这里,直到有空间释放。
插入元素后,使用 cond_empty_ 条件变量通知至少一个等待的消费者线程,表明队列中有数据可供消费。

Pop 方法

Pop 方法用于从队列中取出元素:
同样使用 std::unique_lock 锁住互斥量。
使用 cond_empty_ 条件变量等待队列中有数据可供消费,如果队列为空,消费者线程会阻塞在这里,直到有数据被插入。
取出元素后,使用 cond_full_ 条件变量通知至少一个等待的生产者线程,表明队列中有空间可供插入新数据。

Empty 方法

Empty 方法检查队列是否为空,使用 std::lock_guard 进行加锁,提供快速访问:

Size 方法

Size 方法返回当前队列的大小,也使用 std::lock_guard 进行加锁:

ExtendCapacity 方法

ExtendCapacity 方法允许动态调整队列容量:
如果新容量小于当前队列大小,可以返回一个错误代码或状态,表示扩容失败
更新容量后,通知所有等待的生产者线程以便他们可以继续插入数据。

线程通知机制

通过使用 std::condition_variable,我们实现了生产者和消费者之间的同步:
当队列满时,生产者线程等待空间释放。
当队列空时,消费者线程等待数据生成。
这种机制有效避免了不必要的忙等待(Busy Waiting),从而减少了 CPU 占用。
线程间同步std::condition_variable 用于让一个或多个线程等待,直到另一个线程发出某种信号或条件满足时,才会被唤醒继续执行。通常与 std::mutex 一起使用,保证条件判断和线程唤醒的原子性。

避免忙等待 :在没有 std::condition_variable 的情况下,线程可能会通过循环不断检查某个条件是否满足,这会消耗大量的 CPU 资源。std::condition_variable 允许线程在条件不满足时进入等待状态,不占用 CPU,直到条件满足时才被唤醒。

这篇关于昇腾 - AscendCL C++应用开发 线程安全的队列的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1092693

相关文章

SpringBoot中四种AOP实战应用场景及代码实现

《SpringBoot中四种AOP实战应用场景及代码实现》面向切面编程(AOP)是Spring框架的核心功能之一,它通过预编译和运行期动态代理实现程序功能的统一维护,在SpringBoot应用中,AO... 目录引言场景一:日志记录与性能监控业务需求实现方案使用示例扩展:MDC实现请求跟踪场景二:权限控制与

Android开发环境配置避坑指南

《Android开发环境配置避坑指南》本文主要介绍了Android开发环境配置过程中遇到的问题及解决方案,包括VPN注意事项、工具版本统一、Gerrit邮箱配置、Git拉取和提交代码、MergevsR... 目录网络环境:VPN 注意事项工具版本统一:android Studio & JDKGerrit的邮

Python开发文字版随机事件游戏的项目实例

《Python开发文字版随机事件游戏的项目实例》随机事件游戏是一种通过生成不可预测的事件来增强游戏体验的类型,在这篇博文中,我们将使用Python开发一款文字版随机事件游戏,通过这个项目,读者不仅能够... 目录项目概述2.1 游戏概念2.2 游戏特色2.3 目标玩家群体技术选择与环境准备3.1 开发环境3

C#如何调用C++库

《C#如何调用C++库》:本文主要介绍C#如何调用C++库方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录方法一:使用P/Invoke1. 导出C++函数2. 定义P/Invoke签名3. 调用C++函数方法二:使用C++/CLI作为桥接1. 创建C++/CL

C语言中位操作的实际应用举例

《C语言中位操作的实际应用举例》:本文主要介绍C语言中位操作的实际应用,总结了位操作的使用场景,并指出了需要注意的问题,如可读性、平台依赖性和溢出风险,文中通过代码介绍的非常详细,需要的朋友可以参... 目录1. 嵌入式系统与硬件寄存器操作2. 网络协议解析3. 图像处理与颜色编码4. 高效处理布尔标志集合

Go语言开发实现查询IP信息的MCP服务器

《Go语言开发实现查询IP信息的MCP服务器》随着MCP的快速普及和广泛应用,MCP服务器也层出不穷,本文将详细介绍如何在Go语言中使用go-mcp库来开发一个查询IP信息的MCP... 目录前言mcp-ip-geo 服务器目录结构说明查询 IP 信息功能实现工具实现工具管理查询单个 IP 信息工具的实现服

JAVA保证HashMap线程安全的几种方式

《JAVA保证HashMap线程安全的几种方式》HashMap是线程不安全的,这意味着如果多个线程并发地访问和修改同一个HashMap实例,可能会导致数据不一致和其他线程安全问题,本文主要介绍了JAV... 目录1. 使用 Collections.synchronizedMap2. 使用 Concurren

Java的栈与队列实现代码解析

《Java的栈与队列实现代码解析》栈是常见的线性数据结构,栈的特点是以先进后出的形式,后进先出,先进后出,分为栈底和栈顶,栈应用于内存的分配,表达式求值,存储临时的数据和方法的调用等,本文给大家介绍J... 目录栈的概念(Stack)栈的实现代码队列(Queue)模拟实现队列(双链表实现)循环队列(循环数组

C++如何通过Qt反射机制实现数据类序列化

《C++如何通过Qt反射机制实现数据类序列化》在C++工程中经常需要使用数据类,并对数据类进行存储、打印、调试等操作,所以本文就来聊聊C++如何通过Qt反射机制实现数据类序列化吧... 目录设计预期设计思路代码实现使用方法在 C++ 工程中经常需要使用数据类,并对数据类进行存储、打印、调试等操作。由于数据类

Java中的Lambda表达式及其应用小结

《Java中的Lambda表达式及其应用小结》Java中的Lambda表达式是一项极具创新性的特性,它使得Java代码更加简洁和高效,尤其是在集合操作和并行处理方面,:本文主要介绍Java中的La... 目录前言1. 什么是Lambda表达式?2. Lambda表达式的基本语法例子1:最简单的Lambda表