昇腾 - AscendCL C++应用开发 线程安全的队列

2024-08-21 08:52

本文主要是介绍昇腾 - AscendCL C++应用开发 线程安全的队列,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

昇腾 - AscendCL C++应用开发 线程安全的队列

flyfish

C++ mutex 各种各样的互斥锁 mutex、timed_mutex、recursive_mutex、shared_mutex
C++ 线程间同步的条件变量 std::condition_variable 和 std::condition_variable_any
C++提供的智能指针 unique_ptr、shared_ptr、weak_ptr
C++中的左值(lvalue)和 右值(rvalue),移动语义(move semantics)和完美转发(perfect forwarding)
std::thread非常详细的解释

在写推理视频代码时,需要线程安全的队列,例如可以一个线程存储视频帧,另一个线程取出帧,然后推理,再将推理结果写入另一个队列。

#ifndef THREAD_SAFE_QUEUE_H
#define THREAD_SAFE_QUEUE_H#include <mutex>
#include <queue>
#include <condition_variable>
#include <stdexcept>namespace aclcustom {template<typename T>
class ThreadSafeQueue {
public:explicit ThreadSafeQueue(uint32_t capacity = kDefaultQueueCapacity){if (capacity < kMinQueueCapacity) {queueCapacity = kDefaultQueueCapacity;} else if (capacity > kMaxQueueCapacity) {queueCapacity = kMaxQueueCapacity;} else {queueCapacity = capacity;}}~ThreadSafeQueue() = default;bool Push(T input_value){std::unique_lock<std::mutex> lock(mutex_);cond_full_.wait(lock, [this] { return queue_.size() < queueCapacity; });queue_.push(std::move(input_value));cond_empty_.notify_one();return true;}T Pop(){std::unique_lock<std::mutex> lock(mutex_);cond_empty_.wait(lock, [this] { return !queue_.empty(); });T tmp_ptr = std::move(queue_.front());queue_.pop();cond_full_.notify_one();return tmp_ptr;}bool Empty() const{std::lock_guard<std::mutex> lock(mutex_);return queue_.empty();}uint32_t Size() const{std::lock_guard<std::mutex> lock(mutex_);return queue_.size();}bool ExtendCapacity(uint32_t newSize) {std::lock_guard<std::mutex> lock(mutex_);if (newSize < queue_.size()) {return false;  // Indicate that the operation failed}queueCapacity = newSize;cond_full_.notify_all();  // Notify all producers if neededreturn true;  // Indicate that the operation succeeded}private:std::queue<T> queue_;uint32_t queueCapacity;mutable std::mutex mutex_;std::condition_variable cond_empty_;std::condition_variable cond_full_;static constexpr uint32_t kMinQueueCapacity = 1;static constexpr uint32_t kMaxQueueCapacity = 10000;static constexpr uint32_t kDefaultQueueCapacity = 10;
};}  // namespace aclcustom#endif /* THREAD_SAFE_QUEUE_H */

调用示例

#include "ThreadSafeQueue.h"
#include <iostream>
#include <thread>void producer(aclcustom::ThreadSafeQueue<int>& queue) {for (int i = 0; i < 10; ++i) {queue.Push(i);std::cout << "Produced: " << i << std::endl;}
}void consumer(aclcustom::ThreadSafeQueue<int>& queue) {for (int i = 0; i < 10; ++i) {int value = queue.Pop();std::cout << "Consumed: " << value << std::endl;}
}int main() {aclcustom::ThreadSafeQueue<int> queue(100001); // This will be clamped to 10000std::thread producer_thread(producer, std::ref(queue));std::thread consumer_thread(consumer, std::ref(queue));producer_thread.join();consumer_thread.join();return 0;
}

队列容量

如果传入的 capacity 小于 kMinQueueCapacity,队列容量会设置为 kDefaultQueueCapacity
如果 capacity 超过了 kMaxQueueCapacity,队列容量会被限制在 kMaxQueueCapacity
否则,容量按用户输入的 capacity 设置。确保了队列的容量始终在合理的范围内,不会超出预设的最大容量,也不会过小。

Push 方法

Push 方法负责将新元素插入队列中:
使用 std::unique_lock 锁住互斥量 mutex_ 以保护共享数据。
使用 cond_full_ 条件变量等待队列有空间可供插入,如果队列已满,生产者线程会阻塞在这里,直到有空间释放。
插入元素后,使用 cond_empty_ 条件变量通知至少一个等待的消费者线程,表明队列中有数据可供消费。

Pop 方法

Pop 方法用于从队列中取出元素:
同样使用 std::unique_lock 锁住互斥量。
使用 cond_empty_ 条件变量等待队列中有数据可供消费,如果队列为空,消费者线程会阻塞在这里,直到有数据被插入。
取出元素后,使用 cond_full_ 条件变量通知至少一个等待的生产者线程,表明队列中有空间可供插入新数据。

Empty 方法

Empty 方法检查队列是否为空,使用 std::lock_guard 进行加锁,提供快速访问:

Size 方法

Size 方法返回当前队列的大小,也使用 std::lock_guard 进行加锁:

ExtendCapacity 方法

ExtendCapacity 方法允许动态调整队列容量:
如果新容量小于当前队列大小,可以返回一个错误代码或状态,表示扩容失败
更新容量后,通知所有等待的生产者线程以便他们可以继续插入数据。

线程通知机制

通过使用 std::condition_variable,我们实现了生产者和消费者之间的同步:
当队列满时,生产者线程等待空间释放。
当队列空时,消费者线程等待数据生成。
这种机制有效避免了不必要的忙等待(Busy Waiting),从而减少了 CPU 占用。
线程间同步std::condition_variable 用于让一个或多个线程等待,直到另一个线程发出某种信号或条件满足时,才会被唤醒继续执行。通常与 std::mutex 一起使用,保证条件判断和线程唤醒的原子性。

避免忙等待 :在没有 std::condition_variable 的情况下,线程可能会通过循环不断检查某个条件是否满足,这会消耗大量的 CPU 资源。std::condition_variable 允许线程在条件不满足时进入等待状态,不占用 CPU,直到条件满足时才被唤醒。

这篇关于昇腾 - AscendCL C++应用开发 线程安全的队列的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1092693

相关文章

Spring Boot集成/输出/日志级别控制/持久化开发实践

《SpringBoot集成/输出/日志级别控制/持久化开发实践》SpringBoot默认集成Logback,支持灵活日志级别配置(INFO/DEBUG等),输出包含时间戳、级别、类名等信息,并可通过... 目录一、日志概述1.1、Spring Boot日志简介1.2、日志框架与默认配置1.3、日志的核心作用

Python标准库之数据压缩和存档的应用详解

《Python标准库之数据压缩和存档的应用详解》在数据处理与存储领域,压缩和存档是提升效率的关键技术,Python标准库提供了一套完整的工具链,下面小编就来和大家简单介绍一下吧... 目录一、核心模块架构与设计哲学二、关键模块深度解析1.tarfile:专业级归档工具2.zipfile:跨平台归档首选3.

使用IDEA部署Docker应用指南分享

《使用IDEA部署Docker应用指南分享》本文介绍了使用IDEA部署Docker应用的四步流程:创建Dockerfile、配置IDEADocker连接、设置运行调试环境、构建运行镜像,并强调需准备本... 目录一、创建 dockerfile 配置文件二、配置 IDEA 的 Docker 连接三、配置 Do

深入浅出SpringBoot WebSocket构建实时应用全面指南

《深入浅出SpringBootWebSocket构建实时应用全面指南》WebSocket是一种在单个TCP连接上进行全双工通信的协议,这篇文章主要为大家详细介绍了SpringBoot如何集成WebS... 目录前言为什么需要 WebSocketWebSocket 是什么Spring Boot 如何简化 We

Java Stream流之GroupBy的用法及应用场景

《JavaStream流之GroupBy的用法及应用场景》本教程将详细介绍如何在Java中使用Stream流的groupby方法,包括基本用法和一些常见的实际应用场景,感兴趣的朋友一起看看吧... 目录Java Stream流之GroupBy的用法1. 前言2. 基础概念什么是 GroupBy?Stream

python中列表应用和扩展性实用详解

《python中列表应用和扩展性实用详解》文章介绍了Python列表的核心特性:有序数据集合,用[]定义,元素类型可不同,支持迭代、循环、切片,可执行增删改查、排序、推导式及嵌套操作,是常用的数据处理... 目录1、列表定义2、格式3、列表是可迭代对象4、列表的常见操作总结1、列表定义是处理一组有序项目的

C++11范围for初始化列表auto decltype详解

《C++11范围for初始化列表autodecltype详解》C++11引入auto类型推导、decltype类型推断、统一列表初始化、范围for循环及智能指针,提升代码简洁性、类型安全与资源管理效... 目录C++11新特性1. 自动类型推导auto1.1 基本语法2. decltype3. 列表初始化3

C++11右值引用与Lambda表达式的使用

《C++11右值引用与Lambda表达式的使用》C++11引入右值引用,实现移动语义提升性能,支持资源转移与完美转发;同时引入Lambda表达式,简化匿名函数定义,通过捕获列表和参数列表灵活处理变量... 目录C++11新特性右值引用和移动语义左值 / 右值常见的左值和右值移动语义移动构造函数移动复制运算符

PyQt5 GUI 开发的基础知识

《PyQt5GUI开发的基础知识》Qt是一个跨平台的C++图形用户界面开发框架,支持GUI和非GUI程序开发,本文介绍了使用PyQt5进行界面开发的基础知识,包括创建简单窗口、常用控件、窗口属性设... 目录简介第一个PyQt程序最常用的三个功能模块控件QPushButton(按钮)控件QLable(纯文本

C#中的Converter的具体应用

《C#中的Converter的具体应用》C#中的Converter提供了一种灵活的类型转换机制,本文详细介绍了Converter的基本概念、使用场景,具有一定的参考价值,感兴趣的可以了解一下... 目录Converter的基本概念1. Converter委托2. 使用场景布尔型转换示例示例1:简单的字符串到