windows C++ 并行编程-使用 加速器 对象(上)

2024-09-05 05:52

本文主要是介绍windows C++ 并行编程-使用 加速器 对象(上),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

可以使用 accelerator 和 accelerator_view 类指定要运行 C++ AMP 代码的设备或仿真器。 系统可能有多个设备或仿真器,它们在内存量、共享内存支持、调试支持或双精度支持方面有所不同。 C++ Accelerated Massive Parallelism (C++ AMP) 提供可用于检查可用加速器、将一个加速器设置为默认加速器、为多个 parallel_for_each 调用指定多个 accelerator_view 并执行特殊调试任务的 API。

使用默认加速器

除非编写代码以选取特定加速器,否则 C++ AMP 运行时会选取默认加速器。 运行时按如下所示选择默认加速器:

  • 如果应用在调试模式下运行,则是支持调试的加速器。
  • 否则是由 CPPAMP_DEFAULT_ACCELERATOR 环境变量(如果已设置)指定的加速器。
  • 否则是非仿真设备。
  • 否则是具有最大可用内存量的设备。
  • 否则是未附加到显示的设备。

此外,运行时会为默认加速器将 access_type 指定为 access_type_auto。 这意味着,如果共享内存受支持并且其性能特征(带宽和延迟)已知与专用(非共享)内存相同,则默认加速器会使用共享内存。

可以通过构造默认加速器并检查其属性来确定默认加速器的属性。 下面的代码示例会打印默认加速器的路径、加速器内存量、共享内存支持、双精度支持以及有限双精度支持。

void default_properties() {accelerator default_acc;std::wcout << default_acc.device_path << "\n";std::wcout << default_acc.dedicated_memory << "\n";std::wcout << (accs[i].supports_cpu_shared_memory ?"CPU shared memory: true" : "CPU shared memory: false") << "\n";std::wcout << (accs[i].supports_double_precision ?"double precision: true" : "double precision: false") << "\n";std::wcout << (accs[i].supports_limited_double_precision ?"limited double precision: true" : "limited double precision: false") << "\n";
}
CPPAMP_DEFAULT_ACCELERATOR 环境变量

可以设置 CPPAMP_DEFAULT_ACCELERATOR 环境变量以指定默认加速器的 accelerator::device_path。 路径依赖于硬件。 以下代码使用 accelerator::get_all 函数检索可用加速器的列表,然后显示每个加速器的路径和特征。

void list_all_accelerators()
{std::vector<accelerator> accs = accelerator::get_all();for (int i = 0; i <accs.size(); i++) {std::wcout << accs[i].device_path << "\n";std::wcout << accs[i].dedicated_memory << "\n";std::wcout << (accs[i].supports_cpu_shared_memory ?"CPU shared memory: true" : "CPU shared memory: false") << "\n";std::wcout << (accs[i].supports_double_precision ?"double precision: true" : "double precision: false") << "\n";std::wcout << (accs[i].supports_limited_double_precision ?"limited double precision: true" : "limited double precision: false") << "\n";}
}
选择加速器

若要选择加速器,请使用 accelerator::get_all 方法检索可用加速器的列表,然后基于其属性选择一个加速器。 此示例演示如何选取内存最多的加速器:

void pick_with_most_memory()
{std::vector<accelerator> accs = accelerator::get_all();accelerator acc_chosen = accs[0];for (int i = 0; i <accs.size(); i++) {if (accs[i].dedicated_memory> acc_chosen.dedicated_memory) {acc_chosen = accs[i];}}std::wcout << "The accelerator with the most memory is "<< acc_chosen.device_path << "\n"<< acc_chosen.dedicated_memory << ".\n";
}

accelerator::get_all 返回的加速器之一是 CPU 加速器。 无法在 CPU 加速器上执行代码。 若要筛选出 CPU 加速器,请将 accelerator::get_all 返回的加速器的 device_path 属性值与 accelerator::cpu_accelerator 的值进行比较。

Shared Memory

共享内存是 CPU 和加速器都可以访问的内存。 使用共享内存可以消除或显著减少在 CPU 和加速器之间复制数据的开销。 尽管内存是共享的,但 CPU 和加速器不能同时访问它,因为这样做会导致未定义的行为。 如果加速器支持共享内存,则加速器属性 supports_cpu_shared_memory 返回 true,并且 default_cpu_access_type 属性会获取在 accelerator 上分配的内存的默认 access_type(例如,与在 accelerator 上访问的 accelerator 或 array_view 对象关联的数组)。

C++ AMP 运行时会自动为每个 accelerator 选择最佳默认 access_type,但是在从 CPU 读取、从 CPU 写入或同时执行两种操作时,共享内存的性能特征(带宽和延迟)比专用(非共享)加速器内存的性能特征更差。 如果对于从 CPU 读取和写入,共享内存的性能与专用内存一样好,则运行时默认为 access_type_read_write;否则,运行时会选择更保守的默认值 access_type,并允许应用在计算内核的内存访问模式受益于其他 access_type 时替代它。

下面的代码示例演示如何确定默认加速器是否支持共享内存,然后替代其默认访问类型并从中创建 accelerator_view。

#include <amp.h>
#include <iostream>using namespace Concurrency;int main()
{accelerator acc = accelerator(accelerator::default_accelerator);// Early out if the default accelerator doesn't support shared memory.if (!acc.supports_cpu_shared_memory){std::cout << "The default accelerator does not support shared memory" << std::endl;return 1;}// Override the default CPU access type.acc.set_default_cpu_access_type(access_type_read_write);// Create an accelerator_view from the default accelerator. The// accelerator_view reflects the default_cpu_access_type of the// accelerator it's associated with.accelerator_view acc_v = acc.default_view;
}

 accelerator_view 始终反映与其关联的 accelerator 的 default_cpu_access_type,它不提供任何接口来替代或更改其 access_type。

更改默认加速器

可以通过调用 accelerator::set_default 方法来更改默认加速器。 每次应用执行时只能更改默认加速器一次,并且必须先更改它,然后才能在 GPU 上执行任何代码。 用于更改加速器的任何后续函数调用会返回 false。 如果要在 parallel_for_each 调用中使用其他加速器,请阅读本文中的“使用多个加速器”部分。 下面的代码示例将默认加速器设置为未仿真、未连接到显示器且支持双精度的加速器。

bool pick_accelerator()
{std::vector<accelerator> accs = accelerator::get_all();accelerator chosen_one;auto result = std::find_if(accs.begin(), accs.end(),[] (const accelerator& acc) {return !acc.is_emulated &&acc.supports_double_precision &&!acc.has_display;});if (result != accs.end()) {chosen_one = *(result);}std::wcout <<chosen_one.description <<std::endl;bool success = accelerator::set_default(chosen_one.device_path);return success;
}
使用多个加速器

可通过两种方法在应用中使用多个加速器:

  • 可以将 accelerator_view 对象传递给对 parallel_for_each 方法的调用;
  • 可以使用特定 accelerator_view 对象构造数组对象。 C+AMP 运行时会从 lambda 表达式中捕获的数组对象中选取 accelerator_view 对象;
特殊加速器

三个特殊加速器的设备路径可用作 accelerator 类的属性:

  • accelerator::direct3d_ref 数据成员:此单线程加速器在 CPU 上使用软件来仿真通用图形卡。 它在默认情况下用于调试,但它不用于生产环境,因为它比硬件加速器更慢。 此外,它仅在 DirectX SDK 和 Windows SDK 中可用,不太可能安装在客户的计算机上;
  • accelerator::direct3d_warp 数据成员:此加速器提供一个回退解决方案,用于在使用流式处理 SIMD 扩展 (SSE) 的多核 CPU 执行 C++ AMP 代码;
  • accelerator::cpu_accelerator 数据成员:可以使用此加速器设置暂存数组。 它无法执行 C++ AMP 代码;
互操作性

C++ AMP 运行时支持 accelerator_view 类与 Direct3D ID3D11Device 接口之间的互操作性。 create_accelerator_view 方法采用 IUnknown 接口,并返回 accelerator_view 对象。 get_device 方法采用 accelerator_view 对象,并返回 IUnknown 接口。

这篇关于windows C++ 并行编程-使用 加速器 对象(上)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1138126

相关文章

C++右移运算符的一个小坑及解决

《C++右移运算符的一个小坑及解决》文章指出右移运算符处理负数时左侧补1导致死循环,与除法行为不同,强调需注意补码机制以正确统计二进制1的个数... 目录我遇到了这么一个www.chinasem.cn函数由此可以看到也很好理解总结我遇到了这么一个函数template<typename T>unsigned

Python使用FastAPI实现大文件分片上传与断点续传功能

《Python使用FastAPI实现大文件分片上传与断点续传功能》大文件直传常遇到超时、网络抖动失败、失败后只能重传的问题,分片上传+断点续传可以把大文件拆成若干小块逐个上传,并在中断后从已完成分片继... 目录一、接口设计二、服务端实现(FastAPI)2.1 运行环境2.2 目录结构建议2.3 serv

Spring Security简介、使用与最佳实践

《SpringSecurity简介、使用与最佳实践》SpringSecurity是一个能够为基于Spring的企业应用系统提供声明式的安全访问控制解决方案的安全框架,本文给大家介绍SpringSec... 目录一、如何理解 Spring Security?—— 核心思想二、如何在 Java 项目中使用?——

springboot中使用okhttp3的小结

《springboot中使用okhttp3的小结》OkHttp3是一个JavaHTTP客户端,可以处理各种请求类型,比如GET、POST、PUT等,并且支持高效的HTTP连接池、请求和响应缓存、以及异... 在 Spring Boot 项目中使用 OkHttp3 进行 HTTP 请求是一个高效且流行的方式。

MySQL的JDBC编程详解

《MySQL的JDBC编程详解》:本文主要介绍MySQL的JDBC编程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录前言一、前置知识1. 引入依赖2. 认识 url二、JDBC 操作流程1. JDBC 的写操作2. JDBC 的读操作总结前言本文介绍了mysq

Java使用Javassist动态生成HelloWorld类

《Java使用Javassist动态生成HelloWorld类》Javassist是一个非常强大的字节码操作和定义库,它允许开发者在运行时创建新的类或者修改现有的类,本文将简单介绍如何使用Javass... 目录1. Javassist简介2. 环境准备3. 动态生成HelloWorld类3.1 创建CtC

使用Python批量将.ncm格式的音频文件转换为.mp3格式的实战详解

《使用Python批量将.ncm格式的音频文件转换为.mp3格式的实战详解》本文详细介绍了如何使用Python通过ncmdump工具批量将.ncm音频转换为.mp3的步骤,包括安装、配置ffmpeg环... 目录1. 前言2. 安装 ncmdump3. 实现 .ncm 转 .mp34. 执行过程5. 执行结

Java使用jar命令配置服务器端口的完整指南

《Java使用jar命令配置服务器端口的完整指南》本文将详细介绍如何使用java-jar命令启动应用,并重点讲解如何配置服务器端口,同时提供一个实用的Web工具来简化这一过程,希望对大家有所帮助... 目录1. Java Jar文件简介1.1 什么是Jar文件1.2 创建可执行Jar文件2. 使用java

C++统计函数执行时间的最佳实践

《C++统计函数执行时间的最佳实践》在软件开发过程中,性能分析是优化程序的重要环节,了解函数的执行时间分布对于识别性能瓶颈至关重要,本文将分享一个C++函数执行时间统计工具,希望对大家有所帮助... 目录前言工具特性核心设计1. 数据结构设计2. 单例模式管理器3. RAII自动计时使用方法基本用法高级用法

C#使用Spire.Doc for .NET实现HTML转Word的高效方案

《C#使用Spire.Docfor.NET实现HTML转Word的高效方案》在Web开发中,HTML内容的生成与处理是高频需求,然而,当用户需要将HTML页面或动态生成的HTML字符串转换为Wor... 目录引言一、html转Word的典型场景与挑战二、用 Spire.Doc 实现 HTML 转 Word1