RK3588人工智能开发----【1】初识NPU

2024-08-25 20:04

本文主要是介绍RK3588人工智能开发----【1】初识NPU,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

NPU 的诞生!

      随着人工智能和大数据时代的到来,传统嵌入式处理器中的CPU和GPU逐渐无法满足日益增长的深度学习需求。为了应对这一挑战,在一些高端处理器中,NPU(神经网络处理单元)也被集成到了处理器里。NPU的出现不仅减轻了CPU和GPU的负担,还让复杂的计算任务得以高效处理。在典型的工作流中,CPU会首先接收任务,并根据任务的性质将其分配给合适的处理单元,图像处理任务由GPU处理,而人工智能相关任务则交给NPU。     
      什么是 NPU 呢? 在谈这个问题之前,可以先来看看什么是 CPU 和 GPU,CPU 就是中央处理器,中央处理器就好像是人类的大脑,主要负责各种逻辑控制和任务调度。所以 CPU 的计算能力相对来说不是最强的。GPU 是图形处理器,顾名思义,图形处理器是用来处理图形的,那处理图形就要 涉及到大量的计算,所以 GPU 相对 CPU 来说更擅长计算,但是不擅长逻辑控制和调度。从这 方面来讲就可以说 GPU 是 CPU 的互补。 但是随着人工智能,大数据的时代来临,以前嵌入式处理器中的 CPU 和 GPU 渐渐的难以满足与日俱增的需求,尤其是深度学习方面。为了应对日渐增长的需求,NPU 就诞生的了。 
      NPU 英语全称为 Neural Process Unit,译为神经网络处理器。NPU 是在电路层来模拟人类的神经元和突触,所以特别擅长处理人工智能任务。
      NPU 的诞生大大的降低了 CPU 和 GPU 的负担,任何工作首先要经过 CPU,然后 CPU 在根据这个任务的性质来决定是分给 GPU 还是 NPU,如果是图像处理器方面,就分给 GPU,如果是人工智能方面,就分给 NPU。
      NPU 的应用场景非常的广泛,如人脸跟踪、手势和身体跟踪、图像分类、视频监控、自动语音识别(ASR)和先进的驾驶员辅助系统(ADAS)等等。

总结 

      NPU 是 "Neural Processing Unit"(神经网络处理单元)的缩写,是一种专门用于加速深度学习和神经网络计算的硬件处理器。NPU 是为了满足机器学习任务中高效处理大规模矩阵运算和复杂模型推理的需求而设计的,特别适合处理卷积神经网络(CNNs)、循环神经网络(RNNs)、生成对抗网络(GANs)等深度学习模型。 

 

初识 RKNPU


      为了满足人工智能的需要,瑞芯微的处理器也逐渐集成了 NPU,瑞芯微的处理器内置的 NPU,称之为 RKNPU。 RKNPU 经过了几代的发展,首代初次引入了 RKNPU 是从 RK3399pro 和 RK1808 开始的, 相比传统的 CPU 和 GPU,在深度学习运算能力上有比较大幅度的提升。接下来在 RV1109 和 RV1126 上使用了第二代 NPU,提升了 NPU 的利用率。第三代 NPU 应用在 RK3566 和 RK3568 上,搭载全新 NPU 自研架构。第四代 NPU 应用在 RK3588 和 RK3588s 上,自研架构再升级。 RKNPU 发展过程如下图所示: 

瑞芯微 RK3588 芯片内置 NPU,是 RKNPU 第四代的代表产品。第四代 RKNPU 特点如下所示:

RK3588NPU 是 3 个核心,包含 CNA 模块、 DPU 模块、PPU 模块。
CNA 模块全称是 Convolution Neural Network Accelerator,也就是卷积神经网络加速器。
DPU 模块全称是 dada processing Unit,也就是数据处理单元。
PPU 模块全称是 Planar Processing Unit,平面处理单元。
NPU 框图如下图所示:

这篇关于RK3588人工智能开发----【1】初识NPU的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/1106525

相关文章

基于Python开发一个有趣的工作时长计算器

《基于Python开发一个有趣的工作时长计算器》随着远程办公和弹性工作制的兴起,个人及团队对于工作时长的准确统计需求日益增长,本文将使用Python和PyQt5打造一个工作时长计算器,感兴趣的小伙伴可... 目录概述功能介绍界面展示php软件使用步骤说明代码详解1.窗口初始化与布局2.工作时长计算核心逻辑3

python web 开发之Flask中间件与请求处理钩子的最佳实践

《pythonweb开发之Flask中间件与请求处理钩子的最佳实践》Flask作为轻量级Web框架,提供了灵活的请求处理机制,中间件和请求钩子允许开发者在请求处理的不同阶段插入自定义逻辑,实现诸如... 目录Flask中间件与请求处理钩子完全指南1. 引言2. 请求处理生命周期概述3. 请求钩子详解3.1

如何基于Python开发一个微信自动化工具

《如何基于Python开发一个微信自动化工具》在当今数字化办公场景中,自动化工具已成为提升工作效率的利器,本文将深入剖析一个基于Python的微信自动化工具开发全过程,有需要的小伙伴可以了解下... 目录概述功能全景1. 核心功能模块2. 特色功能效果展示1. 主界面概览2. 定时任务配置3. 操作日志演示

JavaScript实战:智能密码生成器开发指南

本文通过JavaScript实战开发智能密码生成器,详解如何运用crypto.getRandomValues实现加密级随机密码生成,包含多字符组合、安全强度可视化、易混淆字符排除等企业级功能。学习密码强度检测算法与信息熵计算原理,获取可直接嵌入项目的完整代码,提升Web应用的安全开发能力 目录

一文教你如何解决Python开发总是import出错的问题

《一文教你如何解决Python开发总是import出错的问题》经常朋友碰到Python开发的过程中import包报错的问题,所以本文将和大家介绍一下可编辑安装(EditableInstall)模式,可... 目录摘要1. 可编辑安装(Editable Install)模式到底在解决什么问题?2. 原理3.

Python+PyQt5开发一个Windows电脑启动项管理神器

《Python+PyQt5开发一个Windows电脑启动项管理神器》:本文主要介绍如何使用PyQt5开发一款颜值与功能并存的Windows启动项管理工具,不仅能查看/删除现有启动项,还能智能添加新... 目录开篇:为什么我们需要启动项管理工具功能全景图核心技术解析1. Windows注册表操作2. 启动文件

使用Python开发Markdown兼容公式格式转换工具

《使用Python开发Markdown兼容公式格式转换工具》在技术写作中我们经常遇到公式格式问题,例如MathML无法显示,LaTeX格式错乱等,所以本文我们将使用Python开发Markdown兼容... 目录一、工具背景二、环境配置(Windows 10/11)1. 创建conda环境2. 获取XSLT

Android开发环境配置避坑指南

《Android开发环境配置避坑指南》本文主要介绍了Android开发环境配置过程中遇到的问题及解决方案,包括VPN注意事项、工具版本统一、Gerrit邮箱配置、Git拉取和提交代码、MergevsR... 目录网络环境:VPN 注意事项工具版本统一:android Studio & JDKGerrit的邮

Python开发文字版随机事件游戏的项目实例

《Python开发文字版随机事件游戏的项目实例》随机事件游戏是一种通过生成不可预测的事件来增强游戏体验的类型,在这篇博文中,我们将使用Python开发一款文字版随机事件游戏,通过这个项目,读者不仅能够... 目录项目概述2.1 游戏概念2.2 游戏特色2.3 目标玩家群体技术选择与环境准备3.1 开发环境3

Go语言开发实现查询IP信息的MCP服务器

《Go语言开发实现查询IP信息的MCP服务器》随着MCP的快速普及和广泛应用,MCP服务器也层出不穷,本文将详细介绍如何在Go语言中使用go-mcp库来开发一个查询IP信息的MCP... 目录前言mcp-ip-geo 服务器目录结构说明查询 IP 信息功能实现工具实现工具管理查询单个 IP 信息工具的实现服