Nvidia 推出了一款新型芯片,专为在家中运行人工智能而设计

本文主要是介绍Nvidia 推出了一款新型芯片,专为在家中运行人工智能而设计,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗?订阅我们的简报,深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同,从行业内部的深度分析和实用指南中受益。不要错过这个机会,成为AI领域的领跑者。点击订阅,与未来同行! 订阅:https://rengongzhineng.io/

去年 Nvidia 成为人工智能热潮的中心,原因是其昂贵的服务器图形处理器(例如 H100)对于训练和部署像OpenAI的ChatGPT这样的生成型AI至关重要。现在,Nvidia 正在发挥其在消费者GPU领域的优势,推广所谓的“本地”AI,这种AI可以在家庭或办公室的个人电脑或笔记本上运行。

Nvidia 在周一宣布了三款新的显卡 — RTX 4060 Super、RTX 4070 Ti Super 和 RTX 4080 Super,价格在599至999美元之间。这些显卡具有额外的“张量核心”,专为运行生成型AI应用程序设计。Nvidia 还将为Acer、Dell和Lenovo等公司的笔记本电脑提供显卡。

Nvidia 企业级GPU的需求激增,每个价格高达数万美元,通常以八个GPU一起工作的系统形式出现,这导致Nvidia整体销售额激增,市值超过1万亿美元。

对于个人电脑的GPU长期以来一直是Nvidia的主要产品,主要用于运行视频游戏,但公司表示,今年的显卡在运行AI模型时不需要将信息发送回云端,这方面已经有所改进。

公司表示,新的消费级图形芯片主要用于游戏,但仍然可以快速处理AI应用。例如,Nvidia 表示,RTX 4080 Super生成AI视频的速度比上一代型号快150%。公司最近宣布的其他软件改进将使大型语言模型处理的速度提高五倍。

Nvidia 的产品管理高级总监 Justin Walker 在新闻发布会上告诉记者:“随着1亿RTX GPU的出货,它们为强大的PC提供了大量安装基础,用于AI应用。”

Nvidia 预计,在未来一年中将出现新的AI应用,以利用增加的计算能力。预计微软将在今年晚些时候发布新版本的Windows操作系统 — Windows 12,该系统将进一步利用AI芯片。

Walker表示,新芯片可用于在Adobe Photoshop的Firefly生成器上生成图像,或在视频通话中去除背景。Nvidia 也在创建工具,允许游戏开发者将生成型AI集成到他们的游戏中,例如,生成非玩家角色的对话。

在Edge与Server方面,Nvidia 本周的芯片公告显示,尽管它一直是与大型服务器GPU最相关的公司,但它也将与Intel、AMD和高通在本地AI领域竞争。这三家公司都已经宣布了将为所谓的“AI PC”提供动力的新芯片,这些芯片专门用于机器学习。

随着科技行业正在探索部署生成型AI的最佳方式,这成为Nvidia的举措的背景,这种AI需要大量的计算能力,并且在云服务上运行成本非常高。

微软和Nvidia的竞争对手正在推广的一种技术解决方案是所谓的“AI PC”或有时称为“边缘计算”。这种方式不是通过互联网使用强大的超级计算机,而是设备内部拥有更强大的AI芯片,它们可以运行所谓的大型语言模型或图像生成器,尽管会有一些权衡和缺陷。

Nvidia 提出的应用程序可以使用云模型来处理复杂问题,同时使用本地

AI模型来执行需要快速完成的任务。

Nvidia 的 Walker 说:“云中的Nvidia GPU可以运行非常大的大型语言模型,并使用所有那些处理能力来支持非常大的AI模型,同时,您PC中的RTX张量核心将运行更具延迟敏感性的AI应用。”

公司表示,新的显卡将符合出口管制规定,可以运送到中国,为无法获得Nvidia最强大的服务器GPU的中国研究人员和公司提供了一种选择。

这篇关于Nvidia 推出了一款新型芯片,专为在家中运行人工智能而设计的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/598681

相关文章

MyBatis设计SQL返回布尔值(Boolean)的常见方法

《MyBatis设计SQL返回布尔值(Boolean)的常见方法》这篇文章主要为大家详细介绍了MyBatis设计SQL返回布尔值(Boolean)的几种常见方法,文中的示例代码讲解详细,感兴趣的小伙伴... 目录方案一:使用COUNT查询存在性(推荐)方案二:条件表达式直接返回布尔方案三:存在性检查(EXI

Java -jar命令如何运行外部依赖JAR包

《Java-jar命令如何运行外部依赖JAR包》在Java应用部署中,java-jar命令是启动可执行JAR包的标准方式,但当应用需要依赖外部JAR文件时,直接使用java-jar会面临类加载困... 目录引言:外部依赖JAR的必要性一、问题本质:类加载机制的限制1. Java -jar的默认行为2. 类加

java -jar命令运行 jar包时运行外部依赖jar包的场景分析

《java-jar命令运行jar包时运行外部依赖jar包的场景分析》:本文主要介绍java-jar命令运行jar包时运行外部依赖jar包的场景分析,本文给大家介绍的非常详细,对大家的学习或工作... 目录Java -jar命令运行 jar包时如何运行外部依赖jar包场景:解决:方法一、启动参数添加: -Xb

eclipse如何运行springboot项目

《eclipse如何运行springboot项目》:本文主要介绍eclipse如何运行springboot项目问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目js录当在eclipse启动spring boot项目时出现问题解决办法1.通过cmd命令行2.在ecl

使用nohup和--remove-source-files在后台运行rsync并记录日志方式

《使用nohup和--remove-source-files在后台运行rsync并记录日志方式》:本文主要介绍使用nohup和--remove-source-files在后台运行rsync并记录日... 目录一、什么是 --remove-source-files?二、示例命令三、命令详解1. nohup2.

Spring Boot项目打包和运行的操作方法

《SpringBoot项目打包和运行的操作方法》SpringBoot应用内嵌了Web服务器,所以基于SpringBoot开发的web应用也可以独立运行,无须部署到其他Web服务器中,下面以打包dem... 目录一、打包为JAR包并运行1.打包为可执行的 JAR 包2.运行 JAR 包二、打包为WAR包并运行

如何在Ubuntu上安装NVIDIA显卡驱动? Ubuntu安装英伟达显卡驱动教程

《如何在Ubuntu上安装NVIDIA显卡驱动?Ubuntu安装英伟达显卡驱动教程》Windows系统不同,Linux系统通常不会自动安装专有显卡驱动,今天我们就来看看Ubuntu系统安装英伟达显卡... 对于使用NVIDIA显卡的Ubuntu用户来说,正确安装显卡驱动是获得最佳图形性能的关键。与Windo

Java NoClassDefFoundError运行时错误分析解决

《JavaNoClassDefFoundError运行时错误分析解决》在Java开发中,NoClassDefFoundError是一种常见的运行时错误,它通常表明Java虚拟机在尝试加载一个类时未能... 目录前言一、问题分析二、报错原因三、解决思路检查类路径配置检查依赖库检查类文件调试类加载器问题四、常见

Python如何精准判断某个进程是否在运行

《Python如何精准判断某个进程是否在运行》这篇文章主要为大家详细介绍了Python如何精准判断某个进程是否在运行,本文为大家整理了3种方法并进行了对比,有需要的小伙伴可以跟随小编一起学习一下... 目录一、为什么需要判断进程是否存在二、方法1:用psutil库(推荐)三、方法2:用os.system调用

Python运行中频繁出现Restart提示的解决办法

《Python运行中频繁出现Restart提示的解决办法》在编程的世界里,遇到各种奇怪的问题是家常便饭,但是,当你的Python程序在运行过程中频繁出现“Restart”提示时,这可能不仅仅是令人头疼... 目录问题描述代码示例无限循环递归调用内存泄漏解决方案1. 检查代码逻辑无限循环递归调用内存泄漏2.