翼方健数发布「揽睿大模型流通解决方案」和「星舟·密方」机密可信计算智算集群,开启全新大模型生态协作模式...

本文主要是介绍翼方健数发布「揽睿大模型流通解决方案」和「星舟·密方」机密可信计算智算集群,开启全新大模型生态协作模式...,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

ff5263177dd5a88ecd033ae8903ec1ba.gif

8月30日,青岛国际会议中心迎来了一场人工智能盛会“2023智能要素流通论坛暨第三届DataX大会”。由青岛市大数据发展管理局、青岛市城阳区人民政府、翼健(上海)信息科技有限公司共同主办本次活动,汇聚了业界顶尖人士及专家学者。翼方健数董事长陈恂博士、集团总裁罗震博士、首席科学家张霖涛博士以及首席技术官赵玺相继上台,分享了翼方的发展战略,聚焦人工智能三要素——数据、算力、算法的“安全流通、高效匹配、价值释放”。

7d1302a36b23ebfe39b51296a266be34.png

翼方在本次大会上公布了揽睿星舟人工智能服务平台上实现的“揽睿大模型流通解决方案”和“星舟·密方”机密可信计算智算集群。

86f9a7d4d899d45461be92afe3b349a9.png

揽睿星舟:探索人工智能基础算力的揽睿之道

大型深度学习模型的训练与服务需要庞大的计算资源,但人工智能的专用算力,即智算算力,现今仍存在着明显的缺口,难以满足快速增长的需求。当下日益分散的算力对分布式计算和处理能力的需求也越来越高,相关基础设施的建设还需要进一步建设与完善。

揽睿星舟(简称“揽睿”)直面算力短缺和分散的现实挑战,提供了完善的算力基建解决方案。揽睿汇聚了来自不同供应商、不同地域、不同类别的算力供应,并以人工智能开发和使用的完整技术栈和工具链的产品形式呈现给客户,开箱即用,高效易用。

揽睿算力网络专注于集中生态优势实现算力统一标准、高效配置。通过跨云、跨节点、跨地域的算力调度体系,为算力需求方和算力供应商提供算力调度和需求匹配:

  • 异构计算:揽睿星舟支持异构的超级计算和私有平台,全面利用不同供应架构下的算力资源;

  • 充足多云算力:通过多云平台提供充足算力,实现实时调度匹配AI企业的算力需求和供给;

  • 资源战略合作:揽睿星舟平台向算力服务商批量采购算力,为算力需求方提供高性价比的算力资源;

揽睿全面保障用户的稳定体验。采用先进的云原生弹性架构,确保系统具有卓越的可伸缩性,避免单点故障风险,维护系统的高可用性和可靠性。系统持续监控和记录日志,既可提前预防潜在问题,也能在问题发生时快速解决,保障系统稳定运行。这些措施共同构成揽睿算力基建的坚实支持。

38596caf4541da535e63b2a8ebc02ce3.png

开启大模型生态协作新模式

人工智能大模型技术正蓬勃发展,在各个行业将产生深远的影响。技术进步带来了无限的潜力与机遇,也不可忽视模型和数据的安全问题以及开发利用大模型的商业困境。本次发布的“揽睿大模型流通解决方案”旨在通过机密可信计算环境“星舟·密方”、隐私安全计算、以及弹性、可信的商业实现开启人工智能大模型生态协作的新模式。

构建大模型需要巨大的时间和资金成本。既有因测试调优及广泛部署带来的模型产权风险问题,也有模型基于行业数据获得的调优参数泄露风险。未经授权的访问或复制会导致模型的非规范操作甚至恶意传播与使用。其次,大模型的训练和推理应用过程都离不开大量优质数据,特别是在调优和推理过程中,可能涉及个人隐私和商业核心竞争力的敏感信息,这些机密数据需要严格的安全保护。

常用的“私有化部署”模式,虽然一定程度上解决了数据安全问题,但对于绝大多数的企业和机构而言,私有化部署大模型、智算算力集群以及人工智能训练和推理环境的大额资本投入和后续维护管理都是不可企及的。同时,在大模型训练、微调、使用过程中对于算力的需求种类不一、变化巨大,而且在初期难以预估。广大的大模型使用者迫切需要弹性资源调度、按需使用、按量计费的共享的算力、工具和模型生态。而对于基础模型提供方而言,降低千行百业发展、使用专业行业模型的门槛,实现可持续的、按量收费的商业模式,也是亟待解决的问题。

揽睿大模型流通解决方案,集成了隐私安全计算和机密可信计算能力,为用户提供模型、数据集与服务有效串联,无论是数据提供方、基础模型拥有者、参与行业大模型调优的服务团队,还是使用大模型的业务部门,揽睿大模型流通解决方案都为您提供了数据和模型的隐私及产权的保护。人工智能大模型生态的各方参与者都能够在合法合规、保护本方数据、产权与权益的前提下,通过安全而高效的协作,共同推动大模型的技术进步和产业落地。

同时,揽睿大模型流通方案集成了区块链技术,提供可信而精确的用量计量、存证,形成弹性算力资源、共享的算力、工具和模型生态,并以此赋能“按需使用、按量计费”的商业模式。

defa120d82e82a3316a0b70c0330db63.png

5d69966aaf861c5a8874b10a9bc546d1.png

星舟·密方:机密可信计算集群

揽睿大模型解决方案的安全核心是翼方健数机密可信计算产品“星舟·密方”。“星舟·密方”是一个安全、通用、高效的“零信任”机密可信计算集群。以模型服务运行时的内存数据保护为例,高权限的攻击者可以对明文内存进行窥探,得到模型、参数、业务调用数据等一切计算过程中曾驻留在内存中的数据。“星舟·密方”利用机密可信计算软、硬件结合的能力,确保整个计算环境中,包括数据中心管理员,云平台管理员在内的任何一方都无法不经授权访问计算集群,或通过计算基础设施其他类型的攻击。

a0bb9f46cb8c1e3745f79704d5e24676.png

7bae81a815ffddc8aa5f43f7a77f9333.png

授权机制、推理服务、权益流通

翼方健数多年沉淀的隐私安全计算技术为大模型流通过程中的模型与数据提供了完善的授权与可用不可见机制。授权记录不可篡改。每次授权被视为区块链中的一个交易,并被添加到系统中的一个个区块中。每个区块包含了一批授权信息,并且与前一个区块通过加密哈希链接在一起,形成了一个不断增长的链条,确保单个区块的授权记录数据无法被随意修改。

c1065c31b97462a8dd45657bf5756a02.png

大模型流通过程中,用户可自由选择使用开源大模型或受限模型进行模型服务搭建。服务搭建支持在线服务与私有化部署。“星舟·密方”为每个企业提供独立的模型搭建和推理服务,确保企业的模型构建成果与业务数据不与其他企业共享。

411be09c6c50196f52c093365535d532.png

方案内置的精准计量模块,可集成翼方健数自研基于区块链的存证和激励系统,支持多种主流区块链技术,存储关键信息,在确保用户数据安全的前提下以不可篡改方式统计并存储推理服务的调用量。调用量与基础模型和数据集准确关联,支持智能合约,完美助力要素流通,实现价值激励,用于商业利润分配。

揽睿星舟(Lanrui-ai)是人工智能企业翼方健数自主研发的隐私安全计算与机密可信计算护航的一站式AI服务平台,提供开箱即用的训推环境、AI工具链及大模型流通解决方案。揽睿星舟旨在解决AI协作过程中的安全信任问题,通过生态力量加速AI价值释放。本次大会上,发布的基于隐私安全计算与机密可信计算的“揽睿大模型流通解决方案”、“星舟·密方”,为AI应用落地提供全流程安全保护、赋能生态协作的新商业模式。人工智能大模型生态的各方参与者都能够在合法合规、保护本方数据、产权与权益的前提下,通过安全且高效的协作,共同推动大模型的技术进步和产业落地。

未来,翼方健数希望与更多行业伙伴进行合作,共建算力、算法与数据的计算生态网络,在行业变革的浪潮中共同实现真正的智能价值发掘和流通。

这篇关于翼方健数发布「揽睿大模型流通解决方案」和「星舟·密方」机密可信计算智算集群,开启全新大模型生态协作模式...的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/428281

相关文章

idea粘贴空格时显示NBSP的问题及解决方案

《idea粘贴空格时显示NBSP的问题及解决方案》在IDEA中粘贴代码时出现大量空格占位符NBSP,可以通过取消勾选AdvancedSettings中的相应选项来解决... 目录1、背景介绍2、解决办法3、处理完成总结1、背景介绍python在idehttp://www.chinasem.cna粘贴代码,出

Go语言实现桥接模式

《Go语言实现桥接模式》桥接模式是一种结构型设计模式,它将抽象部分与实现部分分离,使它们可以独立地变化,本文就来介绍一下了Go语言实现桥接模式,感兴趣的可以了解一下... 目录简介核心概念为什么使用桥接模式?应用场景案例分析步骤一:定义实现接口步骤二:创建具体实现类步骤三:定义抽象类步骤四:创建扩展抽象类步

MySQL MHA集群详解(数据库高可用)

《MySQLMHA集群详解(数据库高可用)》MHA(MasterHighAvailability)是开源MySQL高可用管理工具,用于自动故障检测与转移,支持异步或半同步复制的MySQL主从架构,本... 目录mysql 高可用方案:MHA 详解与实战1. MHA 简介2. MHA 的组件组成(1)MHA

Apache服务器IP自动跳转域名的问题及解决方案

《Apache服务器IP自动跳转域名的问题及解决方案》本教程将详细介绍如何通过Apache虚拟主机配置实现这一功能,并解决常见问题,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,... 目录​​问题背景​​解决方案​​方法 1:修改 httpd-vhosts.conf(推荐)​​步骤

Linux(centos7)虚拟机没有IP问题及解决方案

《Linux(centos7)虚拟机没有IP问题及解决方案》文章介绍了在CentOS7中配置虚拟机网络并使用Xshell连接虚拟机的步骤,首先,检查并配置网卡ens33的ONBOOT属性为yes,然后... 目录输入查看ZFhrxIP命令:ip addr查看,没有虚拟机IP修改ens33配置文件重启网络Xh

Java编译错误java.lang.NoSuchFieldError的解决方案详析

《Java编译错误java.lang.NoSuchFieldError的解决方案详析》java.lang.NoSuchFieldError是Java中的一种运行时错误,:本文主要介绍Java编译错... 目录前言解决方案1. 统一JDK版本环境2. 优化maven-compiler-plugin配置3. 清

Java领域模型示例详解

《Java领域模型示例详解》本文介绍了Java领域模型(POJO/Entity/VO/DTO/BO)的定义、用途和区别,强调了它们在不同场景下的角色和使用场景,文章还通过一个流程示例展示了各模型如何协... 目录Java领域模型(POJO / Entity / VO/ DTO / BO)一、为什么需要领域模

C++中的解释器模式实例详解

《C++中的解释器模式实例详解》这篇文章总结了C++标准库中的算法分类,还介绍了sort和stable_sort的区别,以及remove和erase的结合使用,结合实例代码给大家介绍的非常详细,感兴趣... 目录1、非修改序列算法1.1 find 和 find_if1.2 count 和 count_if1

Redis中群集三种模式的实现

《Redis中群集三种模式的实现》Redis群集有三种模式,分别是主从同步/复制、哨兵模式、Cluster,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面... 目录1. Redis三种模式概述2、Redis 主从复制2.1 主从复制的作用2.2 主从复制流程2

golang实现nacos获取配置和服务注册-支持集群详解

《golang实现nacos获取配置和服务注册-支持集群详解》文章介绍了如何在Go语言中使用Nacos获取配置和服务注册,支持集群初始化,客户端结构体中的IpAddresses可以配置多个地址,新客户... 目录golang nacos获取配置和服务注册-支持集群初始化客户端可选参数配置new一个客户端 支