翼方健数发布「揽睿大模型流通解决方案」和「星舟·密方」机密可信计算智算集群,开启全新大模型生态协作模式...

本文主要是介绍翼方健数发布「揽睿大模型流通解决方案」和「星舟·密方」机密可信计算智算集群,开启全新大模型生态协作模式...,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

ff5263177dd5a88ecd033ae8903ec1ba.gif

8月30日,青岛国际会议中心迎来了一场人工智能盛会“2023智能要素流通论坛暨第三届DataX大会”。由青岛市大数据发展管理局、青岛市城阳区人民政府、翼健(上海)信息科技有限公司共同主办本次活动,汇聚了业界顶尖人士及专家学者。翼方健数董事长陈恂博士、集团总裁罗震博士、首席科学家张霖涛博士以及首席技术官赵玺相继上台,分享了翼方的发展战略,聚焦人工智能三要素——数据、算力、算法的“安全流通、高效匹配、价值释放”。

7d1302a36b23ebfe39b51296a266be34.png

翼方在本次大会上公布了揽睿星舟人工智能服务平台上实现的“揽睿大模型流通解决方案”和“星舟·密方”机密可信计算智算集群。

86f9a7d4d899d45461be92afe3b349a9.png

揽睿星舟:探索人工智能基础算力的揽睿之道

大型深度学习模型的训练与服务需要庞大的计算资源,但人工智能的专用算力,即智算算力,现今仍存在着明显的缺口,难以满足快速增长的需求。当下日益分散的算力对分布式计算和处理能力的需求也越来越高,相关基础设施的建设还需要进一步建设与完善。

揽睿星舟(简称“揽睿”)直面算力短缺和分散的现实挑战,提供了完善的算力基建解决方案。揽睿汇聚了来自不同供应商、不同地域、不同类别的算力供应,并以人工智能开发和使用的完整技术栈和工具链的产品形式呈现给客户,开箱即用,高效易用。

揽睿算力网络专注于集中生态优势实现算力统一标准、高效配置。通过跨云、跨节点、跨地域的算力调度体系,为算力需求方和算力供应商提供算力调度和需求匹配:

  • 异构计算:揽睿星舟支持异构的超级计算和私有平台,全面利用不同供应架构下的算力资源;

  • 充足多云算力:通过多云平台提供充足算力,实现实时调度匹配AI企业的算力需求和供给;

  • 资源战略合作:揽睿星舟平台向算力服务商批量采购算力,为算力需求方提供高性价比的算力资源;

揽睿全面保障用户的稳定体验。采用先进的云原生弹性架构,确保系统具有卓越的可伸缩性,避免单点故障风险,维护系统的高可用性和可靠性。系统持续监控和记录日志,既可提前预防潜在问题,也能在问题发生时快速解决,保障系统稳定运行。这些措施共同构成揽睿算力基建的坚实支持。

38596caf4541da535e63b2a8ebc02ce3.png

开启大模型生态协作新模式

人工智能大模型技术正蓬勃发展,在各个行业将产生深远的影响。技术进步带来了无限的潜力与机遇,也不可忽视模型和数据的安全问题以及开发利用大模型的商业困境。本次发布的“揽睿大模型流通解决方案”旨在通过机密可信计算环境“星舟·密方”、隐私安全计算、以及弹性、可信的商业实现开启人工智能大模型生态协作的新模式。

构建大模型需要巨大的时间和资金成本。既有因测试调优及广泛部署带来的模型产权风险问题,也有模型基于行业数据获得的调优参数泄露风险。未经授权的访问或复制会导致模型的非规范操作甚至恶意传播与使用。其次,大模型的训练和推理应用过程都离不开大量优质数据,特别是在调优和推理过程中,可能涉及个人隐私和商业核心竞争力的敏感信息,这些机密数据需要严格的安全保护。

常用的“私有化部署”模式,虽然一定程度上解决了数据安全问题,但对于绝大多数的企业和机构而言,私有化部署大模型、智算算力集群以及人工智能训练和推理环境的大额资本投入和后续维护管理都是不可企及的。同时,在大模型训练、微调、使用过程中对于算力的需求种类不一、变化巨大,而且在初期难以预估。广大的大模型使用者迫切需要弹性资源调度、按需使用、按量计费的共享的算力、工具和模型生态。而对于基础模型提供方而言,降低千行百业发展、使用专业行业模型的门槛,实现可持续的、按量收费的商业模式,也是亟待解决的问题。

揽睿大模型流通解决方案,集成了隐私安全计算和机密可信计算能力,为用户提供模型、数据集与服务有效串联,无论是数据提供方、基础模型拥有者、参与行业大模型调优的服务团队,还是使用大模型的业务部门,揽睿大模型流通解决方案都为您提供了数据和模型的隐私及产权的保护。人工智能大模型生态的各方参与者都能够在合法合规、保护本方数据、产权与权益的前提下,通过安全而高效的协作,共同推动大模型的技术进步和产业落地。

同时,揽睿大模型流通方案集成了区块链技术,提供可信而精确的用量计量、存证,形成弹性算力资源、共享的算力、工具和模型生态,并以此赋能“按需使用、按量计费”的商业模式。

defa120d82e82a3316a0b70c0330db63.png

5d69966aaf861c5a8874b10a9bc546d1.png

星舟·密方:机密可信计算集群

揽睿大模型解决方案的安全核心是翼方健数机密可信计算产品“星舟·密方”。“星舟·密方”是一个安全、通用、高效的“零信任”机密可信计算集群。以模型服务运行时的内存数据保护为例,高权限的攻击者可以对明文内存进行窥探,得到模型、参数、业务调用数据等一切计算过程中曾驻留在内存中的数据。“星舟·密方”利用机密可信计算软、硬件结合的能力,确保整个计算环境中,包括数据中心管理员,云平台管理员在内的任何一方都无法不经授权访问计算集群,或通过计算基础设施其他类型的攻击。

a0bb9f46cb8c1e3745f79704d5e24676.png

7bae81a815ffddc8aa5f43f7a77f9333.png

授权机制、推理服务、权益流通

翼方健数多年沉淀的隐私安全计算技术为大模型流通过程中的模型与数据提供了完善的授权与可用不可见机制。授权记录不可篡改。每次授权被视为区块链中的一个交易,并被添加到系统中的一个个区块中。每个区块包含了一批授权信息,并且与前一个区块通过加密哈希链接在一起,形成了一个不断增长的链条,确保单个区块的授权记录数据无法被随意修改。

c1065c31b97462a8dd45657bf5756a02.png

大模型流通过程中,用户可自由选择使用开源大模型或受限模型进行模型服务搭建。服务搭建支持在线服务与私有化部署。“星舟·密方”为每个企业提供独立的模型搭建和推理服务,确保企业的模型构建成果与业务数据不与其他企业共享。

411be09c6c50196f52c093365535d532.png

方案内置的精准计量模块,可集成翼方健数自研基于区块链的存证和激励系统,支持多种主流区块链技术,存储关键信息,在确保用户数据安全的前提下以不可篡改方式统计并存储推理服务的调用量。调用量与基础模型和数据集准确关联,支持智能合约,完美助力要素流通,实现价值激励,用于商业利润分配。

揽睿星舟(Lanrui-ai)是人工智能企业翼方健数自主研发的隐私安全计算与机密可信计算护航的一站式AI服务平台,提供开箱即用的训推环境、AI工具链及大模型流通解决方案。揽睿星舟旨在解决AI协作过程中的安全信任问题,通过生态力量加速AI价值释放。本次大会上,发布的基于隐私安全计算与机密可信计算的“揽睿大模型流通解决方案”、“星舟·密方”,为AI应用落地提供全流程安全保护、赋能生态协作的新商业模式。人工智能大模型生态的各方参与者都能够在合法合规、保护本方数据、产权与权益的前提下,通过安全且高效的协作,共同推动大模型的技术进步和产业落地。

未来,翼方健数希望与更多行业伙伴进行合作,共建算力、算法与数据的计算生态网络,在行业变革的浪潮中共同实现真正的智能价值发掘和流通。

这篇关于翼方健数发布「揽睿大模型流通解决方案」和「星舟·密方」机密可信计算智算集群,开启全新大模型生态协作模式...的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/428281

相关文章

使用Python构建智能BAT文件生成器的完美解决方案

《使用Python构建智能BAT文件生成器的完美解决方案》这篇文章主要为大家详细介绍了如何使用wxPython构建一个智能的BAT文件生成器,它不仅能够为Python脚本生成启动脚本,还提供了完整的文... 目录引言运行效果图项目背景与需求分析核心需求技术选型核心功能实现1. 数据库设计2. 界面布局设计3

Java.lang.InterruptedException被中止异常的原因及解决方案

《Java.lang.InterruptedException被中止异常的原因及解决方案》Java.lang.InterruptedException是线程被中断时抛出的异常,用于协作停止执行,常见于... 目录报错问题报错原因解决方法Java.lang.InterruptedException 是 Jav

kkFileView在线预览office的常见问题以及解决方案

《kkFileView在线预览office的常见问题以及解决方案》kkFileView在线预览Office常见问题包括base64编码配置、Office组件安装、乱码处理及水印添加,解决方案涉及版本适... 目录kkFileView在线预览office的常见问题1.base642.提示找不到OFFICE组件

SpringBoot监控API请求耗时的6中解决解决方案

《SpringBoot监控API请求耗时的6中解决解决方案》本文介绍SpringBoot中记录API请求耗时的6种方案,包括手动埋点、AOP切面、拦截器、Filter、事件监听、Micrometer+... 目录1. 简介2.实战案例2.1 手动记录2.2 自定义AOP记录2.3 拦截器技术2.4 使用Fi

WinForm跨线程访问UI及UI卡死的解决方案

《WinForm跨线程访问UI及UI卡死的解决方案》在WinForm开发过程中,跨线程访问UI控件和界面卡死是常见的技术难题,由于Windows窗体应用程序的UI控件默认只能在主线程(UI线程)上操作... 目录前言正文案例1:直接线程操作(无UI访问)案例2:BeginInvoke访问UI(错误用法)案例

Spring Security常见问题及解决方案

《SpringSecurity常见问题及解决方案》SpringSecurity是Spring生态的安全框架,提供认证、授权及攻击防护,支持JWT、OAuth2集成,适用于保护Spring应用,需配置... 目录Spring Security 简介Spring Security 核心概念1. ​Securit

MySQL逻辑删除与唯一索引冲突解决方案

《MySQL逻辑删除与唯一索引冲突解决方案》本文探讨MySQL逻辑删除与唯一索引冲突问题,提出四种解决方案:复合索引+时间戳、修改唯一字段、历史表、业务层校验,推荐方案1和方案3,适用于不同场景,感兴... 目录问题背景问题复现解决方案解决方案1.复合唯一索引 + 时间戳删除字段解决方案2:删除后修改唯一字

Jenkins分布式集群配置方式

《Jenkins分布式集群配置方式》:本文主要介绍Jenkins分布式集群配置方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1.安装jenkins2.配置集群总结Jenkins是一个开源项目,它提供了一个容易使用的持续集成系统,并且提供了大量的plugin满

Java设计模式---迭代器模式(Iterator)解读

《Java设计模式---迭代器模式(Iterator)解读》:本文主要介绍Java设计模式---迭代器模式(Iterator),具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,... 目录1、迭代器(Iterator)1.1、结构1.2、常用方法1.3、本质1、解耦集合与遍历逻辑2、统一

Java 线程安全与 volatile与单例模式问题及解决方案

《Java线程安全与volatile与单例模式问题及解决方案》文章主要讲解线程安全问题的五个成因(调度随机、变量修改、非原子操作、内存可见性、指令重排序)及解决方案,强调使用volatile关键字... 目录什么是线程安全线程安全问题的产生与解决方案线程的调度是随机的多个线程对同一个变量进行修改线程的修改操