在大数据世界“寻宝”,科研新范式如何用好存储这把利器?

2024-01-03 15:40

本文主要是介绍在大数据世界“寻宝”,科研新范式如何用好存储这把利器?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

模拟脑神经网络,探索人脑上亿个神经元之间是如何连接与工作的,带来每秒高达100TB数据高吞吐量;脑疾病研究中,通过数万份患者数据验证抑郁症与睡眠治理不佳的脑区有重合之处;在自动驾驶车辆每天产生了数十TB数据中训练视觉识别算法;天文专家从数十PB海量数据中分析发现新天体……

如今在科研领域,数据正在发挥着越来越重要的作用。尤其是随着数据采集、存储等技术的不断提升,海量数据的出现彻底改变了传统科研模式。继实验科学、理论科学、计算科学之后,基于“数据密集型科学”的科研新范式在大数据时代下,受到越来越多科研人员的青睐。

在“数据密集型科学”的科研新范式驱动下,高校、科研机构加速构建人工智能与大数据平台、为不同学科提供创新基础设施成为当务之急。但由于科研聚焦前沿研究,且不同学科之间存在着很大的差异性,造成对于数据的计算、采集、存储、管理和利用的需求不尽相同,也让高校的人工智能与大数据平台加速向更高水准演进。

数据要素成为科研的驱动力

科研范式因为大数据而迅速改变。

正所谓是“巧妇难为无米之炊”,即便理论再“高明”、算法再先进,缺乏数据的支持,再好的研究设计都得“半途而废”。如果科研数据越多,研究人员就可以利用大量数据的相关性、可取代因果关系和理论与模型,基于海量数据间的相关性验证更多研究想法和理论,获得更多新知识和新发现。

例如,在当前非常热门的类脑科学研究,有一个重要的方向就是多模态多尺度数据分析理论与应用。首先建立脑成像中心,全套磁共振成像设备对小动物或者人体进行脑成像,不断采集和分析脑科学数据,构建起多模态多尺度脑数据库;然后,在利用模式识别、深度学习等类脑智能方法寻找基因、脑影像和认知功能的诊断指标,以揭示脑疾病致病机制、提升脑疾病临床诊断以及药物疗效评估的准确性和效率。

在大数据世界“寻宝”,科研新范式如何用好存储这把利器?

 

“目前高校数据量增长的确非常大,很多科研领域对于各种科研数据的收集也非常重视。”复旦大学大数据学院副院长薛向阳教授如是说。

如何理解数据密集型科学与之前计算科学之间的区别,两种科研范式似乎都需要通过大量的计算、数据来完成科学研究。但计算科学通常是先提出可行理论,再搜集数据,之后通过计算仿真进行验证;而数据密集型科学则是先通过采集大量的数据,再通过计算与分析获得新知识和新发现。

“数据密集型科学”的科研新范式核心挑战还在于数据。科研数据的数据密集型,具有不可重复性、高度不确定性、高维、计算高度复杂等特征。如今越来越多科研人员,面临的不是缺少数据的难题,而是海量数据环境下如何存储、管理和利用数据,这对于科研数据底座的存储在容量、性能、扩展和管理等方面提出极高的要求。

薛向阳教授介绍:“我们正在建设一个人工智能与大数据的开放共享平台,就是希望为科研工作者解决数据存储、管理和利用等方面的挑战,让数据更好地为科研所用。”

科研新范式不应被存储所束缚

与其他行业相比,高校与科研机构在建立人工智能与大数据平台时,对于存储的要求更高,往往需要存储这个科研数据基础设施有效解决数据存不下、管不好、用不顺等挑战。

具体来看,如今的高校与科研机构普遍都在加速向“数据密集型科学”的科研新范式转变,多学科、交叉研究的现象很常见,都重视科研数据的采集与存储,直接导致了底层存储的巨大压力。

以脑科学与类脑研究为例,其所产生的数据主要以影像大文件为主,并包含了大量临时小文件数据。由于需要存储的数据量极大,并且始终保持着很高的增长速度,很多科研机构之前采用传统纵向扩展的存储很快出现明显瓶颈;也有一些天文研究机构,一开始寄希望于通过公有云的方式来保存数据,但是随着数据不断积累,通过公有云的方式不仅带来了额外的带宽成本,还存在效率等方面挑战。

在大数据世界“寻宝”,科研新范式如何用好存储这把利器?

 

“当前很多高校的研究都是基于大数据,首先最关键的是将数据存下来。”薛向阳教授直言道。

除了将数据很好地存下来,高校与科研机构大多都渴望将数据流动与共享起来,但现实情况却是数据管理粗放、不够精细化,数据共享低效、管理困难。比如在高校中,经常会遇到一份科研数据同时被多个课题组所使用,每个课题组都需要拷贝一份数据,在不断科研过程中,又各自产生了大量不同的数据,最后衍生出多种版本,让数据管理的复杂度大幅升上,降低了数据功效与流动的效率。

另外,因为学科的不同,对于存储的性能、功能要求也是千差万别,没有强大的存储做支撑,往往让科研人员用不顺。例如,从事机器视觉研究的人员,对于存储空间极度渴求;模拟脑神经网络相关的研究,当前只能模拟不到5%,要想100%模拟需要100 TB/s的通量,则对于数据存储性能和带宽要求极高,且挑战巨大。薛向阳教授表示:“高校应用偏科学研究,很多应用都较为超前,对于存储功能层面一直会产生新需求和新挑战。”

“一直以来,浪潮都跟国内外多所高校进行紧密合作。高校科研领域的确走在数据存储场景应用的最前沿。”浪潮存储产品线副总经理周川如是说,“浪潮存储有一些新功能、新思路都是在与高校、科研机构的深入合作中产生。”

例如,针对高校多个学科与多个课题组共享、使用、管理数据会产生多份数据的难题,浪潮存储为用户定制的软拷贝功能,在元数据和索引上做变更,用户视角是多份不同的文件,但底层则是共同的存储空间,只有数据修改和写入才会增加新的存储空间,实现多份数据极速拷贝和使用,还大幅降低存储容量开销和管理成本,让数据共享、使用变得更加高效。

浪潮存储资深架构师叶毓睿介绍:“软拷贝功能是浪潮存储在科研场景实践的一个小注脚,它带来了两大直接好处:一是数据共享加速,第二则是提升存储效率。”

新存储让科研新范式步入快车道

今年初,国家正式提出加快数据中心、5G等新型基础设施的建设进度。国家发改委之后则首次指出,创新基础设施为新基建三大范围之一,包括科技基础设施、科教基础设施等,重点支撑科学研究、技术开发等工作。随着中国高校科研费用投入逐年增加,多个科研领域取得诸多突破与成果,创新基础设施的重要性也日渐突出。

为此,浪潮存储今年提出新存储之道,在“云存智用、运筹新数据”理念的基础上,推进“存储即平台”战略,打造存储的极致性能、容量、管理等七大核心能力,为创新基础设施构建坚实的数据底座,让科研新范式进入到发展的快车道。

例如,在一些注重数据存储性能的科研场景,浪潮存储专门为高频访问的元数据和日志数据“开小灶”,采用SSD盘承载元数据和日志数据显著提升热点数据访问速度,并针对不同数据类型的场景进行优化,让每种场景都能够快速访问、使用数据。

在大数据世界“寻宝”,科研新范式如何用好存储这把利器?

 

又如,针对高校与科研机构运维人员较少、专业度有限的情况,浪潮存储基于智能存储管理平台InView,将人工智能技术融入存储系统,对存储系统进行集中管理、智能监测和故障预测报警,大幅降低科研机构日常的运维工作,并让运维走向自动化和智能化,从而更好地保障各种科研项目的顺利进行。

不仅如此,针对高校科研领域对于数据存储需求趋势,浪潮存储积极调研与深入沟通,在新存储之道中聚焦新架构、新介质和新能力的打造,在EB级容量、亿级IOPS、TB级带宽、7个9可靠性、存储自治等关键新能力上提前布局,为科研的数据底座“厉兵秣马”,提前做好准备。

总体来看,浪潮存储近年来为构建强大的科研新基建不断“加码”,除了复旦大学类脑智能科学与技术研究院、清华大学RUSH、华中科大苏州脑科学研究院、中国天眼等一系列明星科研项目中积累了丰富的实践经验外,还在科研领域打通用户需求洞察、场景功能适配与前沿技术创新,形成良性循环,让科研新范式加速步入发展的快车道。

这篇关于在大数据世界“寻宝”,科研新范式如何用好存储这把利器?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/566213

相关文章

解决pandas无法读取csv文件数据的问题

《解决pandas无法读取csv文件数据的问题》本文讲述作者用Pandas读取CSV文件时因参数设置不当导致数据错位,通过调整delimiter和on_bad_lines参数最终解决问题,并强调正确参... 目录一、前言二、问题复现1. 问题2. 通过 on_bad_lines=‘warn’ 跳过异常数据3

C#监听txt文档获取新数据方式

《C#监听txt文档获取新数据方式》文章介绍通过监听txt文件获取最新数据,并实现开机自启动、禁用窗口关闭按钮、阻止Ctrl+C中断及防止程序退出等功能,代码整合于主函数中,供参考学习... 目录前言一、监听txt文档增加数据二、其他功能1. 设置开机自启动2. 禁止控制台窗口关闭按钮3. 阻止Ctrl +

java如何实现高并发场景下三级缓存的数据一致性

《java如何实现高并发场景下三级缓存的数据一致性》这篇文章主要为大家详细介绍了java如何实现高并发场景下三级缓存的数据一致性,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 下面代码是一个使用Java和Redisson实现的三级缓存服务,主要功能包括:1.缓存结构:本地缓存:使

在MySQL中实现冷热数据分离的方法及使用场景底层原理解析

《在MySQL中实现冷热数据分离的方法及使用场景底层原理解析》MySQL冷热数据分离通过分表/分区策略、数据归档和索引优化,将频繁访问的热数据与冷数据分开存储,提升查询效率并降低存储成本,适用于高并发... 目录实现冷热数据分离1. 分表策略2. 使用分区表3. 数据归档与迁移在mysql中实现冷热数据分

C#解析JSON数据全攻略指南

《C#解析JSON数据全攻略指南》这篇文章主要为大家详细介绍了使用C#解析JSON数据全攻略指南,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录一、为什么jsON是C#开发必修课?二、四步搞定网络JSON数据1. 获取数据 - HttpClient最佳实践2. 动态解析 - 快速

MyBatis-Plus通用中等、大量数据分批查询和处理方法

《MyBatis-Plus通用中等、大量数据分批查询和处理方法》文章介绍MyBatis-Plus分页查询处理,通过函数式接口与Lambda表达式实现通用逻辑,方法抽象但功能强大,建议扩展分批处理及流式... 目录函数式接口获取分页数据接口数据处理接口通用逻辑工具类使用方法简单查询自定义查询方法总结函数式接口

SpringBoot3.X 整合 MinIO 存储原生方案

《SpringBoot3.X整合MinIO存储原生方案》本文详细介绍了SpringBoot3.X整合MinIO的原生方案,从环境搭建到核心功能实现,涵盖了文件上传、下载、删除等常用操作,并补充了... 目录SpringBoot3.X整合MinIO存储原生方案:从环境搭建到实战开发一、前言:为什么选择MinI

SQL中如何添加数据(常见方法及示例)

《SQL中如何添加数据(常见方法及示例)》SQL全称为StructuredQueryLanguage,是一种用于管理关系数据库的标准编程语言,下面给大家介绍SQL中如何添加数据,感兴趣的朋友一起看看吧... 目录在mysql中,有多种方法可以添加数据。以下是一些常见的方法及其示例。1. 使用INSERT I

Python使用vllm处理多模态数据的预处理技巧

《Python使用vllm处理多模态数据的预处理技巧》本文深入探讨了在Python环境下使用vLLM处理多模态数据的预处理技巧,我们将从基础概念出发,详细讲解文本、图像、音频等多模态数据的预处理方法,... 目录1. 背景介绍1.1 目的和范围1.2 预期读者1.3 文档结构概述1.4 术语表1.4.1 核

MySQL 删除数据详解(最新整理)

《MySQL删除数据详解(最新整理)》:本文主要介绍MySQL删除数据的相关知识,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录一、前言二、mysql 中的三种删除方式1.DELETE语句✅ 基本语法: 示例:2.TRUNCATE语句✅ 基本语