全球首个开源类Sora模型大升级,16秒720p画质电影感爆棚!代码和权重全面开源!

本文主要是介绍全球首个开源类Sora模型大升级,16秒720p画质电影感爆棚!代码和权重全面开源!,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

目录

01 视频界开源战士

02 深度解码技术

03 打破闭环,开源赋能


潞晨Open-Sora团队刚刚在720p高清文生视频质量和生成时长上实现了突破性进展!

全新升级的Open-Sora不仅支持无缝生成任意风格的高质量短片,更令人惊喜的是,团队选择继续全部开源。
 

GitHub地址:https://github.com/hpcaitech/Open-Sora



没体验过OpenAI最新版GPT-4o?快戳最详细升级教程,几分钟搞定:

升级ChatGPT-4o Turbo步骤icon-default.png?t=N7T8https://www.zhihu.com/pin/1768399982598909952

通过他们的模型权重,可以生成各种酷炫短片,如海浪与海螺的亲密接触,以及深不可测的森林秘境。

人物肖像的渲染也相当逼真,不论是中国古典美女还是欧美风人物,都能保持一致的风格

即使是电影级别的镜头制作,也能轻松应对。


例如,实现流畅的变焦效果,为影片增添专业级的视觉效果,帮助电影制作人员创造出逼真的电影镜头。


 

01 视频界开源战士


LambdaLabs,美国科技界独角兽,基于潞晨团队先前开源的Open-Sora模型权重打造了一个数字乐高宇宙,乐高迷们在这里找到了极致的创意体验。

报告地址:https://github.com/hpcaitech/Open-Sora/blob/main/docs/report_03.md


潞晨团队深知开源对于文生视频技术突破的重要性,他们不仅持续开源模型权重,还在Github上晒出了技术路线,让每个玩家都能成为文生视频大模型的掌控者。

02 深度解码技术


潞晨Open-Sora团队的技术报告深度剖析了本次模型训练的核心和关键。在上一个版本基础上,引入了视频压缩网络(Video Compression Network)、更优的扩散模型算法、更多的可控性,并利用更多的数据训练出了1.1B的扩散生成模型。


在这个「算力为王」的时代,视频模型训练有两大痛点:计算资源的巨大消耗与模型输出质量的高标准。

潞晨Open-Sora团队以一种极简而有效的方案,成功地在成本和质量之间找到了平衡点。

Open-Sora团队提出了一个创新的视频压缩网络(VAE),该网络在空间和时间两个维度上分别进行压缩。

具体来说,他们首先在空间维度上进行了8x8倍的压缩,接着在时间维度上进一步压缩了4倍。

通过这种创新的压缩策略,既避免了因抽帧而牺牲视频流畅度的弊端,又大幅降低了训练成本,实现了成本与质量的双重优化。

Stable Diffusion 3,最新的扩散模型,通过采用rectified flow技术替代DDPM,显著提升了图片和视频生成的质量。

尽管SD3的rectified flow训练代码尚未公开,但潞晨Open-Sora团队已经基于SD3的研究成果,提供了一套完整的训练解决方案,包括:

  • 简单易用的rectified flow训练
     
  • 用于训练加速的Logit-norm时间步长采样
     
  • 基于分辨率和视频长度的时间步长采样

通过这些技术的整合,不仅能够加快模型的训练速度,还能显著减少推理阶段的等待时间,确保用户体验的流畅性。此外,这套训练方案还支持在推理过程中输出多种视频宽高比,满足多样化场景下的视频素材需求,为视频内容创作者提供了更加丰富的创作工具。

他们在报告中也透露了更多关于模型训练的核心细节,包括数据清洗和模型调优的实用技巧,以及构建了更完善的模型评估体系,保障模型的稳健性和泛化能力。

他们还提供了可以自行一键部署的Gradio应用,并支持调节输出的运动分数、美学分数和镜头移动方式等参数,甚至可以一键通过GPT-4o自动修改指令并支持中文输入。

03 打破闭环,开源赋能

自OpenAI Sora发布以来,业界对Sora的开放性期待值爆表,但现实却是持续的等待游戏。潞晨Open-Sora的开源,为文生视频的创新和发展注入了强劲的活力。

这一转型为企业用户解锁了自主开发文生视频应用的新技能,无论是打造沉浸式游戏、创意广告还是制作影视大片,文生视频技术的应用场景得到了指数级扩展。


如何使用WildCard正确方式打开GPT-4o,目前 WildCard 支持的服务非常齐全,可以说是应有尽有!

官网有更详细介绍:WildCard

推荐阅读:


更强大Mamba-2正式发布啦!!!



黎曼猜想取得重大进展!!

这篇关于全球首个开源类Sora模型大升级,16秒720p画质电影感爆棚!代码和权重全面开源!的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1073751

相关文章

Java集合之Iterator迭代器实现代码解析

《Java集合之Iterator迭代器实现代码解析》迭代器Iterator是Java集合框架中的一个核心接口,位于java.util包下,它定义了一种标准的元素访问机制,为各种集合类型提供了一种统一的... 目录一、什么是Iterator二、Iterator的核心方法三、基本使用示例四、Iterator的工

Java 线程池+分布式实现代码

《Java线程池+分布式实现代码》在Java开发中,池通过预先创建并管理一定数量的资源,避免频繁创建和销毁资源带来的性能开销,从而提高系统效率,:本文主要介绍Java线程池+分布式实现代码,需要... 目录1. 线程池1.1 自定义线程池实现1.1.1 线程池核心1.1.2 代码示例1.2 总结流程2. J

JS纯前端实现浏览器语音播报、朗读功能的完整代码

《JS纯前端实现浏览器语音播报、朗读功能的完整代码》在现代互联网的发展中,语音技术正逐渐成为改变用户体验的重要一环,下面:本文主要介绍JS纯前端实现浏览器语音播报、朗读功能的相关资料,文中通过代码... 目录一、朗读单条文本:① 语音自选参数,按钮控制语音:② 效果图:二、朗读多条文本:① 语音有默认值:②

Vue实现路由守卫的示例代码

《Vue实现路由守卫的示例代码》Vue路由守卫是控制页面导航的钩子函数,主要用于鉴权、数据预加载等场景,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着... 目录一、概念二、类型三、实战一、概念路由守卫(Navigation Guards)本质上就是 在路

uni-app小程序项目中实现前端图片压缩实现方式(附详细代码)

《uni-app小程序项目中实现前端图片压缩实现方式(附详细代码)》在uni-app开发中,文件上传和图片处理是很常见的需求,但也经常会遇到各种问题,下面:本文主要介绍uni-app小程序项目中实... 目录方式一:使用<canvas>实现图片压缩(推荐,兼容性好)示例代码(小程序平台):方式二:使用uni

JAVA实现Token自动续期机制的示例代码

《JAVA实现Token自动续期机制的示例代码》本文主要介绍了JAVA实现Token自动续期机制的示例代码,通过动态调整会话生命周期平衡安全性与用户体验,解决固定有效期Token带来的风险与不便,感兴... 目录1. 固定有效期Token的内在局限性2. 自动续期机制:兼顾安全与体验的解决方案3. 总结PS

C#中通过Response.Headers设置自定义参数的代码示例

《C#中通过Response.Headers设置自定义参数的代码示例》:本文主要介绍C#中通过Response.Headers设置自定义响应头的方法,涵盖基础添加、安全校验、生产实践及调试技巧,强... 目录一、基础设置方法1. 直接添加自定义头2. 批量设置模式二、高级配置技巧1. 安全校验机制2. 类型

Python屏幕抓取和录制的详细代码示例

《Python屏幕抓取和录制的详细代码示例》随着现代计算机性能的提高和网络速度的加快,越来越多的用户需要对他们的屏幕进行录制,:本文主要介绍Python屏幕抓取和录制的相关资料,需要的朋友可以参考... 目录一、常用 python 屏幕抓取库二、pyautogui 截屏示例三、mss 高性能截图四、Pill

使用MapStruct实现Java对象映射的示例代码

《使用MapStruct实现Java对象映射的示例代码》本文主要介绍了使用MapStruct实现Java对象映射的示例代码,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,... 目录一、什么是 MapStruct?二、实战演练:三步集成 MapStruct第一步:添加 Mave

Java抽象类Abstract Class示例代码详解

《Java抽象类AbstractClass示例代码详解》Java中的抽象类(AbstractClass)是面向对象编程中的重要概念,它通过abstract关键字声明,用于定义一组相关类的公共行为和属... 目录一、抽象类的定义1. 语法格式2. 核心特征二、抽象类的核心用途1. 定义公共接口2. 提供默认实