Controlnet作者放出新的大招 IC-Light,可以操控图像生成时的光照,对内容主体重新打光生成符合新背景环境光照的图片

本文主要是介绍Controlnet作者放出新的大招 IC-Light,可以操控图像生成时的光照,对内容主体重新打光生成符合新背景环境光照的图片,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

IC-Light代表Impose Constant Light,是一个控制图像照明的项目。可以操控图像生成时的光照,对内容主体重新打光生成符合新背景环境光照的图片。这下商品图合成这种需要最大程度保持原有主体 ID 需求的最大的问题解决了。

目前,已经发布了两种类型的模型:

  • 文本条件重新光照模型。从原图分离主体之后通过提示词生成符合光照要求的背景同时主体除了光照之外和原主体一致。

  • 背景条件模型。给定背景图片和前景主体,会自动生成环境光,保证背景和前景的融合。

相关链接

Github链接:https://github.com/lllyasviel/IC-Light

Demo地址:https://huggingface.co/spaces/lllyasviel/IC-Light

生成效果

文本条件模型

Lighting Preference只是初始潜在值。 例如,如果照明首选项为“左”,则初始潜在值是左白右黑。

  • 提示:美丽的女人,细致的脸,温暖的气氛,在家,卧室

  • 照明偏好:左

  • Prompt: beautiful woman, detailed face, warm atmosphere, at home, bedroom

  • Lighting Preference: Left

  • Prompt: beautiful woman, detailed face, sunshine from window

  • Lighting Preference: Left

  • Prompt: beautiful woman, detailed face, light and shadow

  • Lighting Preference: Left

  • Prompt: (beautiful woman, detailed face, soft studio lighting)

背景条件模型

背景条件模型不需要仔细提示。只需使用“帅哥、电影灯光”等简单提示即可。

施加一致的光

在 HDR 空间中,照明具有所有光传输都是独立的属性。因此,不同光源的外观混合相当于混合光源的外观:

以上面的灯光舞台为例,“外观混合”和“光源混合”的两幅图像是一致的(理想情况下,HDR空间中的数学等效)。

我们在训练重光照模型时施加了这种一致性(在潜在空间中使用mlp)。因此,该模型能够产生高度一致的光照-如此一致,不同的光照甚至可以合并为法线贴图!尽管这些模型是潜在扩散的。

从左到右分别是输入、模型输出、重光照、分割阴影图像和合并法线贴图。请注意,该模型没有使用任何法线贴图数据进行训练。这种正常估计来自于重光照的一致性。 你可以使用这个按钮重现这个实验(它是4倍慢,因为它重照图像4次)

使用模型需注意的地方

  • iclight_sd15_fc.safetensors默认的重光照模型,以文本和前景为条件。你可以使用初始潜波来影响重亮。

  • iclight_sd15_fcon.safetensors与“iclight_sd15_fc”相同。“安全装置”,但经过了噪音补偿训练。注意,默认的“iclight_sd15_fc。在用户研究中,Safetensors的表现略优于该模型。这就是为什么默认模型是没有偏移噪声的模型。

  • iclight_sd15_fbc.safetensors -以文本、前景和背景为条件的重新照明模型。

这篇关于Controlnet作者放出新的大招 IC-Light,可以操控图像生成时的光照,对内容主体重新打光生成符合新背景环境光照的图片的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/999763

相关文章

Go语言编译环境设置教程

《Go语言编译环境设置教程》Go语言支持高并发(goroutine)、自动垃圾回收,编译为跨平台二进制文件,云原生兼容且社区活跃,开发便捷,内置测试与vet工具辅助检测错误,依赖模块化管理,提升开发效... 目录Go语言优势下载 Go  配置编译环境配置 GOPROXYIDE 设置(VS Code)一些基本

linux批量替换文件内容的实现方式

《linux批量替换文件内容的实现方式》本文总结了Linux中批量替换文件内容的几种方法,包括使用sed替换文件夹内所有文件、单个文件内容及逐行字符串,强调使用反引号和绝对路径,并分享个人经验供参考... 目录一、linux批量替换文件内容 二、替换文件内所有匹配的字符串 三、替换每一行中全部str1为st

从入门到精通详解LangChain加载HTML内容的全攻略

《从入门到精通详解LangChain加载HTML内容的全攻略》这篇文章主要为大家详细介绍了如何用LangChain优雅地处理HTML内容,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录引言:当大语言模型遇见html一、HTML加载器为什么需要专门的HTML加载器核心加载器对比表二

基于Python开发一个图像水印批量添加工具

《基于Python开发一个图像水印批量添加工具》在当今数字化内容爆炸式增长的时代,图像版权保护已成为创作者和企业的核心需求,本方案将详细介绍一个基于PythonPIL库的工业级图像水印解决方案,有需要... 目录一、系统架构设计1.1 整体处理流程1.2 类结构设计(扩展版本)二、核心算法深入解析2.1 自

python生成随机唯一id的几种实现方法

《python生成随机唯一id的几种实现方法》在Python中生成随机唯一ID有多种方法,根据不同的需求场景可以选择最适合的方案,文中通过示例代码介绍的非常详细,需要的朋友们下面随着小编来一起学习学习... 目录方法 1:使用 UUID 模块(推荐)方法 2:使用 Secrets 模块(安全敏感场景)方法

Windows环境下解决Matplotlib中文字体显示问题的详细教程

《Windows环境下解决Matplotlib中文字体显示问题的详细教程》本文详细介绍了在Windows下解决Matplotlib中文显示问题的方法,包括安装字体、更新缓存、配置文件设置及编码調整,并... 目录引言问题分析解决方案详解1. 检查系统已安装字体2. 手动添加中文字体(以SimHei为例)步骤

Java JDK1.8 安装和环境配置教程详解

《JavaJDK1.8安装和环境配置教程详解》文章简要介绍了JDK1.8的安装流程,包括官网下载对应系统版本、安装时选择非系统盘路径、配置JAVA_HOME、CLASSPATH和Path环境变量,... 目录1.下载JDK2.安装JDK3.配置环境变量4.检验JDK官网下载地址:Java Downloads

基于Python实现一个图片拆分工具

《基于Python实现一个图片拆分工具》这篇文章主要为大家详细介绍了如何基于Python实现一个图片拆分工具,可以根据需要的行数和列数进行拆分,感兴趣的小伙伴可以跟随小编一起学习一下... 简单介绍先自己选择输入的图片,默认是输出到项目文件夹中,可以自己选择其他的文件夹,选择需要拆分的行数和列数,可以通过

SQLite3 在嵌入式C环境中存储音频/视频文件的最优方案

《SQLite3在嵌入式C环境中存储音频/视频文件的最优方案》本文探讨了SQLite3在嵌入式C环境中存储音视频文件的优化方案,推荐采用文件路径存储结合元数据管理,兼顾效率与资源限制,小文件可使用B... 目录SQLite3 在嵌入式C环境中存储音频/视频文件的专业方案一、存储策略选择1. 直接存储 vs

利用Python脚本实现批量将图片转换为WebP格式

《利用Python脚本实现批量将图片转换为WebP格式》Python语言的简洁语法和库支持使其成为图像处理的理想选择,本文将介绍如何利用Python实现批量将图片转换为WebP格式的脚本,WebP作为... 目录简介1. python在图像处理中的应用2. WebP格式的原理和优势2.1 WebP格式与传统