前言:
上一章,我们介绍局部重绘的各种基础知识和技巧点
本章,我们介绍背景替换与画面修复的方法
背景替换的核心,也是一种画面算法的表现结果。通过背景剔除,边界判断,或者空间算法的应用,识别出来什么是背景,什么是前景物体。场景中每个物件的边缘关系是什么。
让我们得以针对图片中的每个单独元素进行各种独立操作。根据三维世界场景中各元素的空间分割,模型边界判断等综合视觉分析能力,让最终用户可以在RA/SD软件体系中通过界面上的简单操作,就可以单独细致的控制场景中每个物体。
这样AI就让你拥有了更甚于普通美术人员的,图像操作能力了。
知识点:
- 背景替换
- 画面修复
基础知识:
背景剔除和替换的原理涉及使用图像分割技术将图像中的前景和背景分离,并通过模型生成新的背景以替换原始背景。以下是背景剔除和替换的基本原理和步骤:
基本原理
- 图像分割:
- 使用图像分割技术,如语义分割或实例分割,将图像中的前景对象(通常是人物或物体)与背景分离。这一步骤通常会生成一个掩码,指示图像中每个像素是前景还是背景。
- 背景替换:
- 在分割后,将背景部分的像素从原始图像中移除,并利用模型生成新的背景图像。这个新的背景图像可以是根据用户提供的参考图像生成的,也可以是根据模型自动生成的。
- 合成:
- 将生成的新背景与前景对象(分割后的前景)合成为最终图像。这个合成过程通常包括将前景对象放置在新背景上,并处理边界部分以使得合成更加自然。
详细步骤
- 图像分割:
- 使用预训练的图像分割模型(如语义分割模型)将图像中的前景和背景分离。这可以通过深度学习模型,如FCN、U-Net等,或者传统的计算机视觉方法实现。
- 背景移除:
- 将分割后的背景部分从原始图像中移除,可以简单地将这些像素设置为透明,或者用背景色填充。
- 背景生成:
- 使用生成模型(如GAN或扩散模型)生成新的背景图像。这个新的背景可以是根据用户提供的参考图像生成的,也可以是从模型学习到的背景分布中采样得到的。
- 合成:
- 将生成的新背景与前景对象合成为最终图像。这个过程通常包括对边界进行过渡处理,以使得前景对象与新背景融合更加自然。
关键技术
- 图像分割技术:
- 图像分割技术用于将图像中的前景和背景分离。这些技术可以是基于传统图像处理的方法,也可以是基于深度学习的方法。
- 生成模型:
- 生成模型用于生成新的背景图像。这些模型可以是生成对抗网络(GAN)、变分自编码器(VAE)或者扩散模型等。
- 图像合成技术:
- 图像合成技术用于将前景对象与新背景合成为最终图像。这包括对边界的处理、融合策略的选择等。
背景替换
背景替换其实有很多种方法。可以通过RMBG去除背景后,在融合Paint就可以实现。
我们生成了以下一张图
。 然后去除背景,同时我们需要的是Mask图,如下图勾选这个
重要的步骤来了。 我们使用图生图中 Inpaint upload的能力,第一张选择原图, 第二张选择我们上一步生成的Mask蒙版图。 MaskMode选择【Inpaint not masked】重绘没有被mask覆盖到的区域。
Denoising strenght必須要>0.75,否則原圖的背景會復原。 建議是1
Prompt中,我们随便输入描述背景信息的新内容, 可以看到效果。
可以看到出去Mask的這部分,都已經被2張圖合成的效果所代替了。 雖然最終的圖像效果有了,但是效果還不是太理想。 主要是Mask 太大了。這個mask可以自己在PS中修改。
同時後續我們使用ControlNet來做類似的事情,但是控制力會更強。 期待後面的強大課程。
总结
背景去除,替换 是一个经常遇到的实际需求。 是不是你非常快的掌握了?
RA/SD 衍生者AI训练营。发布者:chris,转载请注明出处:https://www.shxcj.com/archives/1025