共计 2227 个字符,预计需要花费 6 分钟才能阅读完成。
内容一览:在春节档科幻电影「漂泊地球 2」中,主演吴京、刘德华、沙溢等人饰演的角色,逾越 14 年之久,视效团队正是借助 Deepfake de-aging 技术,呈现出了演员不同年龄段的模样。
关键词:De-aging Deepfake 漂泊地球
「漂泊地球 2」上映 8 天,总票房就曾经冲破了 24 亿,突破 36 项纪录,取得 91 项里程碑成就。其中,21 岁小鲜肉刘培强(吴京饰),以及年老帅气图恒宇(刘德华饰),给观众留下了粗浅的印象。
漂泊地球官网微博公布的一段视频中,讲述了换脸特效背地简约的工程难度。
吴京:不要被我年老俊美的相貌吓坏哦视频
起源:@电影漂泊地球官网微博
在知乎发问「《漂泊地球 2》幕后有哪些鲜为人知的制作难题」中,《漂泊地球 2》视效总监、MOREVFX 创始人徐建,坦言技术上第一难点就是「De-aging」数字换龄。
残缺答复
数字换龄,45+ 吴京变身 21 岁小鲜肉
de-aging 是一种利用于影视作品的视觉特效技术,是指利用数字编辑 (digitally editing) 或计算机绘图 (computer graphics,简称 CG) 技术,实现演员在特定场景下的年轻化。
在电影「漂泊地球 2」中,演员吴京、刘德华、王智等多人饰演的角色,都波及到了角色年轻化,即 de-aging。
用吴京年老时的 2D 素材训练 AI 模型进行 de-aging,为实拍素材实现换脸
一个小番外:依据电影剧情推算,刘培强出世年份正是 2023 年。
以吴京为例,事实中吴京在拍摄这部电影时,年龄 45+(依据百度百科材料推算),然而电影中 2044 年时的刘培强只有 21 岁,45+ 的演员挑战饰演 21 岁的「小鲜肉」,着实须要点技术加持。
3 大支流 de-aging 办法梳理
实际上,过后全世界支流的 de-aging 办法共分为 3 类。
该办法分为两个次要步骤:
- 制作数字人并进行 de-aging
通过演员佩戴的表情捕获设施,扫描演员并生成数据库,制作指标演员的数字人,而后依据演员晚期职业生涯剧照及视频素材,对数字人进行 de-aging。
- 基于演员佩戴的动作捕获设施,对数字人进行动画制作
依据「漂泊地球 2」视效总监徐建在知乎的分享,此办法估算高、国内相干人才有余,且身上的设施可能会影响打斗场景拍摄及演员表演情绪的传播。
威尔史密斯佩戴设施进行动作及表情捕获
在电影「爱尔兰人」中,工业光魔开发了一种无需佩戴物理设施或在面部做标记的 de-aging 技术,演员被三台摄像机设施盘绕拍摄,一台为失常拍摄机位,另外两台负责记录 de-aging 须要的数据,通过拍摄红外镜头收集必要数据,以数字形式再现表演。
摄像机记录的数据联合光线影响对角色进行 de-aging
在电影「美国队长 3:内战」中,视效团队利用小罗伯特唐尼晚期的影视作品、视觉素材,训练基于 Deepfake 算法的 AI 模型并实现换脸。
Deepfake 年老版钢铁侠 Tony Stark
据「漂泊地球 2」视效总监徐建介绍,早在电影开拍一年半之前,视效团队就开始了技术试验,测试了 5、6 种换脸办法后,视效团队最终决定采纳 de-aging 办法三,基于 Deepfake 算法用演员年老时的 2D 素材训练 AI 模型,最终迭代 500 多万次后,替换实拍素材。
人脸年轻化及增龄的论文梳理
《Production-Ready Face Re-Aging for Visual Effects》
DisneyResearch 团队提出了一个 Face Re-Aging Network,简称 FRAN,能够在不失落身份的前提下,主动重塑视频中的人脸图像,实现目标人脸年轻化或增龄成果。
输出人像年龄 35 岁,高低排别离为 re-aging 为 65 岁和 18 岁
《High Resolution Face Age Editing》
本篇论文提出了一个用于面部年龄编辑的 encoder-decoder 架构,应用一种简略的办法实现了高分辨率人脸年龄编辑,能够输入 1024*1024 分辨率的图像。
根据输出人脸(黄色框),输入不同年龄段的高质量人脸图像
《Only a Matter of Style: Age Transformation Using a Style-Based Regression Model》
本篇论文提出了一种图像到图像的转换方法,间接将实在的面部图像编码到事后训练好的无条件 GAN 的 latent space 中,进行老化转变。能够仅凭试验者的一张照片就生成全年龄阶段的模样,准确到每一条皱纹。
应用论文提出的 SAM 架构生成的老化后果
像素级换脸技术任重道远,仍需行业标准
「漂泊地球 2」中,年老刘培强和图恒宇的出现,尽管是基于 Deepfake 算法实现,然而通过考察泛滥相干论文,联合视效总监徐建的介绍,咱们得悉在电影制作的前期,仍需业余前期人员对换脸后的角色进行简约的欠缺和修复。
这是因为换脸技术在一些细节解决上仍存在有余,如表情僵硬、眼神表情不天然,这些「不协调」在电影大荧幕上无疑会被放大,给观众带来不适。
减龄及增龄算法的倒退,要实现与影视作品中的角色「完满适配」,恐怕还有很长的路要走,而如何监控 Deepfake 这项技术不被滥用,也是工业界、科技界乃至普通用户不得不面临的一个潜在危险和挑战。十分冲动能看到国产科幻电影有如此恢宏壮观的场景设计和视觉特效,期待小破球 3!
参考链接:[1] https://www.zhihu.com/questio…[2] https://onlinelibrary.wiley.c…[3] https://www.respeecher.com/bl…