AI新应用,斯坦福新研究为视频人物随意换口型

  • 时间:
  • 浏览:0

在电视和电影的拍摄中,演员在表演中老是会不小心犯下你这一 小错误。对于影片的剪辑师而言,不可能 你能能 至少巨资重新拍摄,没办法 就没办法 接受那此瑕疵。

没办法 亲戚亲戚朋友还要能 想象一下,剪辑师否有能通过文字剧另有两个 重新修改视频。你这一 过程简单地就像平时避免word文档那样,再加你你能能 的内容,删除多余的内容,甚至完正重新排列拍摄的影片,让它看起来就像有两个全新的视频那样,毫无瑕疵。

一批来自斯坦福大学、马克斯普朗克信息学研究所、普林斯顿大学和Adobe Research的研究人员组织了有两个团队,亲戚亲戚朋友创建了本身算法,它能编辑头部特写的对话视频——即视频中的讲话人主要老是出現肩膀以上的次责。

对于视频剪辑师和发行商而言,你这一 研究成果会非常有用。但都不 人担心你这一 工具会影响网上视频和图片的可信性。研究人员也针对那此工具提出了你这一 使用准则,提示观看者那此视频受到过修改。

“不幸的是,你这一 技术永远会招来不法分子的注意。尽管没办法 ,它能带来更多创造性的视频编辑和内容创作应用,因此也是值得的。”斯坦福大学博士后Ohad Fried说道。

你这一 应用通过全新的脚本从各种视频片段中提取讲话时的唇部动作,并采用机器学习将它“移植”到目标视频中,让观众看起来更自然。换句话说,它只是我让“唇部运动”和文本同步。

“从细胞层上看,那此视频非常完美,它不再要能 重新录制。”Fried说道,他以第一作者的身份发表了一篇相关研究的论文,目前该论文不可能 上传至论文预印本网站arXiv上。该项目结束了了两年前,当时Fried还只是我普林斯顿大学计算机科学家Adam Finkelstein手下的一名研究生。

一旦演员在表演时讲错了台词,剪辑师只要能 重新修改一下剧本台词,你这一 应用会自动找到视频中对应的片段,并搜索该视频中你这一 的台词,重新组装这段语音。换句话说,这只是我在重写视频的台词,就像亲戚亲戚朋友修改文档中拼错的单词那样。该算法要能 原始视频为素材,修改时间约为40分钟。

在此后来,你这一 算法会从你这一 视频中寻找人物讲话时的嘴部动作,生成新的视频。

为了让视频看起来更加自然,该算法还能让运动参数的变化更加平滑,并进行3D动画渲染。最后,它会通过本身名为Neural Rendering的机器学习技术提高视频的仿真度。

在138位参与者的测试里,该团队的编辑结果含高200%被评为“逼真”。也只是我说加工后的视频和原始视频非常像,但Fried表示还有很大的提升空间。