阿里巴巴EMO：一张图片和音频即可生成谈话或唱歌视频

阿里巴巴集团智能计算研究院隆重推出EMO：Emote Portrait Alive，一种突破性的 AI，只需图像和音频即可生成富有表现力的人像视频！同时生成视频的长度和你音频长度相匹配，谈话和唱歌视频栩栩如生，支持任意语音、任意语速、任意图像... 

与传统方法不同，EMO使用直接的音频到视频方法，绕过了对中间3D模型或面部标志的需求。确保了整个视频的无缝帧转换和一致的身份保留，从而产生了高度表现力和逼真的动画，这意味着更平滑的过渡和更自然的表情。

EMO甚至擅长制作各种风格的歌唱视频！想象一下，只用你最喜欢的艺术家的一张图片来制作音乐视频！

EMO研究论文：https://arxiv.org/pdf/2402.17485.pdf

EMO开源地址：https://humanaigc.github.io/emote-portrait-alive/

EMO主要功能：

1、音频驱动的人像视频生成： 利用单张参考图像和音频输入（如说话或唱歌），EMO能够生成具有表情变化和头部动态的虚拟人像视频。这意味着用户可以通过提供一张静态图片和相应的音频文件，来创造出说话或唱歌的动态视频。无论视频中的人物进行怎样的表情变化或头部动作，其基础特征都来源于这张参考图片。

2、表情丰富的动态渲染和头部姿势支持： EMO特别强调在视频中生成自然而富有表情的面部动作，它可以捕捉微妙的面部表情和头部运动，创造出栩栩如生的谈话和唱歌视频，从而生成看起来自然、生动的面部动画，增加了视频的动态性和真实感。

3、支持多种语言和肖像风格： 该技术不限于特定语言或音乐风格，能够处理多种语言的音频输入，并且支持多样化的肖像风格，包括历史人物、绘画作品、3D模型和AI生成内容等。

4、快速节奏同步： EMO能够处理快节奏的音频，如快速的歌词或说话，确保虚拟人像的动作与音频节奏保持同步。

5、跨演员表现转换： EMO能够实现不同演员之间的表现转换，使得一位演员的虚拟形象能够模仿另一位演员或声音的特定表演，拓展了角色描绘的多样性和应用场景。

EMO应用场景：

• 创建即时配音

• 为电影和视频游戏创建逼真且富有表现力的角色

• 开发引人入胜的互动教育材料

• 给虚拟助手一个更像人类的外观和感觉

• 让视频电话会议更具吸引力和个性化

• 制作更引人入胜、更令人难忘的营销和广告视频

实验结果表明，EMO不仅能够制作令人信服的口语视频，还能够制作各种风格的歌唱视频，在表现力和真实感方面明显优于现有的最先进的方法。为视频生成设定了新的标准，对于未来来说意义重大。