首发根据音频生成4K分辨率1小时长视频,复旦、百度联手打造AI开源模型Hallo2

IT之家 10 月 21 日消息,复旦大学和百度联合开发了一款名为 Hallo2 的全新 AI 模型,该模型可以生成长达数小时的 4K 分辨率人物动画,现已在 GitHub 发布开源。

Hallo2 模型建立在 latent diffusion models 的基础上,相比上一代 Hallo 模型的效果更好,支持了长视频生成,通过引入数据增强方法如 patch-drop 和高斯噪声,有效提高了长时间视频的视觉一致性和时间连贯性。

Hallo2 还结合了向量量化生成对抗网络和时间对齐技术,保证了高分辨率视频的质量和流畅性。

此外,Hallo2 将可调整的语义文本标签的肖像表情作为条件输入。这超出了传统的音频提示,可以提高可控性并增加生成内容的多样性。项目页面介绍称,Hallo2 是第一种实现 4K 分辨率并生成长达 1 小时的音频驱动的人像图像动画的方法,并通过文本提示进行增强。

IT之家附 Hallo2 项目地址如下:

https://fudan-generative-vision.github.io/hallo2/#/

相关文章

淘宝京东双11红包怎么领?红包补贴领取口令攻略来了
荣耀Magic7系列开订:首发送耳机 搭载AI Agent
IT之家 10 月 21 日消息,联想官方今日发文宣布,联想小新 A...
大模型发展到现在,我们应该关注什么? 像 OpenAI o1 这样的...
给马斯克“整了个大活”的那个男人,靠AI创业获得了500万美元...
IT之家 10 月 21 日消息,复旦大学和百度联合开发了一款名为...