京东开源 JoyAI-Echo 长音视频生成框架:实现对话式编辑功能,宣称“进入全球第一梯队”


IT之家 6 月 3 日消息,京东今日宣布推出 JoyAI-Echo 长音视频生成框架,号称直接解决行业头疼已久的三大难题 —— 角色易崩、声音乱变、生成缓慢。同时还实现了“对话式编辑”功能,不用再为改一个镜头重跑整条视频。

京东官方表示,JoyAI-Echo 的发布,标志着京东在长视频生成领域进入全球第一梯队

据介绍,JoyAI-Echo 框架内置了一个专门的记忆库,能在多镜头生成过程中,持续保存并调用角色的外观特征和说话人音色信息。实测结果显示,长达 5 分钟的视频里,角色身份、视觉形象和声音音色都能保持高度一致,再也不会出现“同一个人演着演着变成另一个人”的尴尬情况。

团队提出了记忆驱动后训练流程,结合 SFT、跨模态 RLHF 和 Distribution Matching Distillation(DMD)技术,不仅提升了生成质量,还实现了推理加速,DMD 一项技术就带来约 7.5 倍的速度提升。JoyAI-Echo 还加入了智能“导演助理”——Director Agent,支持自然语言说需求,自动拆分成剧本、角色、场景和镜头。

另外,JoyAI-Echo 还配套了专门的实时超分模块,通过单步超分就能生成高分辨率视频和精细化音频,并支持两档分辨率提升:736×1280 → 1152×1920 和 736×1280 → 1472×2560。

]article_adlist–>

            <!-- 非定向300*250按钮    17/09  wenjing  begin -->
            <!-- 非定向300*250按钮  end -->
        </div>



Source link

未经允许不得转载:紫竹林-程序员中文网 » 京东开源 JoyAI-Echo 长音视频生成框架:实现对话式编辑功能,宣称“进入全球第一梯队”
关于我们 免责申明 意见反馈 隐私政策
程序员中文网:公益在线网站,帮助学习者快速成长!
关注微信 技术交流
推荐文章
每天精选资源文章推送
推荐文章
随时随地碎片化学习
推荐文章
发现有趣的