国产开源框架杀到全球第一梯队 京东JoyAI-Echo引领长革命

3周前 (06-08)热点话题1

  6月3日,京东宣布开源JoyAI-Echo长音视频生成框架。这一框架解决了角色一致性、音色控制和视频生成速度等三大行业痛点,实现了长视频的高效高质量生成。JoyAI-Echo还引入了“边聊边改”模式,将视频创作从静态生成转变为动态协作。

  

  JoyAI-Echo在各类视频创作、数字人直播、品牌营销、教育和游戏内容生产等领域具有巨大应用潜力,标志着京东在长视频生成领域取得了重大突破,进入全球领先行列。

  在AI视频领域,尽管十几秒短视频的生成质量已趋于成熟,但分钟级长视频的生成仍面临诸多挑战。例如,同一角色在不同镜头中外观不一致,说话人的音色变化无常,以及生成速度过慢等问题。这些问题使得AI长视频难以真正投入实际应用。JoyAI-Echo通过四项技术创新解决了这些难题:

  跨模态音视频记忆库确保角色在多镜头生成过程中保持一致的外观和音色。长达5分钟的视频中,角色身份、视觉形象和声音音色都能高度一致,避免了“同一个人演着演着变成另一个人”的尴尬情况。

  记忆驱动后训练流程结合SFT、跨模态RLHF和DMD技术,大幅提升了生成质量和推理速度。特别是DMD技术带来了约7.5倍的速度提升,使长视频生成时间大大缩短。

  智能“导演助理”Director Agent支持对话式编辑,用户可以通过自然语言表达需求,系统会自动拆分剧本、角色、场景和镜头,并根据用户反馈进行局部修改,无需重新生成整个视频。

  轻量化实时超分模块支持两档分辨率提升,确保高清输出且不卡顿。即使在流式延迟的约束下,也能保持稳定的高清表现。国产开源框架杀到全球第一梯队 京东JoyAI-Echo引领长视频革命

“国产开源框架杀到全球第一梯队 京东JoyAI-Echo引领长革命” 的相关文章

豫鲁苏皖鄂湘多地中小学幼儿园停课 寒潮雨雪天气影响

  受寒潮雨雪天气影响,河南、山东、江苏、安徽、湖北、湖南等多地宣布中小学幼儿园停课。   河南信阳市教育体育局1月19日发布紧急通知,根据气象灾害风险预警信息,预计1月...

两女孩被大狗撕咬获救:咬了不止一个人

  1月16日,广东汕头,一只狗从家里偷跑出来,追着两名女学生咬,路过的外卖小哥立即上前帮忙驱赶咬人的狗,狗反复追着女学生咬,在外卖小哥和周围路人的帮助下,两名女孩终于被救下。两名学生不同...

北京嫣然天使儿童医院仍在正常运行 面临搬迁困境引发关注

  近日,北京嫣然天使儿童医院因拖欠房租无力支付一事引发关注。该医院由李亚鹏参与创办,因拖欠2600多万元房租等费用,被法院下达强制执行令,面临必须搬迁、难以为继的困局。1月14日晚,李亚...

郑州一医院1天接诊98名骨折患者 医生提醒

  1月19日河南郑州,大雪+冻雨+路面结冰!郑州一骨科医院一天接诊98名骨折患者,医生:大部分患者是手腕、髋部、踝关节骨折,降雪持续,出行放慢脚步!若不慎摔倒,切勿盲目揉搓或搬动受伤部位...

中免拟3.95亿美元收购DFS大中华区业务 加速国际化布局

  1月19日,中国中免发布公告称,全资孙公司中免国际有限公司与DFS Venture Singapore (Pte) Limited、DFS Group Limited签署《框架协议》,...

寒假预警!这四类陷阱专坑学生 警惕网络诈骗

  寒假预警!这四类陷阱专坑学生警惕网络诈骗。   随着寒假模式开启,学生们在享受快乐假期的同时,各类诈骗陷阱也悄然“盯”上这一群体。记者从北京朝阳警方获悉,近期针对学生...