全新高效模型架构!RWKV-7s闪耀WAIC


                                                                                                                                                <p>2025 年 7 月 26-29 日,<strong>RWKV 团队受邀参加2025世界人工智能大会(WAIC 2025)</strong>, 并在大会公开了 RWKV 最新的高效大模型架构:RWKV-7s,吸引了来自产业界、学术界及媒体的广泛关注与讨论。</p> 

战略合作 广泛落地

7月26日,移远通信宣布与RWKV公司建立全面合作关系,双方将依托移远的算力平台,优化并支持RWKV最新模型架构,共同推动大模型在端侧设备的低资源占用部署。

RWKV x 移远通信

端侧大模型迎来“轻”革命!移远通信 × RWKV 打造“轻量AI大脑”

凭借RWKV架构“资源占用和推理速度恒定”的特性,RWKV系列模型在端侧部署具有天然优势。现在,RWKV已与多家芯片厂商、具身智能厂商合作将RWKV模型部署在芯片及机器人上,如:高通、联发科、Intel、AMD、英伟达、地平线机器人、有鹿机器人等等。

全新技术 全面领先

WAIC 大会首日,承接 RWKV-7 优势的 RWKV-7s 新型高效大模型架构正式发布。凭借其原创的 DeepEmbed 和 DeepEmbedAttention 技术,成为现场焦点并 荣获WAIC“镇馆之宝-未来之星”称号

WAIC-Award 镇馆之宝|WAIC 2025镇馆之宝及系列奖项名单公布

RWKV-7s 是 RNN+DeepEmbedAttention 混合架构,兼具高效计算与强长文本性能,其设计创新包括:

  • 原创 DeepEmbed 技术,大稀疏模型只需小显存,比 MoE 显著更适合端侧!

  • 原创 DeepEmbedAttention (DEA) 技术,长文本性能看齐 Attention,而 KV cache 仅为 MLA 的 1/9,更快更省!

DeepEmbed DeepEmbedAttention

RWKV-7s 架构支持适配大语言模型、多模态、智能体等多种应用场景,凭借广泛的适配性吸引了现场各领域有智能化发展需求的企业关注。

多场深度分享

大会期间,RWKV 联合创始人 & COO 罗璇及 RWKV-PEFT 与 WorldRWKV 作者康嘉乐受邀参与多场技术论坛与专题活动,围绕 RWKV-7s 混合架构、AGI 演进路径及端侧部署趋势等话题展开深度分享。

mohe open_talk

端侧 Demo

展会现场,RWKV 展台同步展出了五款 RWKV 自研的端侧离线应用。凭借对多模态场景的广泛覆盖,收获了现场观众的热烈反响。

其中,RWKV 作曲家升级全新输入方式。除原有的虚拟键盘和蓝牙 MIDI 键盘输入以外,新增哼唱识别乐谱输入功能,大幅降低使用门槛,便捷不同用户使用

RWKV 作曲家

RWKV Chat 内置 RWKV7-G1 推理模型,无需联网即可实现推理、深度对话与文本续写。其中的 RWKV7-G1 2.9B 模型在高通手机平台的速度可达 30 token/s,且由于 RWKV 架构无需 KV cache,在超长推理后仍然可以速度恒定,内存占用恒定。

本次展示,RWKV Chat 全面优化 UI 界面,新增 Agent 陪聊与文本续写功能,开发团队还同步推出新手、高级、专家三种应用模式,以满足不同技术背景用户的需求为核心,为用户带来更个性化的体验。

RWKV Chat

此外,RWKV 展位还演示了端侧离线部署的图像多模态应用 RWKV See;超长 CoT 解决复杂数独的 RWKV 数独;以及语音多模态应用 RWKV Talk

RWKV 数独

RWKV See

RWKV Talk

RWKV— 面向未来的高效 AI 大模型架构

感谢每一位在 WAIC 2025 与 RWKV 相遇的朋友。未来,RWKV 期待深度参与社区技术交流与资源整合,携手伙伴共同推动普惠开放的 AI 未来。目前,下一代核心架构 RWKV-8 的研发已在加速筹备中,预计于今年内发布。

更多 RWKV 技术动态、产品进展及社区合作信息,敬请持续关注 RWKV 官方公众号。

                                                                                </div>


维权提醒:如果你或身边的朋友近五年内因投顾公司虚假宣传、诱导交费导致亏损,别放弃!立即联系小羊维权(158 2783 9931,微信同号),专业团队帮你讨回公道! 📞立即免费咨询退费


Source link

未经允许不得转载:紫竹林-程序员中文网 » 全新高效模型架构!RWKV-7s闪耀WAIC

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址
关于我们 免责申明 意见反馈 隐私政策
程序员中文网:公益在线网站,帮助学习者快速成长!
关注微信 技术交流
推荐文章
每天精选资源文章推送
推荐文章
随时随地碎片化学习
推荐文章
发现有趣的