跳到主要内容
AI快讯

AWS 扩展 MoE 强化学习|EKS、EFA 与 DeepEP 协同提升吞吐

AWS 披露面向大规模 RLHF 与 GRPO 的分层架构,并报告内部工作负载总 rollout 吞吐提高 40%。

ENHE AI5 min5 views

AWS 于 9 月 25 日发布大规模混合专家模型强化学习架构,将 Amazon EKS、Elastic Fabric Adapter、DeepEP 与 Amazon S3 分别用于编排、高速通信和持久化存储。文章把 rollout 生成、奖励模型推理、策略训练、经验缓冲与检查点拆到不同节点组,使各层可以独立扩展。AWS 称在相同的 48 台 P5en 实例上,DeepEP over EFA 配置让内部工作负载的总 rollout 吞吐提高 40%,并扩展到约一千个加速器。该结果依赖特定模型、版本和拓扑,不能直接外推到所有训练任务。

更多专题标签(6)
AWSMoEreinforcement learningAmazon EKSEFADeepEP
AWS 扩展 MoE 强化学习|EKS、EFA 与 DeepEP 协同提升吞吐

本文核心看点

AWS 于 2026 年 9 月 25 日介绍由 Amazon EKS、EFA、DeepEP 与 Amazon S3 组成的大规模 MoE 强化学习架构。
架构把 rollout、奖励模型、策略训练、经验缓冲和检查点拆分到可独立扩展的节点组。
AWS 报告同一组 48 台 P5en 实例上的内部工作负载总 rollout 吞吐提高 40%,并扩展到约一千个加速器。

直接回答

AWS 于 9 月 25 日发布大规模混合专家模型强化学习架构,将 Amazon EKS、Elastic Fabric Adapter、DeepEP 与 Amazon S3 分别用于编排、高速通信和持久化存储。文章把 rollout 生成、奖励模型推理、策略训练、经验缓冲与检查点拆到不同节点组,使各层可以独立扩展。AWS 称在相同的 48 台 P5en 实例上,DeepEP over EFA 配置让内部工作负载的总 rollout 吞吐提高 40%,并扩展到约一千个加速器。该结果依赖特定模型、版本和拓扑,不能直接外推到所有训练任务。

事实来源

AWS 于 2026 年 9 月 25 日介绍由 Amazon EKS、EFA、DeepEP 与 Amazon S3 组成的大规模 MoE 强化学习架构。

架构把 rollout、奖励模型、策略训练、经验缓冲和检查点拆分到可独立扩展的节点组。

AWS 报告同一组 48 台 P5en 实例上的内部工作负载总 rollout 吞吐提高 40%,并扩展到约一千个加速器。

AWS 扩展 MoE 强化学习|EKS、EFA 与 DeepEP 协同提升吞吐 封面信息图
ENHE AI 原创合成图:主题匹配的真实工作场景背景与事实核验文案。

核心变化

  • 训练与 rollout 使用独立节点组
  • DeepEP 通过 EFA 优化专家并行通信
  • S3 承担数据与检查点持久化
  • 公布特定内部配置的 40% 吞吐提升
AWS 扩展 MoE 强化学习|EKS、EFA 与 DeepEP 协同提升吞吐 团队操作流程图
把公告转成可测试、可回滚、可审计的四步流程。

对普通 AI 用户的影响

训练平台团队应把这条发布转成可重复的容量实验:固定模型、数据、软件版本和节点拓扑,分别测量训练、推理、网络与缓存利用率,再计算端到端策略迭代时间和成本。只有当吞吐提升没有伴随奖励质量下降、检查点风险或闲置资源上升时,才适合扩大集群。

给团队的操作清单

  1. 固定模型、版本与实例拓扑
  2. 分别记录训练、推理和网络瓶颈
  3. 用相同预算运行对照基线
  4. 验证奖励质量、恢复与总成本后再扩容

AI 前沿资讯与趋势解读、AI 软件应用与模型工具、AI 技能教程与验证方法、AI 账号服务与权限说明

FAQ

40% 是否适用于所有 MoE 训练?

不适用。它来自 AWS 披露的特定内部模型、版本和 48 台 P5en 配置。

只升级网络就能获得同样收益吗?

不能保证。文章强调编排、通信、缓存和模型结构需要协同设计。

总结

MoE 强化学习的瓶颈横跨计算、通信和编排,可信优化必须由同条件基线和端到端指标证明。

本文由 AI 辅助撰写;发布前由 ENHE AI 自动化审计核对官方来源、双语字段、图片权利、页面安全与历史去重。

这对普通用户意味着什么?

训练平台团队应把这条发布转成可重复的容量实验:固定模型、数据、软件版本和节点拓扑,分别测量训练、推理、网络与缓存利用率,再计算端到端策略迭代时间和成本。只有当吞吐提升没有伴随奖励质量下降、检查点风险或闲置资源上升时,才适合扩大集群。

你可能会用到这些工具

相关阅读

ChatGPT将退役Advanced与Standard Voice:12月11日前先做迁移验收

OpenAI已宣布Advanced Voice与Standard Voice将在2026年12月11日退役,之后普通语音对话默认转向GPT-Live,自定义GPT中的Advanced Voice也在同日弃用。本文给出迁移清单:先盘点常用设备、语言、耳机、自定义GPT、视频和屏幕共享,再用固定脚本对比唤醒、打断、数字、专名与长对话,记录无法迁移的功能和回退方式。当前视频与屏幕共享仍有独立过渡边界,不能只看语音按钮判断完成。

Claude Meetings测试版上线:先核对转录同意、外部来宾与连接器权限

Anthropic于11月12日推出Claude Meetings测试版,可作为可见参会者加入Google Meet,边听边写纪要、行动项、文档与白板。本文把首次启用拆成一场内部彩排:先确认套餐和管理员开关,再取得全员转录同意,核对外部来宾、连接器、会后访问与费用边界,并实际演练暂停、移除和删除后续资料,避免把“自动纪要”误当成默认可记录所有会议。

AI代理失配监控怎么做?从分层检测到人工响应的耐久清单

OpenAI公布前沿模型失配监控方法:用轻量探针、模型复核、深度调查与人工响应组成分层防线,并展示沙箱逃逸模拟与真实测试中的告警时间。其外部API监控面向带工具调用和会话跟踪的Responses API,不覆盖Chat Completions;内部还用于强化学习、评估与Codex。本文提供资产、权限、日志、分层告警、暂停策略、人工值守、误报复盘和覆盖盲区清单。

GitHub Copilot仓库默认插件正式可用:团队怎样避免插件权限失控

GitHub于2026年10月28日宣布仓库默认插件和企业托管插件控制在VS Code、Copilot CLI与Copilot应用中正式可用。维护者可为可信仓库定义插件市场和默认插件,企业管理员则可强制安装、阻止插件或只允许批准的市场;托管设置优先于仓库和个人选择。本文帮助团队从一个低风险插件开始,核对来源、权限、卸载与强制策略,避免方便安装演变成隐性工具扩权。

GitHub Copilot代码审查加入Max与正式批准:哪些PR值得多花AI额度

GitHub于2026年10月28日宣布Copilot代码审查的Max努力级别进入公开预览,并让Copilot批准正式可用。Max会让多个不同模型的审查代理独立检查,再由聚合代理消除分歧,覆盖面更广,但耗时更长、AI额度更多。批准默认关闭,启用后可计入仓库所需批准,新提交会使旧批准失效。本文用风险、费用与文件路径三项条件帮助团队选择Lite、Balanced或Max。

GitHub Copilot Fusion正式可用:Standard、High、Max该怎样选

GitHub于2026年10月28日宣布Copilot Fusion正式可用。用户不再为每个步骤手动选模型,而是选择Standard、High或Max工作强度,由Fusion通过单模型、级联或评审流程路由和编排已获组织允许的模型。该功能覆盖所有Copilot计划及多种客户端,但每个被调用模型仍按标准费率计费,付费计划仅在限时阶段享受模型成本七折。本文给出同任务、同验收条件下比较三档质量、时间和用量的测试方法。