⌘ K
… 读取采集状态 同步中...
雷

#部署/工程

今日 2 条
今天10月13日周二
10月12日周一
10月11日周日
  1. Hugging Face Blog44

    Ai2 通过预算制取代优先级调度，解决 GPU 集群高影响研究资源分配难题

    Ai2 用包含 GPU 时间预算、层级公平分配和时间切片契约的调度系统取代了优先级调度，将资源分配转化为透明的行政预算流程。该方案管理数千块 NVIDIA H100、B200 和 B300 GPU，旨在解决因用户独占资源导致的低效问题，使高影响力研究工作负载获得优先资源分配，同时保持集群高占用率。

10月9日周五
  1. AWS Machine Learning Blog49

    AWS 如何利用 Amazon Bedrock AgentCore 实现 AI 智能体的按推理付费

    Amazon Bedrock AgentCore 通过集成 x402 协议，支持 AI 智能体在运行时按次为模型推理等 API 调用进行支付。其管理钱包功能在基础设施层强制执行消费限制，确保智能体即使提示词被操纵也无法超额消费。通过该服务，构建者可将整合 x402 支付支持的时间从数月缩短至数天。

10月8日周四
10月7日周三
  2. AWS Machine Learning Blog28

    AWS 发布 AI 构建者手册：弥合知识与应用差距的六周培训方案

    AWS 推出针对非工程背景业务人员的六周结构化 AI 构建计划，旨在弥合 AI 认知与实际应用间的差距。该计划通过导师指导与生产级工具，帮助业务专业人员利用 Amazon Bedrock、Strands Agents SDK 等构建可落地的 AI 原型。实践证明，完成分阶段培训的人员保留的实际技能强度是两天密集培训者的三倍。

  3. AWS Machine Learning Blog27

    用户可直接在 SageMaker Studio 中管理 Amazon SageMaker HyperPod Spaces

    用户现可直接在 SageMaker Studio 界面中创建和管理 Amazon SageMaker HyperPod Spaces，无需使用命令行工具。该功能允许数据科学家在浏览器中启动 JupyterLab 或 Code Editor 环境，并支持在运行交互工作负载的同时执行训练任务。此更新简化了操作流程，将集群访问到开发的时间缩短至几次点击。

10月6日周二
  1. AWS Machine Learning Blog37

    SageMaker AI 推出 aws-ai-ml 技能，赋能编码智能体优化生成式 AI 推理

    Amazon SageMaker AI 推出 aws-ai-ml 技能，通过 AWS Agent Toolkit 为 Kiro、Claude Code 和 Codex 等支持 Model Context Protocol 的编码智能体提供推理优化与基准测试能力。该技能可让智能体生成可执行的 SageMaker Python SDK v3 代码，支持推荐部署配置、对比性能运行及生成生产环境代码。

10月2日周五
  4. AWS Machine Learning Blog37

    Amazon Payments 利用 AWS 上下文多臂 Bandit 优化获客漏斗转化

    Amazon Payments 在 Amazon SageMaker AI 上部署基于 LinUCB 的多目标上下文多臂 Bandit（MAB），用于优化产品获客漏斗。七周在线 A/B 测试显示，部分客户群体的最终漏斗转化率实现高个位数百分比相对提升。方案通过线性组合各阶段 UCB 分数解决“跷跷板”问题，并公开代码库供用户使用合成数据进行测试。

10月1日周四
9月30日周三
9月24日周四
  2. Google DeepMind62

    Google DeepMind 更新 Private AI Compute，引入安全服务端记忆

    Google DeepMind 更新了 Private AI Compute 平台，新增安全的服务端持久记忆功能。该架构通过硬件隔离的安全飞地（secure enclaves）和由用户设备持有的加密密钥，在云端加密存储信息，实现跨设备的长期上下文连续性，同时确保数据隐私。官方还公布了技术白皮书、防篡改的公开软件记录以及独立安全审计结果，供隐私社区验证。

    推荐理由：介绍了一种新的云端持久记忆架构，通过硬件隔离和数据加密解决了长期隐私与跨设备连续性的矛盾。

9月22日周二
9月21日周一
9月11日周五
9月10日周四
  1. Mistral AI33

    Cloudera 与 Mistral 合作将主权智能引入企业数据

    Cloudera 与 Mistral 宣布合作，将 Mistral 模型集成至 Cloudera 混合数据平台，支持企业在私有云、本地及完全隔离环境中运行推理。该合作允许企业基于专有数据在受控环境中定制模型，实现数据与智能的自主掌控。Mistral 计划将其主权 AI 应用于 Cloudera 平台上托管的 30 亿字节（exabytes）客户数据。

9月1日周二
  1. Hugging Face Blog77

    Hugging Face 发布 200+ 个 WebGPU 内核及浏览器推理工具 @huggingface/kernels

    Hugging Face 发布开源库 @huggingface/kernels 及包含 207 个 WebGPU 内核的集合，支持在浏览器中直接运行优化后的模型推理。该库将内核作为版本化包发布，并推出 Fleet 工具集以在真实硬件上众包性能与正确性测试。在 Apple M4 GPU 上，新内核在几何平均值上比 ONNX Runtime WebGPU 快 2.57 倍。

    推荐理由：原文展示了207个WebGPU内核的独立仓库结构和跨平台基准测试结果，为前端构建本地推理能力提供了可复用的工程基座。

8月25日周二
  1. Hugging Face Blog21

    Hugging Face 提出 QAH：压缩至 4-bit 的 60B 模型在 7 项基准上超越其全精度原版

    Hugging Face 提出量化感知修复（QAH）方法，通过从原始 120B 模型直接蒸馏，修复结构压缩并量化至 MXFP4 的 60B 模型。该 4-bit 模型在 7 项评测基准中得分超过其 bfloat16 全精度版本，兼具更小体积、更低成本与更高精度，验证了 QAH 在长上下文修复中的有效性。

8月21日周五
8月18日周二
  1. Hugging Face Blog44

    基于优先级的 GPU 分配器在基准测试中较 FIFO 调度器提升利用率最高 33 个百分点

    该约束感知型 GPU 分配器通过优化作业调度顺序，在七项基准测试场景中较 FIFO 调度器将 GPU 利用率提升了最高 33 个百分点，优先级加权产出提升最高 105%。算法将实时推理视为动态需求曲线而非固定预留，并依据优先级在全程规划中安排批处理任务，在硬件不变的前提下显著提升了集群资源效率。

8月6日周四
7月30日周四
7月29日周三
  1. Berkeley AI Research63

    K-Search 将 CUDA 内核优化经验迁移至 Apple Silicon

    伯克利团队扩展了 K-Search 进化内核搜索框架，支持 Apple 的 MLX 后端。通过构建结构化的 CUDA 到 MLX 翻译层，该框架利用现有 CUDA 内核作为知识库，在 Apple Silicon 上实现了近专家级的内核性能。

    推荐理由：该研究展示了如何将CUDA积累多年的内核优化经验结构化地转化为Apple Silicon的MLX优化策略，为跨硬件的AI内核优化提供了可迁移的方法论。