⌘ K
… 读取采集状态 同步中...
雷

#部署/工程

今日 10 条
10月4日周日
  1. InfoQ CN18

    QCon 上海:企业级 Agent Infra 架构实践——从安全沙箱到网络管控与身份治理

    2026 年 QCon 上海站将举行,上汽集团架构师方宇晨将分享企业级 Agent Infra 架构实践。该方案基于 Kubernetes,采用 Agent Sandbox 实现运行时隔离,结合 OVN-Kubernetes 构建多租户 L3/L4 网络,并通过 Istio 和 Keycloak 分别实现 L7 权限控制与统一身份治理,为 AI 应用的安全运行提供完整边界。

  2. Google AI Developers Blog32

    Google Colab 纳入 Google AI 订阅计划

    Google 将 Colab 高级权益纳入 Google AI 订阅计划,订阅者可获得更快加速器优先使用权和更强大机器访问权限。Google AI Ultra 用户还能解锁不间断后台执行和 Premium GPU 访问,让长耗时训练无需保持浏览器标签页开启。现有 Colab 订阅用户权益不受影响,且可与 Google AI 订阅权益叠加使用。

  3. Google AI Developers Blog56

    MaxText 在 TPU 上复现 Olmo 3 7B 预训练的工程案例分析

    Google 团队在 MaxText 框架上复现了 Ai2 开发的 Olmo 3 7B 大模型的 Stage 1 预训练和 Stage 2 中期训练过程。研究通过多维度测试发现并修复了一个导致模型过拟合的数据加载 Bug,同时优化了 TPU 硬件利用率,将模型推理效率提升了 12.4%。报告证明了跨硬件平台复现大模型训练需严格对标模型泛化能力,而非仅依赖训练损失曲线。

  4. Google AI Developers Blog31

    Google TPU 上加速视频扩散时空稀疏注意力

    Google 开发者博客展示了一种在 TPU 上加速视频扩散模型的方法,通过将理论稀疏性转化为端到端的速度提升。该方法利用视频扩散中注意力质量高度集中的特性,动态路由空间头和时间头至相应的稀疏掩码。文中详细对比了基于 JAX 和 Pallas 的自定义 Splash Attention 内核在单个 TPU v6e 设备上的性能优化过程。

  5. Simon Willison38

    AWS 与 Google Cloud 推出默认硬性预算上限功能

    AWS 近期发布支出限制功能,允许用户设置月度消费上限,当项目使用量达到限额时当月服务将自动暂停。Google Cloud 也在 7 月推出了类似的 Spend Caps 功能,为特定服务设置月度财务上限。作者建议此类硬性预算上限应成为默认选项,并要求移除上限需通过明确的“opt-in”方式确认,以避免意外高额账单。

10月3日周六
  1. MarkTechPost69

    IBM Bob 自托管版 GA:支持离线环境下的智能体软件开发

    IBM Bob 自托管部署选项已正式发布通用可用(GA),支持本地、私有云及物理隔离(air-gapped)网络环境运行。该方案采用自带模型(BYOL)策略,不捆绑模型;完全隔离场景支持 NVIDIA Nemotron 和 Poolside Laguna,混合模式可将部分工作负载路由至 Claude、Gemini 或 GPT 等外部模型。

    推荐理由:文章梳理了 IBM Bob 自托管版本的可用模型矩阵,并对比了 GitLab、Mistral 和 GitHub 在隔离网络下的智能体编码能力。

  2. 硅星人Pro45

    Stripe 警示 Token 盗用风险,AI 企业混合定价占比升至 41%

    Stripe 数据显示,AI 领域 Token 盗用严重,其 Radar 反欺诈产品在 30 天内拦截了超过 330 万次高风险免费试用。过去一年,采用混合定价模式的 AI 企业占比从 27% 增至 41%,而固定订阅制占比降至 24%。Stripe 指出,增长最快的 AI 企业正集中在用户付费意愿明确的产品领域,并推出了支持基于 Token 消耗计费的 Billing 服务。

  3. AI HOT72

    Baseten 工程师实测:LLM 生成的推理引擎比 vLLM 快最多 90%

    Baseten 工程师利用 MetaInfer 框架和 Claude Code 为 Qwen-3.6-35B-A3B 构建推理引擎 VibeQwen,在单张 B200 上比 vLLM 0.25.1 快 90%。VibeQwen 将首 token 延迟从 28ms 降至 12ms,并发 32 时吞吐量提升 71%。

    推荐理由:原文提供了LLM生成推理引擎的具体性能对比数据,可帮助评估自动优化在部署工程中的实际可行性。

  4. AI HOT57

    Prime Intellect 发布推理服务平台 Prime Inference

    Prime Intellect 正式发布推理服务平台 Prime Inference,提供无服务器端点与预留容量,跨数据中心服务前沿开源模型。该平台在 NVIDIA Blackwell 基础设施上运行,内部每天处理近一万亿 token,首个公开部署 GLM-5.3 已在 OpenRouter 上线,具备低延迟、高可用性及接近零的工具调用错误率。

10月2日周五
  1. AI HOT66

    Google Project Suncatcher 首颗原型卫星发射入轨

    Google Project Suncatcher 宣布其首颗原型卫星已搭乘 SpaceX Transporter-18 拼车任务成功入轨。该卫星由 Google 与 Planet 合作建造,旨在收集 Google TPU 在太空物理应力及极端环境下的表现数据,以评估连接多个卫星星座实现规模化机器学习的可行性。

    推荐理由:原文给出了原型卫星的发射任务、合作方Planet以及测试Google TPU太空表现的目标,读者可以据此了解太空算力方案的实际进展。

  2. AWS Machine Learning Blog37

    Amazon Payments 利用 AWS 上下文多臂 Bandit 优化获客漏斗转化

    Amazon Payments 在 Amazon SageMaker AI 上部署基于 LinUCB 的多目标上下文多臂 Bandit(MAB),用于优化产品获客漏斗。七周在线 A/B 测试显示,部分客户群体的最终漏斗转化率实现高个位数百分比相对提升。方案通过线性组合各阶段 UCB 分数解决“跷跷板”问题,并公开代码库供用户使用合成数据进行测试。

10月1日周四
  1. Sac24

    6.1 Sol Ultra 的 3D 能力媲美 Astra,使用 Blender 复刻法拉利 F1 赛车及爆炸视频还原度高。全程迭代仅消耗周额度 10% 左右,性价比极高,适合作为 opus 5.5 的助手。

    引用Sac@Saccc_c

    我宣布,6.1 Sol Ultra是目前Codex里性价比极高的模型,成功让Codex又站起来了! 工作了2h,才消耗5x 周额度的2%(见下图) 执行效果也很不错,非常适合作为opus 5.5的助手,准备用opus 5.5+6.1 Sol作为目前的开发主力军了

  2. AI HOT77

    Modal Clusters 正式发布,通过 @modal.clustered 提供多节点 GPU 集群

    Modal 宣布 Modal Clusters 正式可用,通过一个装饰器 @modal.clustered 即可获得多节点集群,节点间经 InfiniBand verbs 通信可达 6.4 Tbps,自动配置 PyTorch 和 NCCL。

    推荐理由:官方宣布多节点集群正式可用,文中解释了 gang scheduler 与 RDMA 的实现细节,并给出 Decagon、1x、Runway 的实际用法。

  3. 新智元30

    港科大团队提出 AccelEval 基准:评测 LLM 将 CPU 程序加速为 GPU 实现的能力

    港科大团队发布 AccelEval 基准,覆盖 6 领域 42 项任务,评测 LLM 生成正确且端到端更快的 GPU 代码能力。在 H200 上测试中,Gemini 3.1 Pro 在中规模任务上取得 71.2 倍几何平均加速比,大规模达 161.5 倍。该基准还建立 43 类 CUDA 优化策略目录,分析加速背后的工程经验。

  4. AI HOT73

    Modal 推出 Sidecars,为 Sandboxes 提供低延迟信任边界

    Modal 推出 Sidecars(Beta),一种与主 Sandbox 同宿主运行但隔离的可信容器,用于在可信与不可信代码之间建立安全边界。Sidecars 比使用独立 Sandboxes 快 3 倍跨信任边界通信,Ramp 用它构建自定义 egress 代理监控其 coding agent 的出站流量。

    推荐理由:原文给出了 Sidecar 的隔离机制、3 倍通信提速和 Ramp 实例,读者可据此评估替代现有 egress 控制的可行性。

  5. AWS News40

    Amazon S3 Vectors 新增元数据预过滤功能以提升筛选检索召回率

    Amazon S3 Vectors 上线元数据预过滤功能,通过在执行相似度搜索前评估元数据筛选条件,显著提升筛选查询的召回率。每个向量支持最多 2 KB 的可筛选元数据,单条查询允许多达 100 个筛选约束,并为路径、URL 等新增 $startsWith 前缀匹配支持。在具有高度选择性的筛选场景下,预过滤功能相比传统模式可返回多达 5 倍的匹配向量,且无需额外成本或重新摄入数据。

9月30日周三
  1. Zapier Blog33

    Zapier 如何构建 AI 编排以协调工具、智能体与自动化

    Zapier 作为 AI 编排平台,通过连接层管理不同 AI 工具、智能体及自动化流程,决定任务序列与信息流向。该平台集成 AI 自动化与管理功能,使孤立系统能够共享数据并协同工作。调查显示,44% 的企业同时使用多个 AI 供应商,约三分之一依赖第三方集成工具来解决管理复杂性。