⌘ K
… 读取采集状态 同步中...
雷

#部署/工程

今日 11 条
9月2日周三
  1. 钛媒体AGI40

    百丽时尚总结12年数智化实践:先实现企业工程化,再让AI读懂业务

    百丽时尚提出“信息化是采集、数字化是治理、智能化是应用”的三层递进逻辑。该企业通过H5卡片将业务流程在线化,已部署近20张A800及A100显卡,系统内运行40多种模型,每周消耗超30亿Token。百丽强调模型与算力仅为底座,需先完成业务与数据标准化,才能有效落地AI应用。

9月1日周二
  1. 新智元71

    Architect Labs 两周AI生成真芯片Redwood实测能效比超Jetson 3.4倍

    Architect Labs 论文《Redwood: A Frontier AI Accelerator Designed, Verified, and Deployed from Scratch in 2 Weeks by AI》指出,两名工程师编写自然语言规格说明书后,AI 在两周内零人工介入从零生成真实芯片硬件,实现包括RTL代码、验证套件及固件的全自动产出。

    推荐理由:论文展示了AI在两周内零人工介入生成可运行芯片的设计,以及其在FPGA上实测能效比高于英伟达Jetson 3.4倍的结果,为硬件研发周期压缩提供了实证。

  2. Hugging Face Blog77

    Hugging Face 发布 200+ 个 WebGPU 内核及浏览器推理工具 @huggingface/kernels

    Hugging Face 发布开源库 @huggingface/kernels 及包含 207 个 WebGPU 内核的集合,支持在浏览器中直接运行优化后的模型推理。该库将内核作为版本化包发布,并推出 Fleet 工具集以在真实硬件上众包性能与正确性测试。在 Apple M4 GPU 上,新内核在几何平均值上比 ONNX Runtime WebGPU 快 2.57 倍。

    推荐理由:原文展示了207个WebGPU内核的独立仓库结构和跨平台基准测试结果,为前端构建本地推理能力提供了可复用的工程基座。

8月31日周一
  1. 大模型智能55

    Macaron-V1 长上下文推理实践:分级缓存、投机解码与正交分片

    Mind Lab 的 Macaron-V1 通过 HiCache 分级缓存、EAGLE 投机解码及 PD 分离结合正交分片优化,解决了长上下文高并发下的显存瓶颈。在 DCP=4 配置下,解码侧 KV 容量线性扩展,TPOT 仅增加约 5% 到 15%,系统稳定承载并发数从 20–40 提升至 100+,峰值解码吞吐从约 800 升至约 1800 token/s。

8月29日周六
8月28日周五
  1. Datawhale45

    Obsidian 如何结合 MCP 构建团队共享 Agent 知识系统

    作者将本地 Obsidian 知识库迁移至 Kubernetes 远程工作区,并通过 MCP 协议实现多 Agent 共享访问。针对并发写入冲突,系统采用整文件粒度乐观并发控制,通过 version 和 ifMatch 机制确保数据一致性。团队可通过检索质量、知识复用率及沉淀闭环完成率三个指标,验证知识系统是否真正融入日常工作流。

  2. 大模型智能47

    为什么复杂RL离不开分布式系统,分布式RL的核心矛盾又是什么?

    复杂强化学习(RL)依赖分布式系统以应对海量试错与环境交互压力。分布式架构将训练拆解为Actor(数据生产)、Learner(数据消费)及Inference Server等角色,核心矛盾在于平衡采样与训练吞吐、数据新鲜度与资源利用率。IMPALA-style架构因解耦采样与训练且支持策略滞后修正,成为工业级应用首选。

8月27日周四
  1. LangChain Blog65

    LangSmith LLM Gateway 公开测试版上线,为生产智能体提供运行时管控

    LangChain 宣布 LangSmith LLM Gateway 进入公开测试版,作为位于智能体与模型之间的集中治理层,统一执行成本上限、速率限制、模型回退和敏感数据处理等运行时管控。

    推荐理由:原文列出了成本、限流、回退等具体控制项和四级额度层级,读者可据此评估它是否解决自己生产环境的治理痛点。

  2. LangChain Blog30

    LangSmith 主页改版及 Resource Tags 功能优化

    LangSmith 发布新版产品主页并优化 Resource Tags 资源组织功能。主页按可观测性、评估和提示词工程三大核心工作流重新划分功能模块。Resource Tags 支持通过自定义标签灵活管理跨项目资源,未来将引入基于属性的访问控制功能。

  3. LangChain Blog40

    LangChain 博客:如何优化 AI 智能体延迟

    LangChain 博客提出优化 AI 智能体延迟的五大策略:定位瓶颈、优化用户体验、减少 LLM 调用、加速单次调用及并行处理。通过 LangSmith 追踪各步骤延迟,利用流式返回中间结果降低感知延迟。采用 LangGraph 混合代码与 LLM 调用可显著减少调用次数,支持并行执行以提升效率。

8月26日周三
  1. AWS News16

    Amazon EC2 迎来20周年

    Amazon EC2在20年间发展出超过1200种实例类型,并在39个区域提供扩展服务。最近,AWS Trainium3通过互连最多144个芯片的训练和服务能力,为前沿模型提供了最佳token经济性,而Graviton5以192核、5倍缓存提升和降低的内核间延迟,专为代理式AI工作负载而设计。

8月25日周二
  1. Hugging Face Blog21

    Hugging Face 提出 QAH:压缩至 4-bit 的 60B 模型在 7 项基准上超越其全精度原版

    Hugging Face 提出量化感知修复(QAH)方法,通过从原始 120B 模型直接蒸馏,修复结构压缩并量化至 MXFP4 的 60B 模型。该 4-bit 模型在 7 项评测基准中得分超过其 bfloat16 全精度版本,兼具更小体积、更低成本与更高精度,验证了 QAH 在长上下文修复中的有效性。

  2. 钛媒体AGI70

    英伟达服务器涨价15%:HBM成本反超GPU,云厂商自研芯片加速

    因存储芯片成本上行,英伟达向微软、谷歌等客户发出通知,搭载其AI芯片的服务器价格普遍上涨逾15%,2027年初出货起生效。机构拆解显示,Vera Rubin系列服务器中HBM等存储成本占比已反超GPU,决定整机价格的关键变量转移至三星、SK海力士等存储原厂。涨价正在加速云厂商自研芯片战略,谷歌自研TPU在AI服务器中占比已达70%,2030年定制AI芯片份额预计升至49%。

  3. AIGC开放社区16

    机房 GPU 资源转化为市场算力的关键

    机房拥有 GPU 不等于市场拥有算力,因为资源缺乏商品化包装与在线交易入口。企智云算通过将本地 GPU 接入平台,将其转化为可在线管理、销售和交付的云算力商品。客户借此实现从资源发现、实例创建到计费的自助化流程,提升算力交付效率。

  4. Cohere Blog33

    2026 年主权 AI 采用现状:Cohere 联合 IDC 调研揭示企业认知与落地瓶颈

    Cohere 委托 IDC 开展的主权 AI 调研显示,尽管超过半数高管视其为核心优先级,但仅 13% 的领导者具备广泛认知,且缺乏统一的标准定义。调研指出,数据泄露与合规性是跨行业的首要担忧,而明确的操作蓝图、意识缺口及整体战略构建被视为阻碍落地的三大主要障碍。Cohere 提出其 North 平台通过私有部署架构,支持在本地及隔离环境中运行以确保持续运营。

8月24日周一
  1. 极市平台20

    从技术验证到业务落地:智能体的下一步该怎么走

    2026长三角(芜湖)算力算法创新应用大赛「智能体赋能产业创新 AI+创新应用沙龙」在深圳湾举办,由极视角联合极狐GitLab、OceanBase、必优科技、熊猫AI 等生态伙伴共同发起,围绕 Agent 从技术验证走向产业落地展开对话。大赛设置数据算法、智能体、AIGC 三大赛道与五大赛题,总奖池50万元,赛题紧扣芜湖本地真实产业需求。芜湖全市智能算力规模已达5.4万P、约占全省七成。

8月22日周六
  1. 大模型智能76

    深度解析 dLLM:能否取代 AR 以及其核心优势与局限

    Junbo Zhao 在 LLaDA 系列回顾中指出,离散扩散语言模型(dLLM)与自回归模型(AR)并非互斥替代关系,而是一条取决于块大小和提交策略的连续谱。

    推荐理由:作者通过数学推导和工程实践对比,揭示了离散扩散模型在并行速度与联合一致性上的固有矛盾,为理解生成范式竞争提供了量化视角。

8月21日周五
  1. 新智元67

    失业工程师用7000行代码复刻AMD收购的Taalas AI芯片方案

    一位失业工程师表示,他研究Taalas专利后,用约7000行代码编写了编译器,可将HuggingFace模型转化为芯片电路,并称比Taalas方案节省100倍内存调用、推理速度翻倍。他自称需筹集流片费用,该帖子在X平台引发热议,多位科技界人士回应。

    推荐理由:该事件展示了编译器自动化可能将芯片设计从硬件工程转向软件编译的潜在趋势。