⌘ K
… 读取采集状态 同步中...
雷
原文
虎嗅APP·· 20 天前

不受控的 Agent ,凭什么上生产系统?

AI 导读

Hoodline 在 9 月 18 日报道了一个有意思的故事:美联航的客服聊天机器人告诉客户 Alison Gil,她价值 200 美元的旅行积分将在存入之日起五年内有效。但联合航空随后告知她,该积分实际将于 2026 年 9 月 27 日到期。最后美联航承认了聊天机器人的错误,并向 Gil 发送了一张替代旅行证书。 看起来,Agent 刚走入企业**,**风险就已呼之欲出: AI 给出错误答案,但表示"没问题"“相信我”,哪怕是相对成熟的客服机器人领域,问题也依旧存在。 这类失控有多普遍?据 Gartner 2025 年 6 月官方新闻稿预测,超过 40% 的 Agentic AI 项目将在 2027 年底前被取消,原因之一便是风险控制不足。 Scale AI 在论文《READY》中写得更直白:"一个 AI Agent 可以在基准测试上表现出色,却仍不适合部署。" 许多企业习惯在采购环节,优先评估模型选用问题,因为直觉告诉我们能力的瓶颈在模型。但行业实践讲了一个不同的故事—— 于 AI 企业级部署而言,模型只能代表能力,外围系统才是生产力。 2026 年,围绕"模型之外还需要什么"这

本文当前提供导读和图片预览,完整图文请查看原文。

来源:虎嗅APP · infoq.cn