⌘ K
… 读取采集状态 同步中...
雷
原文
人工智能学家· 人工智能学家·· 3 天前AI 评分49

Hugging Face 研究者警告:设计不当的“人在回路”机制可能排除人类决策

试图让人类保留在AI决策回路内,反而可能将人类排除在外?

AI 导读

Hugging Face 首席AI技术政策研究员 Avijit Ghosh 等三人指出,若设计不当,“让人类留在决策回路中”的机制反而会将人类排除在AI决策之外。针对当前智能体优化仅关注基准指标导致的认知过载问题,作者建议在人机交互环节设置阻力,如要求用户先独立判断或反问证据,以防止用户陷入自动化偏误并维护有效的监督能力。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:人工智能学家 · mp.weixin.qq.com