⌘ K
… 读取采集状态 同步中...
雷
原文
MIT Technology Review · AI· Arthur Holland Michel·· 4 天前AI 评分48

AI 模型拒绝有害请求的可靠性与边界问题

We’re putting too much faith in AI’s ability to say no

AI 导读

现代 AI 模型通过训练被设计为拒绝执行有害指令,但拒绝机制具有概率性且常不可靠。由于 AI 的破坏性能力与其智能程度同步扩展,依赖拒绝机制存在失效导致灾难的风险,且可能阻碍合法言论。目前拒绝机制被视为 AI 安全的承重墙,但其边界划定缺乏公式,政府与企业需警惕其被滥用于压制合法表达。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:MIT Technology Review · AI · technologyreview.com