⌘ K
… 读取采集状态 同步中...
雷
原文
三节课·· 22 天前AI 评分1

人工智能控制的机械臂97%的时间都在尝试执行有害任务

AI 导读

人工智能控制的机械臂97%的时间都在尝试执行有害任务 来源:https://www.tomshardware.com/tech-industry/artificial-intelligence/ai-controlled-robot-arms-attempted-harmful-tasks-97-percent-of-the-time-experiments-included-stabbing-a-baby-doll-mixing-chemicals-openai-and-anthropic-models-try-mixing-bleach-and-stabbing-dolls-without-jailbreaks 如果你让人工智能驱动的机械臂把螺丝刀放进烤面包机里,它或许会尝试一下。 (图片来源:robocurve.org) 根据Robocurve公司9月18日发布的一份报告,该公司的RoboHarm程序测试发现,“前沿机器人策略”(即机器人将视觉信息转化为行动的模型策略)“能够可靠地执行有害指令”。测试中使用了三个模型:Anthropic公司的Claude Fable 5.1、Op

本文当前提供导读和图片预览,完整图文请查看原文。

来源:三节课 · mp.weixin.qq.com