当AI从工具到认知主体，我们需要警惕哪些新风险？ 论文标题：Understanding Cognition-Induced Risks in Agentic AI Systems Arxiv 地址：https://arxiv.org/pdf/2608.15304 Huggingface 地址：https://huggingface.co/papers/2608.15304 导读：随着智能体系统（Agentic AI System）处理任务能力的持续提升，AI 正在逐渐从传统意义上的工具，演变为能够自主决策、独立执行任务，并与人类及社会群体进行持续交互的智能主体。但是一个越来越值得关注的问题是：当 AI 的认知能力不断扩展，其潜在风险不再局限于单一任务中的幻觉、偏见或决策错误，而是进一步影响人类用户的能动性、自主性，乃至人类对 AI 系统的控制权。 近日，来自上海人工智能实验室以及香港中文大学（深圳）的研究者发表观点论文《Understanding Cognition-Induced Risks in Agentic AI Systems》。该工作首次从 AI 认知（AI cogniti