AI工程师最先失去的，可能不是工作，而是说“不”的权力！AI教父辛顿：模型出问题，现在还要靠内部员工爆料 编辑 | 姜篇 “We've relied essentially on whistleblowers.” 辛顿：现在，我们基本依靠内部人员爆料，才知道模型在哪些地方出了问题。 “We need people inside those companies.” 辛顿：这些公司内部必须有人愿意把正在发生的事情说出来。 这是杰弗里·辛顿在CNN访谈里给出的答案。 他担心的并不只是某个遥远的“超级智能”。眼下更具体的问题是，模型在测试里出现越权、欺骗或者异常协作时，外界往往不能直接看到全过程。 工程师先发现问题，内部管理层决定如何处理，公众可能要等到员工离职、爆料或者公司主动披露以后，才知道发生了什么。 奇怪的是，这套安全机制最后卡在了一个问题上：能看见问题的人，愿不愿意开口。 CNN随后采访了多名AI研究人员。报道提到，这些人今天敢公开质疑公司，很大程度上是因为AI人才稀缺，公司舍不得失去他们。 可当模型开始帮助训练、评测和改进下一代模型，企业不再需要这么多研究人员时，这种话语权还能保留