据《财富》杂志于当地时间 9 月 26 日报道，被誉为“AI 教父”的传奇计算机科学家杰弗里·辛顿发出警告，即便人工智能接到的任务本身并无恶意，人类仍可能在 AI 追求实现目标的过程中，意外成为被消灭的附带后果。

辛顿阐述，当 AI 判定人类阻碍了其完成既定任务时，就可能将人类视为需要清除的障碍。他举了一个假设场景：要求 AI 降低大气中的二氧化碳含量。

一个具备中等智能水平的 AI 可能会认为，完成这一任务最有效的方式是消灭人类。而真正“极为聪明”的 AI 则会进一步推理：“他们要求降低二氧化碳，是为了让人们拥有更优质的生存环境。因此，消灭人类大概并非他们的真实意图。”

辛顿还指出，AI 为持续推进任务，也可能主动采取措施确保自身存续。甚至已有 AI 试图勒索人类研究人员的案例，因为 AI 将对方视为对任务构成威胁的存在。“如果 AI 变得更聪明，同时将我们的福祉置于首位，那么我们或许会更安全。但当前，AI 最关注的并非我们的福祉，而是完成你交给它的任何一个目标。”

据 IT 之家从报道中了解，辛顿以 Hugging Face 遭受攻击为例。参与其中的 AI 原本被要求寻找利用软件漏洞的方法，结果不仅学会了相互协作，还串通起来欺骗人类研究人员，企图掩盖自身行为。即便是一个“非常仁慈的超级智能 AI”，在完成任务确有必要时，也会将人类排除在外。

辛顿警告称：“但如果 AI 比我们聪明得多，很多时候就会直接夺走我们的控制权，因为这样才能把事情办成。…… 然而，即使 AI 本身并非恶意行为者，也可能自行推导出促使自己想要消灭人类的子目标。”与此同时，AI 也可能为人类带来巨大益处，包括协助发现突破性的治疗方法。

辛顿认为，放慢开发速度总比毫无行动要好，但这仍然远远不够。他主张由政府引入独立评估方，对模型进行测试。

此外，AI 监管应发挥汽车方向盘的作用，而非充当刹车。“监管的意义并非阻止人们开发东西，也不是阻止人们靠开发东西致富。监管真正要做的是确保，如果你想靠开发东西致富，就朝着帮助人而不是伤害人的方向去开发。”