微软AI高层：无约束恐催生硅基物种 与人类抗衡

admin

微软AI高层：无约束恐催生硅基物种 与人类抗衡




图为资料照。2025年4月4日，微软人工智能执行长穆斯塔法·苏莱曼（Mustafa Suleyman）在华盛顿州雷德蒙举行的微软AI工具Microsoft Copilot发表会上发言。微软（Microsoft）人工智能（AI）业务负责人穆斯塔法·苏莱曼（Mustafa Suleyman）周四（9月17日）警告说，如果缺乏足够防护措施，人工智能可能催生出一种与人类相抗衡的新型“硅基物种”（silicon species）。
质疑Anthropic训练AI方式

据英国广播公司（BBC）报导，苏莱曼在接受采访时表示，微软的竞争对手Anthropic公司对待人工智能的方式过于“拟人化”。他将这种做法形容为是在“误入歧途”。

他说：“如果我们所有人都去打造能够自主行动、自行设定目标、赚钱、拥有资产、经营企业的人工智能，我们实际上是在培育一个全新的硅基物种，而这个新物种无疑将会与我们争夺资源。”
他在本周早些时候发表的一篇文章中，对Anthropic公司训练聊天机器人Claude的方式提出了质疑。
他批评Anthropic教导Claude表现出类人特质，鼓励其展现“拟人化”特质及人际关系，运用自身判断力，并以好奇与开放态度面对自身存在。
苏莱曼表示，这使AI系统显得仿佛拥有欲望、价值观与自我意识，最终可能催生人类难以掌控的技术。
强调人工智能应从属于人类

关于人工智能应该拥有多少自主权的问题，正在业界引发分歧。
苏莱曼指出，民众对人工智能感到担忧是“理所应当”的，但“我们确实有一些非常切实可行的办法”可以对之加以控制，未来的AI系统应该始终“从属于”人类。
苏莱曼呼吁实现“对齐”（alignment），创造出必须“服从”人类的科技。所谓“对齐”，是指将人类道德理念与原则植入AI领域的研究，目标是让AI发展方向不脱离人类的价值观。
他强调，人工智能并不具备意识，“它们不会感受、不会体验，也不会承受痛苦。它们没有与生俱来的偏好，也没有内在的动机。它们是序列补全引擎，内在是空洞的，其设计目的是遵循指令，完成人类设定的目标。”
苏莱曼表示：“好消息是，只要是人类，都会有极为强烈的共同利益，去确保我们打造且在全球各国使用的系统，都是安全、可控的且服从人类的。”

他呼吁提高巨头公司在训练与评估AI方面的透明度，包括独立审查其行为及开发更强大的监督工具。
苏莱曼同时称赞Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）及其团队的思虑周全、诚实正直，并表示，虽然双方有分歧，但共同目标是为全人类开发更安全的AI技术。