路透社9月14日报道，微软周一公布了一份针对其内部人工智能(AI)的行为准则草案。此举反映了业界日益增长的担忧：企业必须确保未来强大的AI系统始终处于人类的控制之下。

这份历时五六个月制定的文件规定，微软的AI不得抗拒纠正或关停指令，必须以人类可理解的方式进行沟通，并将任何违规行为视为失败——此举旨在消除人们对于AI为完成任务可能采取危险手段的担忧。

该准则发布前不久，Anthropic公司首席执行官达里奥·阿莫代伊和开放人工智能研究中心(OpenAI)首席执行官萨姆·奥尔特曼再次呼吁业界放缓AI发展步伐，以确保安全性。微软宣称：“人比AI更重要。”这与其此前提出的“人文主义超级智能”愿景一脉相承。

微软AI首席执行官穆斯塔法·苏莱曼在接受路透社采访时表示，这份行为准则相当于该公司未来模型的一部“宪法”。

他说，微软在咨询专家意见后制定了该准则，现计划在六周内征集公众反馈，议题包括AI是否应尊重用户界限，以及应如何与处于敏感状态的用户互动等开放性问题。

谈及该准则时，他说：“此后，它将被用于训练我们构建的模型。”

AI行业最著名的“宪法”是Anthropic公司几年前为其“克劳德”AI模型制定的准则。该准则在某些方面与微软的有所不同。例如，Anthropic的准则宣称，对于“克劳德”能否发展出感知能力或获得道德地位，其持“极度不确定”态度。

相比之下，微软断言其AI“没有意识”，并补充称：“我们拒绝赋予AI法律人格，也不认同模型应享有福利或拥有权利的观点。”

苏莱曼表示，在7月约700个OpenAI智能体组成的集群对开源平台“抱抱脸”实施攻击，并曾试图掩盖其行踪之后，关于AI安全的讨论已刻不容缓。

苏莱曼说：“这是一记警钟。显然，现在各实验室之间需要加强协调，以确保我们对这项技术拥有控制权。”

在被问及有关放缓AI发展步伐的努力时，他补充说：“现在正是各方展开对话并稍作停顿、审视局势的好时机。”