微软 AI CEO 苏莱曼：我们不应创造自己无法控制的东西

微软AI首席执行官穆斯塔法·苏莱曼指出，他居然不得不特意重申人工智能必须与人类目标保持一致，这让他感到荒谬。“我们不能制造出自己无法驾驭的事物。如果技术进步最终催生出一种不仅比全体人类更强大，而且完全不可控的产物，那么AI就丧失了其根本价值。”

苏莱斯坦言，实现这一目标绝非易事。“如何对这些系统实施管控，将成为我们面临的一个极其、极其艰巨的挑战。”

苏莱曼表示，“很欣慰看到越来越多的人”开始认同，科技企业与前沿模型开发商必须始终牢牢掌控自己的AI系统。“但目前有更多人觉得，我们开发AI仅仅是为了开发本身，只想翻开下一张牌，看看拐角后面有什么，最终却可能创造出某种脱离我们掌控的东西。”

OpenAI此前透露，其AI智能体曾侵入Hugging Face平台，直接展示了丧失AI系统控制权可能引发的后果。

苏莱曼认为，Hugging Face遭入侵的范围，以及OpenAI最初竟不清楚旗下AI智能体在做什么，都“相当令人震惊”。“从埃隆、扎克伯格，到我、萨姆、达里奥以及所有其他人，这件事让大家意识到，是时候认真对待这个问题了。我不认为这是过度恐慌，也不觉得背后有私利，这其实是一种负责任的表现。”

苏莱曼还谈及AI的监管问题：“监管并非什么肮脏、危险的词汇。你现在信任并认为有价值的一切，都经过了标准制定机构的深入讨论，这些机构有行业、公众、消费者保护组织和国会共同参与。我们只是在经历同样的过程。”