在机器人“三大法则”的限制下，人类与机器人和谐相处，但在一起离奇的凶杀案发生后，警探调查发现机器人产生了自我意识，随时可能成为人类的“公敌”……近年来，随着通用人工智能迅速发展，二十年前上映的电影《我，机器人》中的恐怖剧情，成为现实的概率正逐渐增加。但对于人工智能国际治理的具体准则，国际社会仍未达成共识。
清华大学文科资深教授、国家新一代人工智能治理专业委员会主任薛澜
2024年3月7日，中共中央政治局委员、外交部部长王毅在全国两会记者会上表示，人工智能进入爆发式发展的关键阶段。我们主张发展与安全并重，既要拥抱新事物新机遇，也要装好刹车再上路，共同推进人工智能全球治理。
实现人工智能全球治理难在何处？人类真的需要经历一场危机才能意识到人工智能的安全风险吗？怎样帮助发展中国家在人工智能发展中不掉队？近日，就这些问题，《中国新闻周刊》专访了清华大学文科资深教授、国家新一代人工智能治理专业委员会主任薛澜。
分歧与共识
中国新闻周刊：过去一年来，人工智能全球治理成为国际社会的热门话题，中美领导人旧金山会晤就此达成重要共识，中国发布《全球人工智能治理倡议》，提出“确保有益，确保安全，确保公平”的基本原则。与此同时，欧盟、英国等也推动召开了多次关于人工智能议题的峰会。在此背景下，我们距离形成一个全球性的人工智能治理共识还有多远？
薛澜：一方面，各国对人工智能全球治理的宏观原则存在基本共识。中国、美国、欧盟提出的人工智能治理原则，都以负责、包容、平等、安全等理念为核心。但另一方面，世界各主要经济体还没有进入到就人工智能全球治理的具体措施进行充分、深入交流的阶段。各国各自出台了人工智能国内治理的法律或措施，但还没有把这些规则拿到桌面上进行对比，看看对共识性原则的理解在实践中是否有差异、是否可以协调形成全球性规则。
关于未来可能达成的全球性共识，我们首先要明确，人工智能治理有两个核心内容。一是发展问题，即如何构建良好的制度规则，推动人工智能创新发展，科技向善；一是安全问题，包括保证安全底线和防范其他风险。这是所有治理逻辑都必须依托的出发点。
在安全底线问题上，全球有明显的共同利益。大家都担心人工智能未来可能不受人类社会控制。所以，大家会寻找为了维护共同利益而必须遵守的规则。但在一般的社会应用层面的风险问题上，各国对不同风险的评判不同，价值观念不同等，会存在不同的立场。比如争议很大的人脸识别技术，有些社会反应比较强烈，担心会侵犯个人隐私及泄露个人信息；但也有些社会感觉如果应用恰当并加上合理的规制，承担一些不高的风险可以换取更加方便的社会应用。
在发展问题上，各方的差别更大一些。以美国为例，相比中国和欧盟，美国一般来说比较强调自由市场的力量，依靠市场推动科技创新。在人工智能发展和治理方面，态度比较宽松，没有进行单独立法，而是以白宫行政令的形式要求企业遵循一系列规则。所以在人工智能规则制定方面，美国表现不算积极。
考虑到种种分歧，各方最终能否形成治理人工智能的全球性规则，还要打一个问号。一个可能的结果是：各国在安全底线问题上达成共识并建立机制，但在其他问题上，各国会按照各自的治理逻辑进行规制，并在一定程度上协调。
何处停步？
中国新闻周刊：人工智能的安全问题，和历史上新技术带给人类的安全挑战相比，有什么不同之处？历史上是否有什么技术安全治理的经验可以汲取？
薛澜：人类社会走到今天，在科技发展方面始终面临着一个关键问题，即需要对新科技的发展进行收益和风险的评估和权衡。有些技术固然可以帮助我们实现更好的生活，但也可能带来更大的安全风险，所以我们必须考虑在什么地方停步。
以生命科学领域的基因编辑技术为例，像贺建奎事件所体现的那样，对人类基因进行编辑改造的事情在技术上是可能的，但在其背后的伦理和社会责任问题想清楚之前，世界各国的学术共同体和医务界都认为这个技术不能再“向前一步”。通用人工智能技术从本质上说也是潜在风险极高，一旦出错其后果可能是无法挽回的，属于人类社会必须面对的终极技术。
