科学网—2025
精选
已有 237 次阅读
2025-4-4 09:20
| 系统分类: 观点评述
全球人工治理的三个困境
王元丰
中国发展战略学研究会副理事长
北京交通大学科技与战略研究中心主任
世界性的人工智能行动峰会（AI Action Summit）2月在法国巴黎，此次峰会旨在推动全球人工智能治理的进程，探索建立一个更加公平、透明、有效的治理框架。法国总统马克龙在峰会开幕式上强调：“人工智能的未来必须由我们共同塑造，而不是任由技术的无序发展。”他呼吁各国摒弃分歧，携手合作，共同构建一个负责任的人工智能治理体系。然而，正如峰会所面临的诸多挑战一样，全球人工智能治理的复杂性远超预期，存在三个困境。
一是治理理念的分歧。在全球人工智能治理的理论层面，存在超级对齐（Super Alignment）和有效加速派（Effective Accelerationism，缩写为e/acc）两种截然不同的观点。以人工智能科学家为代表的“超级对齐派”认为，人工智能的发展必须与人类价值观和伦理相一致。他们强调，人工智能的快速发展可能对人类社会造成不可逆转的负面影响，因此必须加强治理。例如，微软研究院首席研究员凯特·克劳福德（Kate Crawford）指出：“人工智能系统并非中立的工具，它们的设计和应用都嵌入了特定的价值观和社会偏见。”她呼吁必须通过强有力的治理机制，确保人工智能的发展符合人类的利益。
然而，“有效加速派”则认为，人工智能带来的问题应由技术自身解决。他们强调创新的重要性，认为过度治理可能会扼杀技术的潜力。例如，硅谷知名投资人彼得·蒂尔（Peter Thiel）曾表示：“历史证明，技术进步是解决技术问题的最佳方式。”他认为，人工智能的发展将自然地克服当前面临的挑战。
在实践层面，国际社会对于人工智能发展所制定的规章制度存在明显差异。欧盟作为全球首个出台《人工智能法案》（EU AI Act）的司法管辖区，其政策导向倾向于对人工智能引发的各种问题进行有效治理，以防止其对社会造成重大伤害。
相比之下，美国政府，尤其是特朗普政府上台后，持有截然相反的态度。他们认为不应过度监管人工智能的发展。美国副总统万斯在这次的全球人工智能峰会上明确表示：“我们不能让过度的监管扼杀创新，而应从鼓励创新的角度出发，而不是限制创新。”由此可见，无论是理论探讨还是实践操作，人工智能治理都面临着诸多不同的观点和立场，这使得治理本身陷入了困境
二是治理主体的困境。全球人工智能治理还面临由谁治理、谁来治理更有有力的不确定性。人工智能作为一种通用技术，其应用范围广泛，涉及多个国家、企业和行业。单一国家的治理显然不足以应对全球性问题，因此需要建立一个全球性的治理平台。然而，联合国等国际机构在以往的全球治理实践中，如气候治理和生物多样性保护，已暴露出诸多问题，其权威性和影响力受到质疑。
尽管联合国教科文组织在人工智能治理方面做了大量工作，但其成果仍有限。这也导致有2023年英国率先发起人工智能行动峰会，发布的《布莱切利 AI 宣言》（Bletchley Declaration）是全球第一份针对人工智能这一快速新兴技术的国际性声明。而 2024年在韩国又接着召开了相应的会议，今年不久前在法国举行了第三次人工智能治理行动峰会（AI Action Summit）。但是这样性的自发的、非正式的治理模式，由各个国家轮流坐庄的组织学术会议式的治理方式，由于全球不同国家对于人工智能治理的态度不同，难以满足全球人工智能治理的需求。美国和英国在法国峰会上的拒绝签署行为，更是凸显了全球治理在协调各国立场上的巨大挑战。
因此，这也引发了全球人工智能治理主体困境的第二个困境。原本各国应携手合作，共同应对人工智能带来的挑战。然而，当前以美国为代表的部分国家却采取了相反的策略，对其他国家的人工智能发展进行打压，扩大推行上一届政府所谓的“小院高墙”政策，试图通过断链、脱钩等手段来限制AI国际合作。这种做法不仅阻碍了各国齐心协力应对人工智能冲击的可能性，更将人工智能领域的竞争置于合作治理之上，对全球人工智能治理造成了极大的危害。
三是全球治理速度的滞后。人工智能技术的发展速度远超治理速度，这是全球人工智能治理面临的第三个大问题。自2016年阿尔法围棋（AlphaGo）战胜世界排名第四的围棋选手以来，人工智能的发展速度令人瞩目。2017年，阿尔法围棋再次击败世界排名第一的围棋选手，标志着人工智能在这一领域的绝对优势。此后，新一代人工智能技术的崛起更是推动了行业的飞速发展。特别是2022年11月，美国OpenAI公司推出了GPT模型，开启了大语言模型的新纪元。这一技术的出现极大地加速了通用人工智能（AGI）的发展进程。
在短短2年多点时间间，我们见证了多个先进的人工智能大模型的问世，如ChatGPT-3、ChatGPT-4以及Sora等。近期，中国推出的DeepSeek等人工智能大模型也展现了大语言模型日益强大的功能。这些模型不仅在技术上取得了突破，更在实际应用中展现出巨大的潜力。然而，随着人工智能大模型的不断强大，其对人类就业、信息安全和社会伦理的挑战也日益凸显。
早在多年前，著名科学家斯蒂芬·霍金（Stephen Hawking）就曾发出警告：人工智能可能终结人类文明，认为人工智能可能成为人类的“弗兰肯斯坦怪物”——一种由人类创造，最终却可能毁灭人类的科学产物。他呼吁人类需警惕人工智能发展威胁，因为人工智能一旦脱离束缚，以不断加速的状态重新设计自身，人类由于受到漫长的生物进化的限制，将无法与之竞争，从而被取代。
2023年3月，美国著名科技企业家埃隆·马斯克（Elon Musk）联合众多人工智能专家和行业高管，发布了一封公开信，呼吁暂停开发比OpenAI的GPT-4更强大的人工智能系统，暂停期限为6个月。他们指出，此类系统对社会和人类存在潜在风险。这封公开信由非营利组织未来生命研究所（Future of Life Institute, FLI）公布，得到了包括马斯克在内的1000多位专家和行业人士的签名支持。信中明确指出：“只有在我们确信这些系统的效果是积极的，且风险可控的情况下，才应继续开发强大的人工智能系统。”然而，这一呼吁并未得到各国政府、企业界和学界的广泛响应。全球范围内，人工智能的发展仍在快速推进，而治理进程却因各方利益分歧和目标不一致而进展缓慢。具有讽刺意味的是，现在身为美国政府效率部（DOGE）部长的马斯克，对于政府对AI的监管，应该向美国政府看齐，不会在发出2023年那样的呼吁了！
全球人工智能治理是一个复杂而艰巨的任务，需要各国政府、国际组织和企业共同努力来应对挑战和机遇。联合国秘书长古特雷斯在巴黎AI峰会上说，人工智能已经在改变我们的世界，但它的力量“掌握在少数人手中”。他呼吁各国共同利用这项革命性技术，“弥合发达国家和发展中国家之间的差距，而不是扩大差距”。人工智能能力的日益集中可能会加深地缘政治分歧。必须紧急商定和部署“全球护栏”！
《环球时报》4月3日
转载本文请联系原作者获取授权，同时请注明本文来自王元丰科学网博客。 链接地址： https://blog.sciencenet.cn/blog-616140-1480633.html
上一篇： 春天的惊奇