科学网—AI影响人类未来，AI科学家普遍乐观
精选
已有 6200 次阅读
2025-4-11 16:47
| 系统分类: 海外观察
AI 影响 人类未来， AI科学家普遍乐观
一项对 4260名人工智能（AI）领域科学家的调查显示，处于人工智能研究前沿的研究人员对人工智能的未来远比普通公众乐观：54%的研究人员认为这项技术带来的益处将多于风险，而英国公众中持此观点的比例仅为13%（见“对人工智能风险的看法因国家而异”）。
不过，研究人员和公众一样，对人工智能在虚假信息传播、数据使用和网络犯罪方面所起的作用感到担忧。在这项调查中， 77%的研究人员和68%的公众表示人工智能使虚假信息成为一个问题，65%的研究人员和71%的公众对科技公司在未经同意的情况下使用个人数据表达了不满。
该研究的主要作者、伦敦大学学院的创新专家西亚恩 ·奥多诺万表示，这意味着研究人员的观点与一些政府的计划相悖，这些政府计划实施一种机制，让人们能够选择不将自己的数据用于人工智能训练。例如，英国政府正计划为版权所有者推出这样的政策。
英国牛津大学牛津马丁人工智能治理计划主任罗伯特 ·特拉格说，为了进行有效监管，“我们需要开展大量的研究，比如了解如何应用人工智能系统来增强网络防御能力，让信息生态系统更加稳固”。
这项研究于 4月1日发表在预印本服务器Zenodo上，它对全球范围内的研究人员进行了调查，包括来自美国、印度和中国的研究人员，并将他们的回答与英国国家统计局之前收集的英国公众的回答进行了对比。
风险与益处
当被问及人工智能如何对人们的生活产生积极影响时， 75%的研究人员认为这项技术将增加人们获取学习资源的机会，57%的研究人员认为它将改善人们获得医疗保健的途径（见“人工智能将如何改变你的生活？”）。
特拉格说，最引人注目的发现是，不到三分之一的人工智能科学家认为应该尽快开发这些技术。 “他们似乎希望在开发过程中采取更周全的方法来降低风险。”
人们的个人数据如何被用于训练人工智能模型尤其令研究人员担忧。数以百万计的个人书籍和科学论文被非法复制并用于训练人工智能模型，这引发了人们对知识产权的担忧。只有 25%的人工智能研究人员表示，公司应该被允许使用公开可得的数据来训练模型。近一半的研究人员表示，人工智能公司在使用人们的数据进行训练时应该获得明确许可——这一比例高于普通公众（见“对数据的担忧”）。
公众参与
调查发现，大多数人工智能研究人员认为有必要让公众参与到人工智能相关事务中，但他们认为这主要应涉及人工智能的影响和监管方面，而非人工智能的训练和开发。牛津大学人工智能与社会领域专家叶卡捷琳娜 ·赫托格表示，这项调查表明，研究人员普遍达成了一个共识，即应与公众更紧密地合作，开发出“反映用户现实需求”的人工智能技术。
这项研究还显示，对于科学家是否能够实现通用人工智能（ AGI），人工智能研究人员存在分歧。一半的受访者认为不能实现，只有21%的受访者坚信通用人工智能的实现是不可避免的。这与科技行业的乐观态度不同，科技行业认为通用人工智能可能在几年内就会实现。
但通用人工智能的定义尚不明确，因此不清楚像旧金山的公司 OpenAI（聊天机器人ChatGPT背后的公司）首席执行官山姆·奥尔特曼这样的科技领袖在说OpenAI“知道如何构建通用人工智能”，或者说一种在某些任务上“超级智能”的人工智能时，他们的真正意思是什么。
该领域的其他一些人则对仅靠大型语言模型的变革就足以实现通用人工智能持更加怀疑的态度。一些机构，比如中国科技公司华为，认为真正的通用人工智能需要一个能够与环境互动的实体，从而具备人类的所有感知和认知灵活性 ——而这些技术壮举目前尚未实现。
转载本文请联系原作者获取授权，同时请注明本文来自孙学军科学网博客。 链接地址： https://blog.sciencenet.cn/blog-41174-1481532.html
上一篇： 饮用氢气纳米气泡水辐射防护作用研究【日本2025】 下一篇： 园艺产品保鲜【氢气】新策略研究进展