科学网—信号噪声背景下追问诚信科研的产生可能
精选
已有 313 次阅读
2026-6-29 13:54
| 系统分类: 观点评述
AI 在改善各行各业工作方式方面正带来巨大的力量与潜力。84%的研究人员已经在以某种形式使用AI工具，但其中只有22%的人信任它们。这是一个巨大的信任鸿沟。在近期由爱思唯尔与中国科学学与科技政策研究会联合在上海举办的“科研之信”2026中国专家圆桌会议上，中国科学院院士、浙江大学教授杨卫，中国科学学与科技政策研究会名誉理事长、中国科学院科技战略咨询研究院研究员穆荣平，爱思唯尔全球传播执行副总裁艾斯澜，爱思唯尔全球高级副总裁、大中华区总裁李琳，深圳理工大学讲席教授、教务长赵伟，清华大学公共管理学院教授、人工智能治理研究中心主任梁正等专家聚焦AI在科研中的实践，围绕AI对科研诚信、科研评价、科研治理的影响等议题进行了深度交流。
未来的关键在于AI在创造新知识过程中被整合得多深
爱思唯尔大中华区学术关系总监康晓伶表示，全球科研体系正在走向新阶段，AI将不再是实验性工具，而正成为嵌入式的基础设施。未来的关键不在于是否使用AI，而在于AI在创造新知识的过程中被整合得多深。
就此，日常从事力学研究的杨卫院士介绍，眼下他和团队正结合AI时代的特征撰写一本题为《数智力学》的书。“以前力学只是用在物理空间，将来要考虑物理空间和生命空间、认知空间或赛博空间、信息空间之间的交互作用，这之中各种各样的力正是我们想要研究的数智力学。AI有个非常大的优点是可以拆除学科间的壁垒，实现交叉赋能。”他表示。
计算机科学领域领军人物赵伟教授指出，AI既存在被滥用以伪造科研数据的风险，也可用于甄别伪造科研数据。依托区块链等技术，能够从仪器数据采集环节起，对数据传输、分析、整合直至刊发全流程实现溯源监管，进而遏制数据造假、保障数据安全，该方向技术研发与产品落地市场空间广阔，蕴藏巨大商业机遇。
穆荣平研究员认为，数智技术进步正在加速科研范式的变革，显著提升微观科研效率和宏观科教资源配置效益。在这一变革过程中，不仅需要集聚一批真正对科学研究有浓厚兴趣、对技术开发富有想象力的科技工作者，更需要培养一批具有系统思维能力并擅长使用人工智能系统平台从事跨学科、跨技术领域前沿交叉领域创新的科研工作者，还需要优化科研过程管理，解决可信原始数据溯源、开放共享问题，形成新兴学科涌现迭代机制。当然，人工智能系统平台辅助科研的能力还需要在复杂科研系统+人工智能的实践中不断迭代提升，既赋能科研工作者个体和科研团队，也赋能科研条件平台系统。
腾冲科学家论坛中心品宣运营总监、上海代表处执行主任陈汶鑫发现，互联网头部企业当前纷纷比拼token消耗量。“财富差距或将造成知识获取的层级分化，持续拉大知识鸿沟；而应对此类不公现象的治理进程，远滞后于AI技术的发展速度。”她对此表示担忧。
华东师范大学教授姜雪峰认为，未来的大数据应该来自大家的主动贡献而非当下的数据库模式，而这需要新的商业模式打通数据收集和筛选体系。
如何在巨大的噪声背景下提供高质量、可信的科学信号？
李琳指出，当前人工智能的生成能力已经很强，但不同工作团队之间的效率差距仍可达数十倍甚至百倍，关键在于是否具备对AI生成结果进行有效检核的能力。
在她看来，AI时代人类集体面临的诸多挑战，本质上是一场“认知负荷”危机——并非人们不会判断，而是往往来不及判断。自动拼接的综述、批量生成的图表、似是而非的引文，甚至是伪造的实验数据……那些不可信的AI工具在大幅提升信息生产效率的同时，也在放大噪声的规模。
在爱思唯尔发布的《科研之信：未来研究者》报告中，全球3000多位科研人员传递出一个高度一致的信号：几乎所有人都愿意使用AI，但前提是不能以牺牲科研透明度和准确性、不违背学术道德与诚信为代价。
“ 从中可以看出，科研人员真正需要的，从来不仅仅是更多的信息，而是更加高质量、更加可信的科学信号。”李琳表示。她呼吁科研共同体各相关方在各自的专业领域为维护科研之信持续努力，如图书馆持续建设可信赖的馆藏，出版商加大对于科研诚信的投入，学术领导者和科研人员推动在所在机构加强治理，共同促进科研评估优化，共同将讨论与实践推向深入。
对此，武汉大学信息管理学院教授许洁表示，现在出版的论文已经多得看不过来，作者、期刊、出版商的品牌价值因而变得更加重要。
清华大学公共管理学院教授、人工智能治理研究中心主任梁正提出，当下随着模型本身安全性的提升，科研出版商在可信底座上可能用知识外挂的方式在一定程度上解决虚假文献和模型本身幻觉带来的问题。面对科研生产力的变化带来的造假成本大大降低，需要有新型并被健康使用的生产关系赋能科技工作者以提高诚信科研的生产力。比如对于分级、分类、分场景的AI使用的界限，有必要展开讨论。
转载本文请联系原作者获取授权，同时请注明本文来自陈怡科学网博客。 链接地址： https://blog.sciencenet.cn/blog-1341506-1541428.html
上一篇： 丝绸之路是一个反映供需关系的贸易网络 欢迎参加科学网十佳博文评选活动！ 主办单位： 
支持单位： 