科学网—科技是一把双刃剑AI也不例外
已有 1837 次阅读
2025-5-8 09:07
| 系统分类: 观点评述
众所周知，科技是一把双刃剑。科技发展对社会发展至关重要，但由于人们认识世界的目的性和局限性，导致许多科技在社会发展过程中打破了正负效应的平衡，往往事与愿违，人 类 怎样才能保证科技在社会发展中只发挥正能量，而不产生负能量或者使负能量最小化，其实是一件很难很难的事情。科技不仅仅是追求创新，更应关注创新后的结果及其正负面影响，如果负能量大于正能量，或者负能量对人类生活或生存难以消除，宁可不要这种创新，也要 留给 人类生活或生存优良环境 ， “金山银山不如绿水青山” 。但也有这样的观点，你可能也听说过， “ 先发展后治理 ” ， 这不符合可持续发展理论， 但我们一定要明白，发展容易而治理难， 甚至是 难上加难。 如 20 世纪化学工业的三大发明——六六六、 DDT 与塑料，曾是人类征服自然的凯歌。六六六使粮食免受害虫肆虐， DDT 终结了疟疾的全球传播，塑料革命性地重塑了现代生活。然而当科学家发现六六六在人体脂肪中富集、 DDT 导致鸟类灭绝、塑料微粒侵入血液系统时，这些科技成果已成为悬挂在人类头顶的达摩克利斯之剑。
今天 AI 发展已经到了 难以 想象的地步，与科技发展对社会发展的影响一样， AI 也是一把双刃剑，如何平衡其正负能量，是头等大事，应预先谋划其未来的发展方向，最大可能的减少对人类生活或生存 的 负能量。 但也有人会说， “当今 AI 发展谁也挡不住”，而我要说，“ AI 发展无论是挡不住还是能挡住，这都无关紧要，最关键的是使用 AI 的人要自己清楚，该利用的一定要利用，不该利用坚决不能利用”。很遗憾的是当今各个领域都把 AI 神话了，视乎离开 AI 生活都不能自理了，这种认识是极其片面的，完全忘记了 AI 对 人类生活或生存 负能量及其影响。像六六六、 DDT 与塑料等科技发展一样，形成了“发明时欢呼、发现问题时补救”，这种“挡不住”的死循环，在人工智能发展过程中应彻底打破。
AI 的本质是一种工具，可能是比较高级的工具而已。 AI 创新是人类智慧创新的表现，离开人类智慧的创新思维 AI 寸步难行。 AI 发展依赖于人类智慧和思维能力的提升和相关科技的协同。利用 AI 在处理普通事务上提高人类的工作效率，这是人类发展 AI 的初心。马云曾说过，机器人不应该去做人类可以做到的事，而是应该去做人类做不到的事。可见， AI 作为一种工具就要发挥好工具作用。
如今在信息爆炸的 21 世纪，人类知识生产呈现指数级增长态势。世界知识产权组织数据显示， 2024 年全球专利申请量突破 450 万件，学术论文年发表量超过 180 万篇，专业书籍年出版量达 120 万种。面对如此庞大的知识体系，以深度思考 AI 为代表的新一代智能系统，正经历着从 “ 信息检索工具 ” 向 “ 创新催化引擎 ” 的关键转型。而 传统搜索引擎如百度（日均处理 80 亿次查询）和新兴 AI 搜索系统（如夸克深度思考日均服务 2 亿用户），虽然在信息获取效率上实现质的飞跃，但其本质仍停留在 “ 知识搬运工 ” 角色。以医疗领域为例，当用户查询 “ 阿尔茨海默病最新诊疗方案 ” 时，现有系统多呈现多篇文献链接，而无法像资深神经科专家般整合病理机制、药物研发进展与临床实践指南，形成具有创新性的诊疗框架。这种 “ 知识整合 ” 与 “ 创新生成 ” 之间的鸿沟，折射出当前 AI 系统的深层矛盾 ， 在拥有海量数据的同时，却难以突破既有知识框架的桎梏。正如图灵奖得主 Yann LeCun 所言： “ AI 最需 要的不是更快的计算，而是理解知识本质的能力。 ”
利用 DeepSeek R1 写 科技 论文，虽然工作效率是非常高，但现有 AI 系统对学术文献的引用率不足 0.3% （对比人类专家写作中的 15-20% 引用率）， 其 知识引用存在三大困境 ：一是 数据壁垒 ， 学术出版商建立的付费墙导致训练数据缺失， Nature 、 Science 等 顶级期刊数字化率不足 40% ； 二是 语义鸿沟 ， 专业术语与复杂论证结构的机器理解障碍，导致《自然 ·机器智能》论文中的拓扑量子计算理论难以被准确解析 ； 三是 时效滞后 ， 从论文发表到进入训练数据平均需 18 个月，严重制约前沿领域应用 。 现有 AI 的 “ 模式模仿 ” 特性导致其难以突破人类认知边界 。 因此，仅仅单纯依赖 AI 要完成高水平的科技论文，是无法满足实际科技创新需要的 。
从 DDT 到 GPT 的 百年 发展 历程，本质上是人类在技术理性与价值理性之间的艰难平衡。 AI 既不是洪水猛兽，也不是救世良方，而是文明演进的新考场。唯有建立 “ 预防 - 控制 - 进化 ” 的动态免疫系统，使科技创新始终运行在伦理轨道与人文边界之内，方能避免重蹈农药 时代的覆辙。 如果深度思考 AI 能够像爱因斯坦那样“思想实验”，像达尔文那样“观察 - 推理 - 假设”，像乔布斯那样“连接看似无关的点”，人类将迎来真正的认知革命。无论科技和 AI 怎样发展都需要扬长避短，在最小化影响人类生产或生活过程中不断发展。 当我们在硅基芯片上刻写代码时， 在科技创新发展中 更需在心灵深处镌刻对自然的敬畏 —— 这才是科技万无一失发展的终极密码。
转载本文请联系原作者获取授权，同时请注明本文来自张建新科学网博客。 链接地址： https://blog.sciencenet.cn/blog-1513711-1484870.html
上一篇： 食品安全全链条监管标准化模式重构：从被动治理到主动防御