科学网—“哥德尔不完全性定理”误解误用实例分析(3)-扯上人工智能的谬误
精选
已有 3881 次阅读
2024-7-29 08:21
| 个人分类: 数理逻辑 | 系统分类: 科普集锦
[敬请读者注意] 本人保留本文的全部著作权利。如果哪位读者使用本文所描述内容，请务必如实引用并明白注明本文出处。如果本人发现任何人擅自使用本文任何部分内容而不明白注明出处，恕本人在网上广泛公布侵权者姓名。敬请各位读者注意，谢谢！
“哥德尔不完全性定理”误解误用实例分析(3) - 扯上人工智能的谬误
程京德
本文举例分析说明一些对“哥德尔不完全性定理”的误解误用。期待本文能够为逻辑学专业学者们不再“忽悠”，为大量的非逻辑学专业学者 们 及民间人士们不再“被忽悠”有所贡献。[微笑]
哥德尔证明的两个重要定理的原始陈述如下 [1-8]：
命题IX(“第一不完全性定理”)：在命题VI中言及的所有形式系统中，都存在有受限谓词演算的不可判定问题（亦即，受限谓词演算的逻辑式，其普遍有效性以及其反例的存在性都不可证）。
命题XI(“第二不完全性定理”)：如果c是一个给定的递归且一致的逻辑式类，则表达“c是一致的”之内容的命题逻辑式不是c-可证的；特别地，P的一致性在P中不可证，在假设P是一致的前提下（如果不是，那么当然，任何言明都是可证的）。
[对于数理逻辑中形式系统/理论的概念不熟悉的读者，在阅读下面内容之前，最好先阅读一下笔者的科普文章 [9]。]
下面，笔者列举一些对这两个定理的误解误用实例，并分析说明这些实例都错在哪里。实例大都取自网上可以获得的文章及报道、科学网博文、以及微信公众号推文[10,11]。但是，那些借“哥德尔不完全性定理”之名实际上极其荒谬的无稽之谈，不在笔者的评价之列。
[出于就事论事，尊重各位世界级名人、逻辑学家/数学家、专业/非专业学者科学家、以及民间人士，下文中的举例一般都略去出典仅引用原文，批评也仅仅针对误解误用内容而完全无意针对任何个人。]
近年，把“哥德尔不完全性定理”和“人工智能”或者“人工智能是否能够超越人类智能”扯到一起似乎成了一种世界性的“时髦”。本文下面所举的实例均为此类谬误。
实例十一：“1931年：理论计算机科学的创始人库尔特·哥德尔展示了数学、逻辑学、计算和人工智能的局限性(1931: Kurt Gödel, founder of theoretical computer science, shows limits of math, logic, computing, and artificial intelligence)”
这篇实例文章，题目就错了。说数学本身和逻辑学本身（而非它们的应用）有局限性，就说明原作者应该不懂数学和逻辑学的本质，至少是完全不懂数学哲学及逻辑哲学。说哥德尔展示了数学和逻辑学的局限性，就更是毫无根据信口开河的胡言乱语。哥德尔的工作的确显示了数理逻辑领域内形式化方法论有穷方法限制的局限性，但是其有效性仅限于数理逻辑的部分领域，根本不超出数理逻辑到整个逻辑学以及数学。
“2021年，我们将庆祝库尔特·哥德尔1931年开创性的论文发表90周年，该论文奠定了理论计算机科学和人工智能(AI)理论的基础。哥德尔确定了定理证明、计算、人工智能、逻辑和数学本身的基本极限，这在学术界引起了震动。这对20世纪的科学和哲学产生了巨大影响。(In 2021, we are celebrating the 90th anniversary of Kurt Gödel's groundbreaking 1931 paper which laid the foundations of theoretical computer science and the theory of artificial intelligence (AI). Gödel sent shock waves through the academic community when he identified the fundamental limits of theorem proving, computing, AI, logics, and mathematics itself. This had enormous impact on science and philosophy of the 20th century.)”
上面这段实例文章的概要，对哥德尔1931年论文的过度赞誉完全言过其实。哥德尔1931年论文的工作是一个否定性结果，可以说它刺激和影响了数理逻辑某些领域（比如，证明论），但是不会奠定数理逻辑哪个领域的基础，更不会“奠定了理论计算机科学和人工智能 (AI) 理论的基础”。试问：检查一下理论计算机科学和人工智能理论的世界著名教科书，看看有哪一本是把哥德尔1931年论文列为基础经典文献的？后两句话更是毫无根据信口开河的夸大其词，早已被世界诸多数理逻辑专业学者批评过的胡言乱语。
“1930年代初，库尔特·哥德尔阐明了计算、计算定理证明和逻辑的数学基础和局限性。因此，他成为现代理论计算机科学和人工智能理论之父。(In the early 1930s, Kurt Gödel articulated the mathematical foundation and limits of computing, computational theorem proving, and logic in general. Thus he became the father of modern theoretical computer science and AI theory.)”
笔者评论：没有根据的过度赞誉，无视历史的夸大其词。
“哥德尔引入了一种通用语言来编码任意可形式化的过程。它基于整数，允许以公理形式形式化任何数字计算机的操作。(Gödel introduced a universal language to encode arbitrary formalizable processes. It was based on the integers, and allows for formalizing the operations of any digital computer in axiomatic form.)”
哥德尔考查的对象形式系统，一阶皮亚诺算术形式系统，是将皮亚诺公理作为经验公理添加到一阶谓词演算而得到的形式理论。哥德尔根本没有“引入了一种通用语言来编码任意可形式化的过程”，而是独创性地想到了就用一阶皮亚诺算术形式系统的形式语言来表达关于该形式系统的性质以及系统内的形式证明。所以，原作者之“它基于整数，允许以公理形式形式化任何数字计算机的操作”就是毫无根据的胡言乱语。
“哥德尔以构建形式陈述而闻名，这些陈述讨论了其他形式陈述的计算，尤其是自指陈述，这些陈述蕴涵它们是不可判定的，给定一个计算定理证明器，该证明器系统地从可枚举的公理集中枚举所有可能的定理。因此，他确定了算法定理证明、计算以及任何类型的基于计算的人工智能的基本限制（有些人误解了他的结果，认为他表明人类优于人工智能）。20世纪40年代至70年代的早期人工智能大部分是通过专家系统和逻辑编程以哥德尔风格进行定理证明和推理。(Gödel famously constructed formal statements that talk about the computation of other formal statements—especially self-referential statements which imply that they are not decidable, given a computational theorem prover that systematically enumerates all possible theorems from an enumerable set of axioms. Thus he identified fundamental limits of algorithmic theorem proving, computing, and any type of computation-based AI (some misunderstood his result and thought he showed that humans are superior to AIs). Much of early AI in the 1940s-70s was about theorem proving and deduction in Gödel style through expert systems and logic programming.)”
上述陈述是原作者对哥德尔工作的过度“私家”解释（歪曲）。
“因此”之前的语句（相当于条件句前件）陈述混乱言之无物，“因此”之后的语句（相当于条件句后件）既不是事实也无根据。
公理化方法论最早在古希腊时代就由欧几里得创立了，形式化方法论也在近代由弗雷格、罗素/怀德海、希尔伯特等先驱就创立了。无论在数理逻辑领域还是在自动定理证明领域，都没有所谓“哥德尔风格”的演绎和证明。
实例十二：“从认知科学看人工智能的未来发展”
“哥德尔定理。在计算机科学界和人工智能学界，人们都知道摩尔定理、图灵定理，但其实更基础、更重要的是哥德尔定理。1931年，奥地利逻辑学家哥德尔发现在一个充分大的形式系统（至少应该包括初等数论的形式系统）中，存在自我指称的公式。由于这一发现，哥德尔证明了形式公理系统的不完全性定理。”
第一句，“哥德尔定理。” 因为哥德尔早年工作成果是著名的“完全性定理”和“不完全性定理”，所以，数理逻辑学家或者多少懂点数理逻辑的学者不会毫无交代地冒头第一句就来个“哥德尔定理”。看后文可以知道原作者是在说“不完全性定理”而原作者根本不知道哥德尔的“完全性定理”。
笔者的职业专业是计算机科学并在人工智能领域工作，但是却不知原作者的“图灵定理”所指为何？更不能认可原作者所述“但其实更基础、更重要的是哥德尔定理”。
严谨地说，上面引文最后一句话根本不对。哥德尔不是“发现”了“存在自我指称的公式”，而是独创性地给出了构造自指公式的方法。哥德尔更不是“由于这一发现”才证明了不完全性定理。
“哥德尔第一不完全性定理 令 φ 是一致的和R-可判定的，并假设 φ 具有算术表达性，则存在一个 S ar 语句 A，使得即非 φ |- A，又非 φ |- notA。
哥德尔第二不完全性定理 令 φ 是一致的和R-可判定的，且有 φ 包含 φ PA ，则并非 φ |- Consisφ。”
实例文章中的上面这一段对哥德尔不完全性定理的陈述，显然是原作者从哪里抄来的（没有任何引用信息！），并且连符号表达解释都没有，不知是没抄全还是被抄的原典就没有。读者将上述陈述与哥德尔的原始陈述比较一下立刻就可以知道，上述陈述完全是杜撰。
“这两个重要的定理，后来被合称为“哥德尔不完全性定理”。简单来说，一个至少包括初等数论的形式系统 N，如果 N 是一致的，那么它就是不完全的；第二不完全性定理说，如果上述形式系统N是一致的，则 N 的一致性的证明不能在 N 中形式化。”
如同笔者在前面文章中已经说明过的，上面原作者对哥德尔第一不完全性定理的解释是歪曲。而原作者对哥德尔第二不完全性定理的解释（当然不对！）倒是罕见，这个所谓的“N 的一致性的证明”是什么？说它不能在 N 中形式化，那么它应该已经是一个“证明”，是什么样的“证明”？笔者猜测，原作者应该自己都不清楚自己到底在说什么。
“简单定义定理中的两个重要概念：一致性和完全性。”
原作者给出的抄来的定义有对的也有错的，本文不予评论了。
“1931年，哥德尔证明的不完全性定理（后来以他的名字命名为哥德尔定理[由此可见原作者不知道哥德尔完全性定理]）证明两点：第一，一致性和完全性是不可得兼的，如果它是一致的，则它是不完全的，系统内至少包含一个真而不可证的命题；第二，如果一个系统是一致的，则它的一致性在系统内是不能证明的。”
原作者所述“一致性和完全性是不可得兼的，如果它是一致的，则它是不完全的，系统内至少包含一个真而不可证的命题”是胡说八道。哥德尔并没有证明“系统内至少包含一个真而不可证的命题”这一语义/模型论完全性而证明的是语构/证明论完全性，原作者大概是不懂数理逻辑之语构/证明论与语义/模型论的区别。
“哥德尔定理对语言学、逻辑学和哲学的影响是深远的，对人工智能和认知科学的影响还需要我们深入思考。第一，哥德尔宣告了形式化方法和形式系统的局限性，计算机和人工智能都是使用形式语言和形式推理的系统，当然也就无法逃避哥德尔定理的约束。也就是说，在所有的人工智能系统中，如果它是一致的（这是最基本的要求，即无矛盾的要求），那么它就是不完全的，存在真而不可证的命题。所以，想要建造一个无所不包、无所不能的人工智能系统那是完全不可能的。第二，人类心智以200万年前进化出来的无限丰富的自然语言为基础，这个语言使人类心智永远高于非人类动物，也高于人工智能，这个语言是人工智能永远无法跨越的鸿沟。可以想象，今后人工智能的开展，只能从自然语言理解来获得突破，ChatGPT已经展现出其在自然语言理解方面的新突破。对ChatGPT进行自然语言的分析，可以看出它与人类的心智和认知仍有本质的差异。”
“哥德尔定理对语言学、逻辑学和哲学的影响是深远的”，应该是原作者从哪里抄来的、解释说明不了的一句套话（类似的套话，文献中和网上到处都是）。
从“哥德尔宣告了形式化方法和形式系统的局限性”推导出“计算机和人工智能都是使用形式语言和形式推理的系统，当然也就无法逃避哥德尔定理的约束”是对“哥德尔不完全性定理”的一种典型的误解误用，大都是没有接受过计算机科学专业训练、不知道什么是计算机系统的人士所为。任何基于一阶皮亚诺算术的形式系统都是无穷的（姑且不论实无穷或潜无穷），而所有的计算机系统或人工智能系统，从可计算性到数据表达和系统状态都是有穷的。任何有穷系统都不在哥氏定理的有效范围之内。用哥氏定理来对任何有穷系统说局限性，都是拉哥氏定理的大旗来做虎皮，瞎忽悠。
所以，“在所有的人工智能系统中，如果它是一致的（这是最基本的要求，即无矛盾的要求），那么它就是不完全的，存在真而不可证的命题”是极其明显的胡说八道。
上面引文中所谓“第二，云云”明显与哥氏定理在逻辑上毫不相关，似乎是原作者硬扯到一起的。
[未完待续]
参考文献
[1] K. Gödel, “über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme I,” Monatshefte für Mathematik Physik, Vol. 38, pp. 173–198, 1931. (The summary of the results of this work, published in Anzeiger der Akad. D. Wiss. In Wien (math.-naturw. Kl.) 1930, No. 19.) English Translation: B. Meltzer (Translation) and R. B. Braithwaite (Introduction), K. Gödel, “On formally undecidable propositions of Principia Mathematica and related systems I,” Basic Books, 1962, Dover Publications, 1992.
[2] K. Gödel, “Some metamathematical results on completeness and consistency, On formally undecidable propositions of Principia Mathematica and related systems I, and On completeness and consistency”(1930b, 1931, and 1931a), in J. van Heijenoort (Translation, Ed.), “From Frege to Gödel: A Source Book in Mathematical Logic, 1879-1931” pp. 592-617, Harvard University Press, 1967, “Frege and Gödel: Two Fundamental Texts in Mathematical Logic,” pp. 83-108, Harvard University Press, 1970.
[3] K. Gödel, “Einige metamathematische Resultate über Entscheidungsdefinitheit und Widerspruchsfreiheit”(1930b) “Some metamathematical results on completeness and consistency,”(1930b), pp. 140-143, “über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme I,”(1931) “On formally undecidable propositions of Principia Mathematica and related systems I,”(1931), pp. 144-195, “über Vollständigkeit und Widerspruchsfreiheit,”(1932b) “On completeness and consistency,”(1932b), pp. 234-237, Translated (by J. van Heijenoort) and Repringted in S. Feferman, et al. (Eds.), “Kurt Gödel: Collected Works, Volume I, Publications 1929-1936,” Oxford University Press, 1986.
[4] 程京德,“准确地理解哥德尔不完全性定理‘关于PM及相关系统的形式不可判定命题’（1）- 背景及内容”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2024年6月26日。
[5] 程京德,“准确地理解哥德尔不完全性定理‘关于PM及相关系统的形式不可判定命题’（2）- 理论基础及有效范围”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2024年6月30日。
[6] 程京德,“准确地理解哥德尔不完全性定理‘关于PM及相关系统的形式不可判定命题’（3）- 意义”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2024年7月3日。
[7] 程京德,“准确地理解哥德尔不完全性定理‘关于PM及相关系统的形式不可判定命题’（4）- 误解误用的一般性原因”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2024年7月8日。
[8] 程京德,“准确地理解哥德尔不完全性定理‘关于PM及相关系统的形式不可判定命题’（5）- 一些相关事实”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2024年7月15日。
[9] 程京德，“形式理论：将形式逻辑系统应用于具体对象领域的逻辑基础”，微信公众号“数理逻辑与哲学逻辑”，2023年1月30日，科学网博客，2023年2月9日；“形式理论：将形式逻辑系统应用于具体对象领域的逻辑基础（增补版）”，微信公众号“数理逻辑与哲学逻辑”，2023年4月17日。
[10] 程京德，“哥德尔不完全性定理的内容和有效范围(3) 各种典型误解实例”，科学网博客，2017年5月5日。
[11] 程京德，“哥德尔不完全性定理的误读误解实例(1)”，微信公众号“数理逻辑与哲学逻辑”，2023年6月8日， “哥德尔不完全性定理的误读误解实例(2)”，微信公众号“数理逻辑与哲学逻辑”，2023年6月9日，“哥德尔不完全性定理的误读误解实例(3)”，微信公众号“数理逻辑与哲学逻辑”，2023年6月10日， “哥德尔不完全性定理的误读误解实例(4)”，微信公众号“数理逻辑与哲学逻辑”，2023年6月11日， “哥德尔不完全性定理的误读误解实例(5)”，微信公众号“数理逻辑与哲学逻辑”，2023年6月12日， “哥德尔不完全性定理的误读误解实例(6)”，微信公众号“数理逻辑与哲学逻辑”，2023年6月15日， “哥德尔不完全性定理的误读误解实例(7)”， 微信公众号“数理逻辑与哲学逻辑”，2023年7月19日， “哥德尔不完全性定理的误读误解实例(8)”， 微信公众号“数理逻辑与哲学逻辑”，2024年7月9日 ， “哥德尔不完全性定理的误读误解实例(9)”， 微信公众号“数理逻辑与哲学逻辑”，2024年7月11日 。
微信公众号“数理逻辑与哲学逻辑”
转载本文请联系原作者获取授权，同时请注明本文来自程京德科学网博客。 链接地址： https://blog.sciencenet.cn/blog-2371919-1444198.html
上一篇： 研究生教育及学位授予制度应该到改革之时了(讨论稿) 下一篇： 相关逻辑 (5) - 形式化公理系统