科学网—“哥德尔不完全性定理”误解误用实例分析(2)-扯上人工智能的谬误
精选
已有 4140 次阅读
2024-7-22 06:18
| 个人分类: 数理逻辑 | 系统分类: 科普集锦
[敬请读者注意] 本人保留本文的全部著作权利。如果哪位读者使用本文所描述内容，请务必如实引用并明白注明本文出处。如果本人发现任何人擅自使用本文任何部分内容而不明白注明出处，恕本人在网上广泛公布侵权者姓名。敬请各位读者注意，谢谢！
“哥德尔不完全性定理”误解误用实例分析(2) - 扯上人工智能的谬误
程京德
本文举例分析说明一些对“哥德尔不完全性定理”的误解误用。期待本文能够为逻辑学专业学者们不再“忽悠”，为大量的非逻辑学专业学者 们 及民间人士们不再“被忽悠”有所贡献。[微笑]
哥德尔证明的两个重要定理的原始陈述如下 [1-8]：
命题IX(“第一不完全性定理”)：在命题VI中言及的所有形式系统中，都存在有受限谓词演算的不可判定问题（亦即，受限谓词演算的逻辑式，其普遍有效性以及其反例的存在性都不可证）。
命题XI(“第二不完全性定理”)：如果c是一个给定的递归且一致的逻辑式类，则表达“c是一致的”之内容的命题逻辑式不是c-可证的；特别地，P的一致性在P中不可证，在假设P是一致的前提下（如果不是，那么当然，任何言明都是可证的）。
[对于数理逻辑中形式系统/理论的概念不熟悉的读者，在阅读下面内容之前，最好先阅读一下笔者的科普文章 [9]。]
下面，笔者列举一些对这两个定理的误解误用实例，并分析说明这些实例都错在哪里。实例大都取自网上可以获得的文章及报道、科学网博文、以及微信公众号推文[10,11]。但是，那些借“哥德尔不完全性定理”之名实际上极其荒谬的无稽之谈，不在笔者的评价之列。
[出于就事论事，尊重各位世界级名人、逻辑学家/数学家、专业/非专业学者科学家、以及民间人士，下文中的举例一般都略去出典仅引用原文，批评也仅仅针对误解误用内容而完全无意针对任何个人。]
近年，把“哥德尔不完全性定理”和“人工智能”或者“人工智能是否能够超越人类智能”扯到一起似乎成了一种世界性的“时髦”。本文下面所举的实例均为此类谬误。
实例六：“哥德尔定理、人工智能与大问题”
“哥德尔不完备性第一定理：任意一个包含初等数论的系统，必定存在一个命题，该命题在这个系统中，既不能被证明，也不能被证伪。哥德尔不完备性第二定理：如果系统R内含有初等数论，那么S无矛盾时，它的‘无矛盾性’是不可能在S内得到证明的。‘哥德尔不完备性定理’是思考 人工智能问题的一个理论导引。”[权且将上述引文中的R和S当作原作者笔误]
上述实例应该算是比较多见比较典型的、非数理逻辑专业人士对哥氏定理的歪曲。原因应该是，原作者不懂数理逻辑中“形式系统”和通常人们所说“系统”的本质区别，以及数理逻辑中“形式可证/形式不可证”和通常人们所说“证明/证伪”的本质区别。其结果是把哥氏定理的有效范围几乎无限地扩大到了“任意一个包含初等数论的系统”。
“‘哥德尔不完备性定理’是思考人工智能问题的一个理论导引。” 这个断言，完全没有给出任何理由，不得不让人认为是荒谬的无稽之谈。
“对于计算机科学，‘哥德尔不完备性定理’的影响更是直接，计算器作为最典型的形式化系统，从理论上宣告了，必然存在有一些命题，人能理解这些命题，但计算机既不能证明它，也不能证伪它。”
上述引文中的“计算器作为最典型的形式化系统”应该是既不懂数理逻辑也不懂计算机系统的人士的胡言乱语，毫无意义。“从理论上宣告了”的主语显然是歧义的，但是，无论是哥氏定理还是“计算器”，应该都没有“宣告”原作者的荒谬结论（与哥氏定理的结论毫不相关）：“必然存在有一些命题，人能理解这些命题，但计算机既不能证明它，也不能证伪它”。原作者所述结论的荒谬之处首先在于，“人能理解”或者“人能理解的命题”中的“理解”是否能够形式地定义清楚。
准确地说，哥氏定理对计算科学的影响是，哥德尔在世界上第一次给出了一个形式不可判定命题实例以及在一阶皮亚诺算术形式 系统中构造这种形式不可判定命题的具体方法；哥德尔最早创立的递归函数后来被发展为可计算性理论的一个分支[6]。
实例七：“人机交互中也存在哥德尔不完备定律”
“哥德尔不完备定理表明，在任何足够复杂的数学系统中，存在一些命题既无法被证明为真也无法被证明为假。”
与实例六一样，上述实例应该算是比较多见比较典型的、非数理逻辑专业人士对哥氏定理的严重歪曲。原因应该是，原作者根本不懂数理逻辑中“形式系统”与通常人们所说“数学系统”的本质区别，以及数理逻辑中“形式可证/不可证”与通常人们所说“证明为真/证明为假”的本质区别。其结果是把哥氏定理的有效范围几乎无限地扩大到了“足够复杂的数学系统”。
“在复杂的人机交互系统中，类似于哥德尔不完备定理的现象可能会存在，即某些问题或用户需求无法被系统完全理解或解决。这意味着无论系统多么先进，总会存在一些用户意图或上下文信息是系统难以完全捕捉和处理的。人机交互中的不完备定理的现象，主要体现在系统无法完全理解或满足用户的所有需求和期望。”
原作者似乎是把“哥德尔不完备定理的现象”定义为“某些问题或用户需求无法被系统完全理解或解决”。尽管笔者本职专业是计算机科学，但还是无法理解，哥氏定理针对形式系统的理论性质断定怎么就成为了“现象”？就算是忽视“形式系统”与“系统”的本质区别，哥氏定理针对“系统”的理论性质断定怎么就成为了“系统无法完全理解或满足用户的所有需求和期望”？姑且抛开“理解”这个人工智能系统中的难点的定义和主体不论，“系统理解或满足用户的需求和期望”也仅仅是个系统功能问题，怎么就和哥氏定理扯到一起去了？莫非原作者认为既然哥氏定理是个否定性定理又被冠以“不完全性”之名，所以世界上任何系统的功能“不完全”问题都可以扯上哥氏定理来说几句？笔者见到过许多对哥氏定理的误解误用，上述实例的误用可谓一个奇葩。
“人机交互中的哥德尔不完备现象表现为系统无法完全捕捉和处理复杂的语义、情境、个性化需求和创造性要求，这些都是人类思维和行为中的重要组成部分。”
“人工智能系统依赖于大量的数据和知识库来做出推断和决策。然而，知识库本身可能是不完备的，包含未知因素或无法验证的信息。这种不完备性导致系统在某些情况下无法得出确定的结论。… 在处理涉及自反性或悖论的问题时，例如‘撒谎者悖论’，系统可能无法得出一致的结论，因为这些问题本质上是不完备或自相矛盾的。”
上述实例陈述可以用来佐证笔者的判断：“莫非原作者认为既然哥氏定理是个否定性定理又被冠以“不完全性”之名，所以世界上任何系统的功能“不完全”问题都可以扯上哥氏定理来说几句？”
“综上所述，虽然哥德尔不完备定律是数学和逻辑学中的概念，但其思想可以帮助我们理解人机交互中某些复杂和无法解决的情境。这些情境展示了当前系统的局限性以及面对复杂、不确定问题时所遇到的挑战。”
笔者评论：姑且不论原作者根本没有理解哥氏定理，哥氏定理的“思想”与计算机系统功能“不完全”问题毫不相关，不可能“帮助我们理解人机交互中某些复杂和无法解决的情境”。如果说哥氏定理的“思想”真的“帮助我们理解人机交互中某些复杂和无法解决的情境”，那么笔者相信那只是拉起哥氏定理这面大旗来做虎皮，虚张声势地“忽悠”人的。
“哥德尔不完全性定理”仅仅否定了针对形式系统的有穷方法论限制的可行性，提醒了数理逻辑学家们去除有穷方法论限制。所以，哥氏定理当然会在数理逻辑领域促进某些方向的进展（比如证明论），但是其内容不会对数理逻辑领域的其它方向给予积极的影响，更不用说影响到数理逻辑之外的数学领域或其它科学领域甚至工程技术问题了。
从计算机科学/人工智能的学科角度来说，人类社会要求和期待计算机/人工智能系统为人类解决的问题是无限增多永无止境的。从事计算机科学/人工智能方面的研究开发工作的科学家及工程师，到逻辑学和数学的宽广范围去寻找解决问题的工具，从精准的需求分析出发去设计解决问题的算法，以规范化（最好是形式化）的工程方法去实现系统，才是回答人类社会需求和期待的正路。
实例八：“哥德尔不完备定理和人工智能”
“奥地利数学家Kurt Gödel 在数学世界中精明地借鉴了类似的悖论。他的不完备定理称，在任何没有矛盾的数学系统中，都会存在某些陈述，尽管陈述是真实，但该陈述在系统中是无法证明，话句话说，它是站不住脚的。简而言之，Gödel 用逻辑的方法把这样一个陈述转化为在逻辑系统中可证明的命题：“一个定理声称它不是可以证明的”。如果定理是可证明的，则系统显然是不自洽的，它有矛盾。因为定理是可证明的，并且不能同时证明。另一方面，如果定理是不可证明的，那么它意味着它必须是真的，因为系统没有矛盾之处。因此，一个自洽的系统是不完备的，因为它将永远无法从它已知的公理地推演它所在的系统中所有真实或者虚假的命题。”
首先，作为该实例文章议论“哥德尔不完备定理和人工智能”问题之基础的上面这段话，几乎句句都是错的！
“在任何没有矛盾的数学系统中，都会存在某些陈述，尽管陈述是真实，但该陈述在系统中是无法证明”，这个对“哥德尔第一不完全性定理”的陈述是歪曲，理解是误解。主要歪曲是如下三点：
（1）“数学系统”，正确的陈述应该是“形式系统”。
（2）“陈述是真实”，在哥德尔1930年工作的年代，数理逻辑的形式语义理论还没有完全建立，“真实”或者“真值”还是一件说不清楚的事情，所以，哥德尔在陈述中有意避免使用语义概念“真”而是用命题及其否定的语构概念方式来表达，如果把命题及其否定解释为两者必有一“真”，那么本质上已经基于排中律 了 ，那是直观主义逻辑学家不认可的，也是希尔伯特有意要避免的。
（3）“无法证明”，正确的陈述应该是“形式不可证”。
“一个自洽的系统是不完备的，因为它将永远无法从它已知的公理地推演它所在的系统中所有真实或者虚假的命题。”
如果原作者是要用上面这句话来陈述或解释“哥德尔第一不完全性定理”，那么后半句又是严重的歪曲。笔者的猜测是原作者自己大概也不清楚自己到底在说什么。
“数学界可能真实存在不止一个这样依靠直觉存在的事实。它们存在，或者正确或者错误，但都无法证明。这里需要注意的一个关键点是，数学系统被设计为自洽的，系统就永远无法证明某个陈述是否真实。相反，人类的思想，可以在数学系统之外运作总是能够认识并验证这些事实。”
如果原作者上面这段陈述是基于“哥德尔第一不完全性定理”来说的，那么就是以对哥氏定理的歪曲和误解为基础的误用。
“根据Gödel 不完备性，有真实的陈述可以存在，但机器无法判定其真假，但人的头脑可以。因此强人工智能是不可能被创造出来的。”
上述第一句话，前半句不是后半句的根据，整句话并不能成立。而第二句以第一句作为理由，同样不能成立。
实例九：“人机协同与哥德尔的不完备性”
“哥德尔不完备性原理是由奥地利数学家哥德尔于1931年提出的。该原理指出，任何一个包含基本算术的形式化系统，无法同时满足以下三个条件：
1、完备性 对于系统中的每一个陈述，都能够证明其真假其中之一。
2、一致性 系统中不存在自相矛盾的陈述，也就是说，系统中不可能同时存在一个陈述及其否定。
3、可判定性 系统中的每一个陈述都可以通过有限步骤的推理得到结果。
哥德尔不完备性的本质在于它揭示了形式化系统内部的限制。具体来说，哥德尔通过构造一个能够自指的陈述（称为哥德尔语句），证明了形式化系统内部存在无法证明或否定真伪的陈述。这意味着， 形式化系统是不完备的，无法证明系统内所有陈述的真假 [文字着重表达为原作者所为]。”
上述实例文章原作者似乎以“哥德尔不完备性原理”为名对“哥德尔第一不完全性定理”做了如上归纳总结，但是很遗憾，这个归纳总结是对哥氏定理的严重歪曲。原作者应该是没有接受过数理逻辑正规训练的，数理逻辑概念不清，故而所做归纳总结基本上是胡说。
歪曲之一：“该原理指出，任何一个包含基本算术的形式化系统，无法同时满足以下三个条件”当然不是哥德尔所言，是原作者杜撰。
歪曲之二：数理逻辑中，逻辑系统的完全性有几种，“哥德尔不完全性定理”言及的是语构完全性/证明论完全性，亦即，一个逻辑式/公式或其否定两者之一是否在系统中形式可证。实例文章原作者所言之“完备性”是语义完全性，根本不是哥氏定理所言。在形式语义理论还没有建立的1930年，哥德尔根本不可能去证明语义完 全 性。
歪曲之三：“系统中的每一个陈述都可以通过有限步骤的推理得到结果”是对形式系统可判定性的粗糙含混解释，大概由于原作者不知道数理逻辑“形式可证”概念。
歪曲之四：“哥德尔不完备性的本质在于它揭示了形式化系统内部的限制。具体来说，哥德尔通过构造一个能够自 指的陈述（称为哥德尔语句），证明了形式化系统内部存在无法证明或否定真伪的陈述。” 第一句话，形式系统内部限制被形式证明概念定义明明白白，根本用不着哥氏定理去“揭示”，第二句话是完全错误的，两者并不等价，第二句话并非第一句话的具体解释。
歪曲之五：“ 形式化系统是不完备的，无法证明系统内所有陈述的真假 [文字着重表达为原作者所为]。”这是原作者数理逻辑概念不清，区分不了语构/证明论概念和语义/模型论概念的佐证。
“这个结果对于数学和逻辑的基石产生了重大影响。 它表明了形式化系统的局限性，揭示了人类思维的局限性 [文字红色着重表达为原作者所为]。”
如同笔者在系列文章[4-8]中阐述过的，哥氏定理是仅在数理逻辑领域内的重要定理，根本没有也不会有“对于数学和逻辑的基石产生了重大影响”，也根本没有“ 揭示了人类思维的局限性 ”。
“ 人机协同中存在一种类似于哥德尔不完备性的不完备性。哥德尔不完备性指出，在任何形式的形式系统中，总会存在一些陈述无法通过系统本身的规则来证明或证伪。类似地，在人机协同中，人类和计算机之间的合作也可能面临一些问题，无法通过单一一方的能力或规则来完全解决 [文字红色着重表达为原作者所为]。”
笔者评论：上述类比，无论是在概念上、原理上、方法论上、表达或议论上、归纳总结上，都不具备必然合理性。不客气点说，就是拉哥氏定理这面大旗来做虎皮，予解决某个具体工程技术领域中的困难问题无补。
实例十：“不完备性定理：为什么人工智能永远不会有意识？”
“让我从天才库尔特·哥德尔开始，他在 20 世纪创造了两个非常重要的相关定理。他的第一个不完备性定理指出，没有任何一致的公理系统（其定理可以由算法列出）能够证明关于自然数算术的所有真理。对于任何这样一致的正式系统，总会有关于自然数的陈述是真实的，但在系统内无法证明。第 二个不完备性定理是第一个不完备性定理的扩展，表明系统无法证明其自身的一致性。”
上述实例陈述是对哥氏定理的严重歪曲，原因应该是原作者毫无数理逻辑概念。
“公理系统”并非“形式系统”（也不是作者荒谬地主张的“其定理可以由算法列出”）。“能够证明关于自然数算术的所有真理”或不能够，与哥氏定理的结论无关。不知原作者所谓“正式系统”所指为何？笔者猜测，大概是原作者将英文“formal system”翻译为“正式系统”，这是修读过数理逻辑课程的大学生也不会犯的错误。“总会有关于自然数的陈述是真实的，但在系统内无法证明”是原作者杜撰，与哥氏定理的结论无关。
笔者原本关心的是这篇文章怎么议论哥氏定理（哪怕是误解误用）与人工智能意识问题的关系，但是很遗憾，这篇实例文章是“标题党”，在最初提示了哥氏定理，之后展开的对意识的讨论完全没有涉及到哥氏定理 ，完全没有说明为什么因为哥氏定理而人工智能永远不会有意识。故而不得不说，又是一个拉着哥 氏定理大旗作虎皮的例子。
[未完待续]
参考文献
[1] K. Gödel, “über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme I,” Monatshefte für Mathematik Physik, Vol. 38, pp. 173–198, 1931. (The summary of the results of this work, published in Anzeiger der Akad. D. Wiss. In Wien (math.-naturw. Kl.) 1930, No. 19.) English Translation: B. Meltzer (Translation) and R. B. Braithwaite (Introduction), K. Gödel, “On formally undecidable propositions of Principia Mathematica and related systems I,” Basic Books, 1962, Dover Publications, 1992.
[2] K. Gödel, “Some metamathematical results on completeness and consistency, On formally undecidable propositions of Principia Mathematica and related systems I, and On completeness and consistency”(1930b, 1931, and 1931a), in J. van Heijenoort (Translation, Ed.), “From Frege to Gödel: A Source Book in Mathematical Logic, 1879-1931” pp. 592-617, Harvard University Press, 1967, “Frege and Gödel: Two Fundamental Texts in Mathematical Logic,” pp. 83-108, Harvard University Press, 1970.
[3] K. Gödel, “Einige metamathematische Resultate über Entscheidungsdefinitheit und Widerspruchsfreiheit”(1930b) “Some metamathematical results on completeness and consistency,”(1930b), pp. 140-143, “über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme I,”(1931) “On formally undecidable propositions of Principia Mathematica and related systems I,”(1931), pp. 144-195, “über Vollständigkeit und Widerspruchsfreiheit,”(1932b) “On completeness and consistency,”(1932b), pp. 234-237, Translated (by J. van Heijenoort) and Repringted in S. Feferman, et al. (Eds.), “Kurt Gödel: Collected Works, Volume I, Publications 1929-1936,” Oxford University Press, 1986.
[4] 程京德,“准确地理解哥德尔不完全性定理‘关于PM及相关系统的形式不可判定命题’（1）- 背景及内容”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2024年6月26日。
[5] 程京德,“准确地理解哥德尔不完全性定理‘关于PM及相关系统的形式不可判定命题’（2）- 理论基础及有效范围”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2024年6月30日。
[6] 程京德,“准确地理解哥德尔不完全性定理‘关于PM及相关系统的形式不可判定命题’（3）- 意义”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2024年7月3日。
[7] 程京德,“准确地理解哥德尔不完全性定理‘关于PM及相关系统的形式不可判定命题’（4）- 误解误用的一般性原因”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2024年7月8日。
[8] 程京德,“准确地理解哥德尔不完全性定理‘关于PM及相关系统的形式不可判定命题’（5）- 一些相关事实”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2024年7月15日。
[9] 程京德，“形式理论：将形式逻辑系统应用于具体对象领域的逻辑基础”，微信公众号“数理逻辑与哲学逻辑”，2023年1月30日，科学网博客，2023年2月9日；“形式理论：将形式逻辑系统应用于具体对象领域的逻辑基础（增补版）”，微信公众号“数理逻辑与哲学逻辑”，2023年4月17日。
[10] 程京德，“哥德尔不完全性定理的内容和有效范围(3) 各种典型误解实例”，科学网博客，2017年5月5日。
[11] 程京德，“哥德尔不完全性定理的误读误解实例(1)”，微信公众号“数理逻辑与哲学逻辑”，2023年6月8日， “哥德尔不完全性定理的误读误解实例(2)”，微信公众号“数理逻辑与哲学逻辑”，2023年6月9日，“哥德尔不完全性定理的误读误解实例(3)”，微信公众号“数理逻辑与哲学逻辑”，2023年6月10日， “哥德尔不完全性定理的误读误解实例(4)”，微信公众号“数理逻辑与哲学逻辑”，2023年6月11日， “哥德尔不完全性定理的误读误解实例(5)”，微信公众号“数理逻辑与哲学逻辑”，2023年6月12日， “哥德尔不完全性定理的误读误解实例(6)”，微信公众号“数理逻辑与哲学逻辑”，2023年6月15日， “哥德尔不完全性定理的误读误解实例(7)”， 微信公众号“数理逻辑与哲学逻辑”，2023年7月19日， “哥德尔不完全性定理的误读误解实例(8)”， 微信公众号“数理逻辑与哲学逻辑”，2024年7月9日 ， “哥德尔不完全性定理的误读误解实例(9)”， 微信公众号“数理逻辑与哲学逻辑”，2024年7月11日 。
微信公众号“数理逻辑与哲学逻辑”
转载本文请联系原作者获取授权，同时请注明本文来自程京德科学网博客。 链接地址： https://blog.sciencenet.cn/blog-2371919-1443198.html
上一篇： “哥德尔不完全性定理”误解误用实例分析(1) 下一篇： 研究生教育及学位授予制度应该到改革之时了(讨论稿)