[普通讨论,非学术向]关于国内学界对AI以及自我意识的认识

先附上一篇赵汀阳对此问题的文章:http://www.aisixiang.com/data/114807.html

文章节选:“意识的秘密是个科学问题(生物学、神经学、人工智能、认知科学、心理学、物理学等学科的综合研究),我没有能力参加讨论,但自我意识却是个哲学问题。理解自我意识需要讨论的不是大脑神经,不是意识的生物机制,而是关于意识的自我表达形式,就是说,要讨论的不是意识的生理- 物理机制,而要讨论意识的自主思维落实在语言层面的表达形式。为什么是语言呢?对此有个理由:人类的自我意识就发生在语言之中。假如人类没有发明语言,就不可能发展出严格意义上的自我意识,至多是一种特别聪明和灵活的类人猿。”

我的感受:节选段的观点论证非常模糊,或者说,是没有论证。为什么“理解自我意识取决于意识的自我表达形式”?是想表达一种功能主义的态度吗。下一句话中,关于意识的自我表达形式,作者又直接跳到语言了;为什么是语言,作者给出的理由是”人类的自我意识就发生在语言之中“,这实际上是在question begging。最后一句话更是令人费解,为什么说人类没有语言就没有自我意识,作者实际上没有给出任何论证。假设全宇宙只剩下一个人,这个人从来没有与任何与其他人类交流过,也不会说话,我们直觉上似乎无法否认她没有自我意识。

这类型的行文在国内学界可以说占了很大一部分吧,我比较愚钝,无法理解。这篇文章的作者也是在国内享有声望的老师,但这样春秋笔法的论文,真的对推进问题有意义吗?看到朋友圈有几个人在转这篇文章,看了有点难过。

3赞

同样无法理解。(可能说明我至少跟你一样愚钝:laughing:)两点看法:

A. 从期刊论文的标准看,这篇文章写得真的很糟。不过如果当成学术向的随笔,可能还能容忍。这篇文章发在了《自然辩证法通讯》上,我觉得一个比较善意的结论是,这个期刊可以接受(大佬写的)随笔类的文章。从这个角度讲,期刊质量堪忧。

B. 我觉得这篇文章质量差的原因不仅仅在于没有给出明确的论证,也在于作者似乎在写作时似乎根本不在意理由对论点的支撑。如果是写随笔的话,有些论证是否真正写出来可能没有那么重要,只要作者知道背后确实是有论证或理由的。但是从这篇文章看,作者似乎根本就没有这种意识。比方说这一句(原文里随便翻到的):

到目前为止,地球上最具危险性的智能生命就是人类,因为人类的自由意志和自我意识在逻辑上蕴含了一切坏事。[后面当然没有给论证…]

我猜,如果作者哪怕有一点点在意论证支持的话,他都不可能写出这样的句子,除非:

  1. 他不知道前半句需要庞大的经验证据支持(假设我们都知道“危险”是什么意思),且
  2. 他不知道关于自由意志是否存在的争议,且
  3. 他不知道啥是逻辑蕴含。
    ……

是的,翻到任何一页,都充斥这这样的句子。还能在“除非”后面加一点,4. 他不知道如何区分自由意志和自我意识。如果这篇文章是一份知乎答案,估计评论区也会非常“热闹”,但由于这是大佬文章,又发在所谓权威期刊上,似乎就能直接立住了。

我觉得这类文章对于问题的推进意义不大,甚至对严谨的哲学讨论有负面影响,因为新进的哲学学生,可能就会认为这是正确的哲学工作方式和写作方式,进而产生负面的反馈。我们国内的学术传统里,也并不重视反驳和构建论证,更是避免公开发表反驳大佬观点的文章,这就导致了不少人都是在自说自话,缺少有效的交流。

而这样的文章,又实在是太多太多了。

2赞

引用文段的后一段似乎是在给论证:

只有语言才足以形成智能体之间的对话,或者一个智能体与自己的对话(内心独白),在对话的基础上才能够形成具有内在循环功能的思维,而只有能够进行内在循环的思维才能够形成自我意识。与之相比,前语言状态的信号能够号召行动,却不足以形成对话和思维。假设一种动物信号系统中,a 代表食物,b 代表威胁,c代表逃跑,那么,当一只动物发出a 的信号,其他动物立刻响应聚到一起,当发出b 和c,则一起逃命。这种信号与行动的关系足以应付生存问题,却不足以形成一种意见与另一种意见的对话关系,也就更不可能有讨论、争论、分析和反驳。就是说,信号仍然属于“刺激- 反应”关系,尚未形成一个意识与另一个意识的“回路”关系,也就尚未形成思维。可见,思维与语言是同步产物,因此,人类自我意识的内在秘密应该完全映射在语言能力中。如果能够充分理解人类语言的深层秘密,就相当于迂回地破解了自我意识的秘密。

虽然没有怎么看懂细节,但看起来是在说语言是思维的必要条件,并且简单的信号不能算是语言,简单的反射也不是思维。不清楚的就是这段论证到底是怎么进行的 & 结论到底是怎么得出来的。

我读到的国内有关人工智能的哲学写得较好的是徐英瑾,供参考啦。

对AI 的哲学探讨,我感觉国内的大多比较肤浅,纠缠概念。如果不走大数据的路子,不如多看看argumentation方面的一些形式系统建构。然后看看里面能不能挖出一些人工智能的议题。抛开参与其中的逻辑工作来谈很难。自我意识这块就更加了

出自学者之手,“神级”这种词都能出来,况且还是非常混乱的一篇文章,所以有时候不想看中文材料,总有一股民哲的气息扑面而来

1赞