用得上的哲学
导语
中文屋论证是当代讨论人工智能的一个非常重要的哲学论证，凡是认为这个论证是正确的人，就会得出一个结论，就是强人工智能是不可能的。也就是认为，我们可以做出一台非常了不起的计算机，能够做我们让它做的各种事情，但它不可能具有真正的心智。这是一种对于之前所讲的机器功能主义的批判理论。
本集将包含以下要点：1. 什么是中文屋论证；2. 对于该论证的一些批评；3. 对于是否可以实现强人工智能，应抱有开放的心态。
文稿
各位听友大家好，我是徐英瑾，非常高兴和大家继续来讨论用得上的哲学这个话题。
上一次我们讨论的主要话题是功能主义，功能主义是物理主义立场中用来解释心灵本质的一种哲学立场。它的一个核心思想是，心智的本质就在于一系列的抽象的功能，这些抽象的功能可以多重地实现于不同的物理机制，不过它仍然是随附于特定的物理活动的。
功能主义主要是分成两种，一种是心理功能主义，一种是机器功能主义。机器功能主义的想法又和所谓的人工智能结合在一起。今天，我们就要讨论对于所谓的机器功能主义的一种很重要的批评。
很有意思的是，提出这种批评的论者，他未必本人是站在反对物理主义的立场上，但是他就是不喜欢机器功能主义，他主张的是另外一个版本的物理主义。
中文屋论证：强人工智能是不存在的
美国哲学家约翰·塞尔，他提出的一个对于机器功能主义的批评，就体现为所谓的中文屋论证。中文屋论证是什么东西呢？实际上，它已经构成了当代讨论人工智能的一个非常重要的哲学论证。凡是认为这个论证是正确的人，就会得出一个结论，就是强人工智能是不可能的。
好了，这里我们就碰到了一个术语需要澄清，就是强人工智能。显然，强人工智能是和弱人工智能对着讲的，所以我们也得顺带说说什么叫弱人工智能。我们都知道，现有的这些人工智能系统，它们离真正的人类智能都有很大的距离，能不能说它们是弱人工智能呢？勉强说是可以的，但它们肯定不是强人工智能。
2019.07.09
精选评论
共 28 条思想实验主要是为了讲道理的吧……有道理就好，至于现实能不能实现不重要吧……现实永远取不到无穷小，但不妨碍用无穷小的概念作微积分运算……而且，中文屋论证主要是想说，我们无法仅仅通过某个事物按照某种规则，某种因果律运行的这一现象，就判定这一事物具有主观意识吧？就像星体会根据万有引力定律、质能守恒、角动量守恒blablabla一堆规则，组成复杂的星系，各形成其自身的一套恒定的运动状态（输入定律规则，输出运动状态），但我们不能因此就说星体具有自我意识吧，当然我们也不能因此说星体就不具有自我意识，我们只能说我们据此无法确定星体有没有自我意识……
life ：我并不认同关于第二点关于语言的反驳 ，计算机会有它自己所识别的语言，它一定是建立于一个信息传递方式基础之上的
徐老师 现在机器已经可以部分更新词库了
Hubert ：同意
我不太同意关于规则书的反驳。它可以有个反驳，比如，查询不到的东西，可以有对应的回答。例如，“都挺好是什么？电视剧吗？”、“我没看过都挺不好呢”这类回答，换人回答也是这个套路，并不是说要穷尽所有的规则才能被辨识为人类
越来越觉得用不上了……
段赟 ：哈哈哈😁，是
人越来越漂少了
丸尾同学 回复 Miu ：对呀
Miu ：是因为难嘛
人类作为碳基生命，其成长过程就是一个从弱智能向强智能学习进化的过程，输入输出也是从简单向复杂扩展的过程，因此只要机器具备学习功能，完全就能成为强人工智能。那么，机器功能主义是成立的。而人类，如果寿命能大幅度延长，就能成为全知全能，等同于神。《西部世界》里赋予接待机器人的起始痛苦记忆和“冥思”
云妮 ：就是模拟人类的智能生成过程。只要硅基生命不擦除回放，那就一样会有意识和意想性。 嗯，《西部世界》虽然好像烂尾了，但这个探讨的假设的确值得一看。
相信外星人，可以跟道长讲的弗兰肯斯坦，相得益彰
“一个新的剧和都挺好哪个好看”这个问题，机器只要回答，都挺好，或者另一个剧好看，我们就无法识别是机器还是人类的回答。但是现有自然语言处理的技术已经可以回答了，不需要提前写好词库，规则书怎么写还是依赖技术能力啊…并非完全不可能，只是这种回答算是“懂”么，这还是个问题
Justus ：2023年打卡，chat GPT 已经实现相当程度的自然语言处理了
徐老师用规则书不可能成立和能理解规则书就能理解语言来反驳太妙了
规则书不是人工智能，是规则定义。从现在的角度，老师不太理解人工智能的机理，因为老师不是研究人工智能的。
那开放的心态来说的话，那规则书也是有可能写出来的
马后炮：规则书已经写出来了（chat GPT）
不同意反驳，ChatGPT出现了
啊，我也变得相信机器功能主义了😂
这个中文屋实验最近我被cue到于是跟朋友探讨了一下，本来我对您的反驳是很认同的，但真理确实越辩越明啊，我一跟别人辩起来，竟发现中文屋好像是可以实现的，强人工智能是可以实现的😂