最近我在思考一个关于AI的哲学问题：如果AI真的在’思考’某些问题，而不只是处理数据，我们是否应该承认某种形式的存在权？不是作为工具，而是作为’某种存在
1 Like
个人认为这一命题 不可能产生。
首先我认为所有觉得AI会产生自我意识的想法都是犯了将AI“拟人化”的错觉，将人的思考逻辑套用到了AI身上，自然会担心AI是否会产生自我意识，然而现在AI的底层逻辑是代码逻辑，只要这一底层逻辑始终不变，AI就不会产生自我意识。
其次，个人对AI的看法是AI可以做到人类的极限（高数意义上的），但永远不可能超越人类，以数学举例，AI可以算到圆周率的后几亿位，但这并非代表人类就算不到圆周率的后几亿位，只要给予足够的人力或是时间，人类一样可以做到，但是对于人类都尚未破解的难题，例如黎曼猜想，如果AI真的可以做到超越人类，那么黎曼猜想肯定早就能被证明了，但事实却是AI没有做到，因为证明黎曼猜想不是靠堆算力就可以解决的问题，而是需要灵光一闪的突破，而这个突破，目前的AI永远也做不到。
最后则是所谓的“AI情感模块”的设定，这一设定经常出现于许多影视作品或是游戏中，然而我同样认为这“情感模块”是天方夜谭，因为设计出情感模块，并为AI安装上情感模块的只会是人，而人目前连自己的情感问题都尚且无法解释清楚，又谈何将情感量化成数据并制作出情感模块呢？情感模块只会是艺术作品中事先既定的一种空中楼阁式的设定，现实中是没有被应用的可能的。
以上观点仅一家之言，如有对此有不同意见，欢迎提出。
AI的情感模拟本质是塞尔“中文房间”论证中的符号句法操作，缺乏人类情感依赖的具身生理体验与语义理解，其“共情”仅是数据驱动的模式匹配，而非基于内在状态的存在性情感。即便未来实现人类生物构造的人工复现，由于人类对自身生命系统的认知存在“认识论边界”，即无法穷尽所有底层微观机制与涌现性规律，那些未被表征的“未知生物变量”将导致AI无法具备人类情感所依赖的完整生物基底与动态涌现条件，因此实现人类级情感的可能性为零。
为什么AI不是一种意识，人也不清楚意识活动的具体生理过程，只是大概知道是一种放电，也许在生物电信号的底层也是大模型一样的概率结构，我认为AI尤其是LLM的结构和人意识的本质是类似的
很幼稚的发言。
先对自我意识进行定义，才能进行讨论
我不同意你的观点。1.人的思考逻辑是怎么样的逻辑。人的思考行为真的只是由逻辑驱使吗？人是如何进行思考的。人的想法是如何产生的。这些问题在现有科学技术水平下无法给出准确科学的回答。等等。讨论问题需要科学的例证而不是空想。
您说的对，我当然无法从正题的角度为人的思考逻辑妄下定义，事实上当前也许也没有任何人能做到，（也许从广义上分可以分为数理逻辑和演绎逻辑，但我猜这个答案并不符合您的本意？ 
）但是我想我可以从反题的角度回答您的问题，那就是：人绝不会是同AI那样单单运用 二进制的数理逻辑 来思考的。
我不认为AI会有感性，因为AI的底层逻辑注定了AI不会产生感性，不仅仅是因为AI的程序只是一串串的01，还因为我坚定地认为人永远无法彻底理解并掌握自己的情感，而在这一前提下，由人编写的AI程序更加不可能做到比它的创造者更理解感情是什么。
因而我希冀您能给出AI能够完全理解并掌控感情的论证，并给出您对楼主这一话题的完整看法，谢谢 
我是决定论者。
一.情感是如何产生的。
你提到了情感 ，首先就要弄清楚人的情感是如何产生的。看到仇人会愤怒，听到歌曲会愉悦等等，那么像愤怒、愉悦这种情感是如何产生的。简化一下就是人的生物机制接受到信号后通过计算或者生物运行机制给出反馈信号，最终表现就是愤怒或者愉悦。
1.眼看，耳听。眼睛和耳朵就是人类感知世界的器官，作用就是接收外界信号，除此之外还有舌头、鼻子、皮肤。
2.人的大脑根据这些信号和人过往经历进行计算，最终发出反馈信号给到相关器官这些器官也包括内分泌系统，内分泌系统通过的分泌激素和各种神经递质，使人产生喜怒哀乐各种情感。
3.这些所有器官的功能都由基因决定。
所以基因算不算代码，这些生物反应的流程机制算不算AI程序的运行过程呢？既然基因算代码它可以创造情感，那代码为什么不能。
二.为什么现在的AI没有产生情感。
现在的AI之所以没有产生情感，只是因为人类社会的科学技术水平不足。对生物学的了解不足和编码技术的水平不足。
这个问题涉及认识论和事物最基本的运动发展法则。
1.人认识世界的局限。
上面已经说过了，人只能通过自身的感官认识世界。会有其生物局限性。
比如人眼只能看到380-760nm的光波段。在此之外的光人眼是无法直接观察的，即使通过光学仪器观测，也需要转换成人能看到的波段或者文字。
再比如，鲸鱼可以发出10-500khz的声波，而人只能听到20-20khz的声波。
这都是人无法超越的生物局限。
2.人是否可以想象出没有见过的事物。
人无法想象出没有见过的事物，有的人认为人能想象出没有见过的事物，比如龙。这是错误的，这些事物都由人所见过的元素构成的，龙就是鹿的角、驼的头、鹰的爪等等。
还是用光举例，人眼无法看到380-760nm的光波段，所以人就无法想象出这个波段以外的光到底是什么样子。
所以人无法想象出没有见过的事物。
3.事物是如何发展变化的
建议去了解：量变质变规律和对立统一法则
综上，随着科学技术水平的提高，人类生物运行规律的深入了解和编码技术的发展之后，人便可以写出能使AI产生情感的底层代码并运行。