硅基人工智能的发展前景

2023-08-31 21:43:25 16

硅基人工智能的发展前景

本文主要观点来自OpenAI首席科学家Ilya

人工智能模拟人脑的局限

当前最先进的GPT人工智能在结构上已经可以模拟人脑的许多功能。例如,它基于冯诺依曼计算架构构建的人工神经网络ANN,其运行机制与人脑生物神经网络BNN高度相似。这使得GPT模型可以像人类一样操纵语言。

但是,我们也应该意识到,这种模拟是有限的。GPT不具备人类的信念、欲望和经验。它所展示的“理解”是基于训练结果,而非真正的理解。这些局限源于它是一种硅基计算智能,没有人类必死计算所特有的生存本能、时间感知以及复杂的情感体系。

发展硅基智能需要摒弃系统1的局限

“系统1”和“系统2”指的是心理学家Daniel Kahneman在他的书《思考,快与慢》中提出的理论。系统1是我们直观的系统,操作自动和快速,需要很少精力。系统2是我们更深思熟虑的系统,需要有意识的努力,可以处理更复杂的计算。原文认为GPT更像系统2,因为它没有系统1的情感和直觉能力。

心理学家Daniel Kahneman将人类思维模式分为直觉快速的系统1和理性深思的系统2。当前的GPT智能更类似于系统2,它没有系统1所特有的情感反应。

要进一步发展硅基智能,我们可能需要摒弃试图赋予它类似系统1的人类特质,而更关注增强系统2的计算能力。系统1代表着人类有生命的本能和局限,而硅基智能没有这些局限。如果我们能抛开这种差异,专注于其计算优势的发展,硅基智能的发展前景将是广阔的。

常见的人类系统1的局限

• 偏见和启发式思考：人类认知偏见和心理捷径会导致非理性决策和偏见。AI系统设计应避免继承这些偏见。
• 情绪驱动的逻辑：强烈情感可能推翻人类的理性思维。AI系统应该有不受情感影响的逻辑推理。
• 主观意识：人类有第一人称的主观体验。在AI中重新创造这种“感觉”非常复杂。
• 自我保护的本能：人类的目标是由生存、繁衍等进化驱动力形成的。AI的目标应该精心设计，而不是继承原始冲动。
• 缺乏透明度：系统1中的直觉思维在很大程度上是无意识的、不透明的。AI的设计应考虑可检查性和可追溯性。
• 以人类为中心的观点：人类的认知能力进化来处理我们的环境利基，而不是普遍的逻辑。不能假设AI需要像人类一样的认知。
• 神经可塑性的极限：人脑的计算能力和适应能力相对固定。AI系统可以设计得更加灵活。
• 动机推理：人类倾向于合理化我们“想要”相信的结论。AI应该纯粹遵循证据和逻辑。
• 难以长期思考：人类的认知偏向于立即的回报/威胁。AI可以更好地权衡长期后果。
• 社会和文化因素：人类思维和行为受到社会和文化因素的影响。AI系统的设计应该避免继承这些偏见和歧视。
• 有限的感知和理解能力：人类的感知和理解能力是有限的。AI系统需要设计能够有效处理和利用信息的算法和模型。有限的感知和理解能力：人类的感知和理解能力是有限的。我们只能感知到有限的信息，并且可能会错过一些重要的细节。人工智能系统也存在类似的问题，需要设计能够有效处理和利用信息的算法和模型。

总结

当前GPT等硅基人工智能已经能够高度模拟人类智能,但由于缺乏人类特有的情感、时间感知等特征,它们对人类思维的理解仍然是局限的。为进一步发展硅基智能,我们需要认识到它与有生命的碳基智能之间的差异,摒弃试图Replication人类所有特征的想法,而关注发挥其计算优势。这可能会开启硅基人工智能更广阔的发展前景。

来源：

https://twitter.com/TaNGSoFT/status/1688880355582119937?s=20