2025年1月6日，德国Springer出版社网站发布了由美国RoboLex法律工作交流AI平台创始人拉斯·谢蒂（Rath Shetty）撰写的文章，题为《意识的界限：康德主义视角下人类理解与人工智能的局限性》（Conscious limits: a Kantian perspective on the limits of human understanding and artificial intelligence）。文章从康德主义（德国古典哲学理论）视角探讨人类与AI认知的局限。
人类通过感官认知世界，但感官提供的是有限视角。康德主义将认知世界分为 “本体”（物自体）和“现象”（它向我们呈现的样子），人类只能接触现象，现代科学也受此限制。AI发展迅速，但缺乏独立主观经验与意向性，处于现象领域，无法触及本体。AI在实践中受编程规则限制，导致缺乏自我意识和摆脱外部设计局限的能力。最终，无论是人类还是AI，都受到认知边界的限制。人类能够通过进化和适应在一定程度上克服这些限制，而AI则缺乏这种能力，其智能化行为仍然受到初始设计的深刻影响。
《意识的界限：康德主义视角下人类理解与人工智能的局限性》
编译：阳春
全文摘要与关键词
0.导语：我们的感知和认知框架对所有经验进行了过滤，我们是否真的能够理解物理世界的客观现实？人工智能能否超越人类认知边界以及是否能独立于人类影响的问题？
1.人类理解的边界：认知作为过滤器。空间、时间和因果性并非世界本身固有的特征，而是人类心灵解释世界的框架。本体代表了客观现实，但我们只能经历现象——即经过人类认知结构过滤的现实。
2.AI的边界：我们能否创造出超越人类认知的机器？AI系统虽然能够执行令人惊叹的模式识别和问题解决任务，但它们本质上是人类思维的延伸。它们缺乏独立的主观经验和意向性，其“智能”完全由设计者设定的目标和限制所塑造。
3.真正的独立性问题：AI系统的运作受限于其编程时设定的目标、规则和环境。即便是那些看似能够提出创新解决方案的高级AI系统，其根本也是在人类设定的规则和框架内进行操作。
4.我们无法逃避的局限性：尽管人类认知和AI能够取得显著成就，但它们最终都受到其起源的塑造。AI作为人类创造的产物，缺乏以开放方式重新定义其边界的独立能力。
自古以来，人类便不懈地探索现实的深层本质，这一过程由对未知的好奇心和对知识的强烈渴望所驱动。从古代哲学的思辨到现代科学的实验，我们构建了日益精密的工具和方法，以期揭开宇宙运作的基本法则。然而，如图1所示，我们的知识追求不可避免地受到人类认知极限的塑造与限制。一个根本性的问题始终悬而未决：鉴于我们的感知和认知框架对所有经验进行了过滤，我们是否真的能够理解物理世界的客观现实？
图1. 通过人类认知的透镜探索宇宙：好奇心与理解边界的交汇
与此同时，人工智能（AI）的崛起激发了关于是否能够创造出独立于人类影响的机器的讨论。我们有可能开发出超越其人类创造者能力的AI系统吗？抑或AI将始终是人类认知和意图的镜像？本文借助康德哲学的视角来探讨这些问题，涉及人类理解的边界以及AI不可逃避的人类起源。
PART01
人类理解的边界：认知作为过滤器
人类借助感官——包括视觉、听觉、触觉、味觉和嗅觉——来体验世界，然而这些感官仅能提供对现实的有限视角。我们仅能感知到电磁频谱的一小部分，听到有限的频率范围，并依赖大脑来处理和解释这些数据。因此，我们的世界观实际上被过滤了，我们无法直接接触到真实的现实。
本体VS现象。如图2所示，哲学家伊曼努尔·康德区分了“本体”（物自体）和“现象”（它向我们呈现的样子）。根据康德的观点，本体代表了客观现实，但我们只能经历现象——即经过人类认知结构过滤的现实。空间、时间和因果性并非世界本身固有的特征，而是人类心灵解释世界的框架。这一区分强调了人类知识的根本界限。其他哲学传统，例如古典实用主义，对康德的本体概念提出了挑战，认为人类的理解局限于经验。杜威和皮尔斯等思想家拒绝了不可知现实的概念，他们认同康德的观点，即人类知识受限于感知和认知。他们强调知识是动态和进化的，由持续的探究所塑造，而不是固定在可知与不可知之间的分界线上。
图2. 人类认知所塑造的本体（客观现实）与现象（感知现实）之间的区分概念图
对现实的近似表达，科学不断完善其模型，但“物自体”仍然超出了我们的理解范围。正如康德所指出的，这种局限性是人类认知的内在特征。
即便现代科学取得了辉煌成就，终究受限于人类认知的边界。尽管强大的数学模型和尖端技术能够描绘宇宙的运作，这些构建依旧只是现实的近似。科学不断精炼其模型，然而“物自体”依旧超越了我们的理解范畴。正如康德所言，这种限制构成了人类认知的一个本质特征。
PART02
AI的边界：我们能否创造出超越人类认知的机器？
近年来，人工智能的迅猛发展引发了一个问题：我们能否开发出独立于人类影响运行的AI系统？脱离人类限制的AI能否为我们提供超越人类理解的现实见解？或者，像人类一样，AI本质上受制于其起源的认知框架？
基于人类创造的算法构建的AI系统——人类思维的延伸。当今的AI系统与人类的认知紧密相连，它们由人类设计、训练和编程。即便是最复杂的AI模型——包括那些用于机器学习、自然语言处理、大型语言模型（LLMs）以及自主系统的模型——都是基于人类创造的算法构建，并利用人类生成的数据进行训练。这些系统虽然能够执行令人惊叹的模式识别和问题解决任务，但它们本质上是人类思维的延伸。它们缺乏独立的主观经验和意向性，其“智能”完全由设计者设定的目标和限制所塑造。在这里，“智能”指的是处理信息、识别模式和解决问题的能力——这是AI系统能够以非凡精确度展现的能力。然而，“自主性”——即超越预设参数的自我导向行动和目标设定能力——在目前的AI系统中是不存在的。
从哲学的角度来看，特别是在康德的理论框架内，AI完全运作在现象领域——一个由人类定义的类别如数据、算法和目标所塑造的结构化和过滤的现实。本体领域或“物自体”，对于AI来说，就像对人类认知一样，是不可及的。这种限制源于AI系统从根本上是人类设计的产物，依赖于设计者施加的数据和框架。
在人工智能领域，涌现行为，如大型语言模型所展现的那样，揭示了这些系统的复杂性正在不断增长。然而，这些涌现的特性并不等同于自主性或自我意识。例如，无监督机器学习赋予了AI识别超出人类预期模式的能力，但这些模式依旧是基于提供的数据和所应用的算法结构。
PART03
真正的独立性问题
关于AI是否能真正独立于人类认知的问题，既具有实践性也蕴含哲学性。实际上，AI系统的运作受限于其编程时设定的目标、规则和环境。即便是那些看似能够提出创新解决方案的高级AI系统，其根本也是在人类设定的规则和框架内进行操作。
在哲学领域，人工智能是否能够发展出意识、自我意识或主观体验，这一问题激发了对AI本质和目的的更深层次探讨。在这种背景下，“哲学意义上的独立性”指的是具备意向性以及能够自主设定目标并采取行动的能力，这不仅仅是执行预设指令或在编程限制内作出反应。在此定义下，意识不仅包括了主观体验，还包括了有意地进行反思并塑造行动的能力——这些特质根本上区分了人类的认知。
AI自我意识的研究。尽管关于AI自我意识的研究——例如机器人内部言语的运用——已经展现出一些令人鼓舞的成果，但这些研究仍处于初级阶段，远未触及人类意识所特有的体验。此外，真正的哲学独立不仅需要自我意识，还需要摆脱外部设计的限制，而这一点正是目前AI所不具备的。
意识可能并非AI在某些能力上独立运作的必需条件。例如，非监督系统能够在没有直接人类干预的情况下运行，在其编程环境中自主地识别模式和做出决策。然而，这些行动依旧受到其算法约束的限制，这些约束由人类设计、定义和塑造。从这个角度来看，AI展现出一种操作上的独立性，但缺乏构成真正自主性的意向性和主观体验。
AI无法超越其起源去接触本体。如图3所示，正如人类受限于认知局限来理解现实，AI同样受限于其源自人类的本质。虽然人工神经网络展现出超越初始编程的涌现属性，但这并不意味着它们具有哲学意义上的自主性。AI能够执行复杂任务，但无法独立构思或追求超出其设计参数的目标。本质上，AI在人类设定的框架和现象领域内运作，无法超越其起源去接触本体——即超越感知和认知的“物自体”。
图3. 人类认知与人工智能受其起源所限，经进化与设计所塑造，具有内在局限性
PART04
我们无法逃避的局限性
归根结底，人类对物理宇宙的认知以及人工智能的发展，都受到认知界限的塑造。由于我们的感知必须通过认知框架进行过滤，人类始终受限于掌握客观现实本质的能力。同样地，即便人工智能变得日益先进，它同样体现了这些局限性，因为它们是在人类设定的参数内设计、训练和部署的。
人类&AI系统无法彻底突破设计中的认知界限。尽管我们能够开发出越来越复杂的模型和工具来模拟现实，但无论是人类还是我们创造的人工智能系统，都无法彻底突破其设计中固有的认知界限。然而，关键在于我们应认识到自然进化的过程，例如神经可塑性和适应性，揭示了人类认知是如何随着时间的推移而演变，以克服某些限制的。这些过程使人类能够发展新的理解框架，拓展知识，并根据不断变化的环境重新诠释现实。
AI系统缺少自我导向适应性和开放式进化能力。相较之下，尽管AI系统能够展示出涌现行为，但它们缺少自然系统所特有的自我导向适应性和开放式进化能力。AI的重新设计或优化潜力受限于其创造者设定的目标、数据和算法。正如斯图尔特·罗素所强调，AI面临的核心挑战在于其优化过程，尽管这些过程已经相当先进，但仍然受限于人类设定的目标和价值观。AI的涌现能力可能会产生意料之外的输出，但这些输出最终还是反映了其初始设计中所嵌入的偏见和假设。
这强调了一个更广泛的哲学观点，即尽管人类认知和AI能够取得显著成就，但它们最终都受到其起源的塑造。人类通过生物进化和文化适应，有能力扩展他们的理解并重新解释世界。确实，这种适应性仍然在人类认知的固有约束内运作，例如感官知觉和认知框架。相比之下，AI作为人类创造的产物，缺乏以开放方式重新定义其边界的独立能力。尽管人类能够适应和进化，但两者最终都受限于各自起源的基础框架，无法实现对其设计的完全超越。
参考文献：
https://link.springer.com/article/10.1007/s44163-025-00221-z
声明：本文来自认知认知，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
