著名数学家陶哲轩认为，尽管人工智能在许多领域表现出色，但在数学上仍缺乏一种关键的直觉——辨别错误方向和证明的能力。他指出这种直觉是目前人工智能无法复制的，因此人类在数学判断中仍然不可或缺。
陶哲轩提到，生成式人工智能在生成数学证明时，即使存在缺陷，也常常看起来完美无缺。然而，这些错误通常非常微妙，在发现时显得十分愚蠢，是人类不会犯的低级错误。他将这种人类独有的能力称为“隐喻性的数学气味”，它能在某件事情不对劲时立刻发出警告。目前还不清楚如何让人工智能最终复制这种能力。
当前的人工智能，特别是生成模型，在采用错误方法时往往会陷入困境。陶哲轩认为，人工智能真正难以解决的问题在于它何时走错了方向。这与将神经网络与符号推理相结合的混合人工智能系统有所不同。
尽管如此，陶哲轩承认像 AlphaZero 这样的系统在围棋和国际象棋等领域已经取得了显著进步。他认为，这些系统在某种意义上已经发展出了对棋局的“嗅觉”，能够判断某个局面是否对一方有利。虽然它们无法推断出具体原因，但这种“嗅觉”足以让它们制定策略。如果人工智能能够获得这种感知某些证明策略可行性的能力，它就能在分解问题时给出建设性建议，例如：“嗯，这看起来不错；这两个任务看起来比你的主要任务简单，而且它们仍然很有可能是正确的。”
AlphaZero 在游戏和训练过程中通过蒙特卡洛树搜索（MCTS）作为“符号框架”来选择走法，将可能的游戏路径探索为符号状态。但其本质上仍是由神经网络驱动的深度强化学习系统，通过自我对弈并从数百万个参数中学习。
一些研究人员认为，将大型语言模型与符号推理的优势相结合，有望推动人工智能在数学领域取得重大突破，因为纯粹的 LLM（即使具有一定推理能力）也可能会在复杂的数学问题上走进死胡同。陶哲轩此前曾将 OpenAI 的推理模型 o1描述为“平庸，但并非完全无能”，认为它就像一个能够处理日常任务的研究助理，但仍然缺乏创造力和灵活性。他还参与了 FrontierMath 基准的开发，该基准为人工智能系统设定了极具挑战性的数学问题，以期推动该领域的发展。
平台声明：该文观点仅代表作者本人，佐伊科技仅提供信息存储空间服务。发布者：rmltwz，转转请注明出处：https://www.rmltwz.com/caijing/52779.html
