- 深度推理结合了先进的语言模型和内部思维链，逐步解决复杂问题。
- Copilot Studio 等工具仅在关键任务中使用关键字激活这些模型，从而平衡准确性、成本和速度。
- 深度学习和诸如 CNN、ViT 和 Transformer 等架构为医疗、金融和客户服务应用奠定了技术基础。
- 采用该技术需要评估其合理性、准确性和负责任的人工智能，并减轻延迟和控制不佳的反应风险等限制。
人工智能正凭借新一代模型取得巨大飞跃，这些模型能够进行更加结构化的思考。它们不再仅仅生成文本或图像：它们可以分解问题、评估各种方案，并逐步论证其答案。在技术领域，这被称为深度推理。
理解人工智能中的深度推理究竟是什么，它与传统深度学习有何不同，以及它在Copilot Studio等实际工具或医疗、客户服务等领域中的应用，是把握人工智能发展方向的关键。我们将以最清晰易懂的语言，冷静地为您详细讲解所有这些内容。
人工智能中的深度推理是什么？
当我们谈到深度推理时，我们指的是非常先进的大规模语言模型，这些模型专门用于处理需要多步骤思考的复杂任务。它们不会直接提供肤浅的答案，而是会花时间“内部思考”，生成一系列内部思路，然后再将结果呈现给用户。
这些模型能够进行逻辑推理、详细分析，并通过将任务分解成更小的子问题来解决问题。虽然这种内在的思维过程并非总是教授给最终用户，但它确实存在，并且正是这种思维过程使得它们能够提供比传统语言模型更复杂的答案。
关键在于，深度推理模型不仅限于根据统计数据预测下一个词；它试图遵循一系列内部推理，类似于一个人解决数学问题、分析财务数据或制定策略的方式。
实际上，这为人工智能代理处理以前几乎完全由人类专家负责的冗长、多变量任务打开了大门：从分析市场趋势到评论复杂的医疗报告。
Copilot Studio 中的深度推理：工作原理及使用方法
在设计智能体时，创建者需要定义它必须执行的指令和任务。这些任务的范围很广，从非常简单的交互（例如回答常见问题）到需要深入分析的非常复杂的流程都有可能。在需要更深入分析的步骤中，可以指示模型使用高级推理能力。
要在 Copilot Studio 中启用这些功能，请在代理指令的相关步骤中添加一个特定的关键字（“reason”）。例如：“使用 reason 确定数列 2、5、10、17… 中的下一个数字”。此时，在执行过程中，Copilot 会调用深度推理模型（目前是 Azure OpenAI o3 模型）来处理该特定部分。
这种循序渐进的方法使开发者能够控制智能体何时执行高级推理，何时只需快速、简单的响应。这优化了响应质量、计算成本和速度之间的平衡。
简而言之，Copilot Studio 将深度推理作为增强智能体决策能力的手段，而不是将其作为一项始终启用的功能。这使其能够在实际商业场景中发挥作用。
深度推理的预期用途：从金融到高等数学
深度推理模型擅长处理步骤繁多、依赖关系复杂的任务。以下是一些已在 Copilot Studio 等平台中实现的深度推理模型应用示例：
市场趋势分析和投资建议：该模型可以将财务数据分解成易于管理的部分，研究时间序列，交叉参考历史信息、当前市场状况和预测，并据此推荐最有前途的投资机会。
库存管理和需求预测：基于过去的销售、季节性、供应链流动和客户行为变化等信息，该模型可以提出库存策略，重新考虑安全水平，并建议进行调整以最大限度地减少缺货或商品过剩。
求解微分方程和复杂的数学问题：这些模型可以将问题分解成相互关联的逻辑步骤，解释每个阶段所做的事情，从而解决高级练习，这在教育或研究环境中尤其有用。
从本质上讲，每当需要遵循一个非平凡的逐步推理过程时，深度推理模型与仅直接响应的简单模型相比，都能提供巨大的附加价值。
深度推理模型中的评估、指标和问责制
这些系统要想在实际环境中发挥作用，仅仅“智能”是不够的：它们还必须可靠、安全且可追溯。正因如此，像 Copilot Studio 中使用的那种深度推理模型，在向用户开放之前，都需要经过多次评估。
首先，要评估模型的基础；也就是说，要验证模型是否基于真实世界的背景，而不是随意捏造数据。这可以通过在已知信息的场景中测试模型，并检查其在多大程度上能够忠实地反映这些背景信息来实现。
其次，分析了对负责任的人工智能原则的遵守情况：防止越狱尝试（强迫模型绕过其限制）、跨域注入攻击（恶意混合来自不同来源的指令）以及过滤有害或不当内容。
最后，我们会通过多种用例来衡量响应的准确性。性能会根据这些维度在各种测试中进行评分，最终只有达到特定标准的模型才能发布。
这种持续评估是确保深度推理模型不会变成“无法控制的黑箱”，而是成为组织可以审计、测试和比较的工具的关键。
深度推理的局限性以及如何减轻这些局限性
模型“深度”的增加并不意味着它就完美无缺。事实上，这些系统存在诸多局限性，例如ChatGPT 无法完成的任务，而理解这些局限性至关重要。
首先是响应时间。由于推理模型需要更多的内部计算，因此它们的响应时间通常比标准语言模型更长。如果过度使用推理模型，这在对延迟敏感的应用场景（例如，与不耐烦的客户聊天）中可能会成为问题。
第二个限制是，智能体只有在配置允许的情况下才能使用这些类型的模型。换句话说，必须在智能体中显式激活深度推理功能；并非所有情况下都默认启用这些功能。
为了最大限度地减少这些缺点，建议：仅在需要深度推理的代理中激活深度推理；仅在真正受益于深度分析的步骤中使用相应的关键字；并将这些模型保留用于可以接受稍长等待时间以换取更高质量响应的任务。
此外，为了管理用户预期并避免用户感到沮丧，最好提醒最终用户，某些复杂的代理响应可能需要几秒钟的时间。
负责任使用的良好操作规范
从操作角度来看，有几种策略可以确保在组织中有效且安全地运用深度推理。
首先，应将其使用范围限制在真正需要复杂推理链的代理上，例如非结构化数据分析、基于多因素的关键决策，或生成篇幅较长且论证充分的报告。默认启用此功能会浪费资源。
第二项建议是对代理进行全面测试，审查推理模型调用时输出结果的质量、一致性和可靠性。这些测试可以帮助您发现模型可能失效、伪造数据或无法很好地适应公司特定领域的情况。
活动地图等工具可以帮助您了解在会话期间，智能体何时进行了深度推理，查看内部步骤并比较结果。这有助于确定模型是否真正实现了预期价值。
通过更新指令并运行 A/B 测试，系统地比较使用和不使用深度推理模型的结果也很有用。这有助于确定流程中的哪些部分受益于使用这些模型，以及哪些部分使用更简单的语言模型就足够了。
从机器学习到深度学习和生成式人工智能
为了正确理解深度推理，回顾人工智能技术的发展历程很有帮助：机器学习、深度学习和生成式人工智能构成了一种复杂性的阶梯。
传统机器学习严重依赖监督学习。例如，要创建一个能够识别图像中动物的系统，需要手动标注数十万张照片，训练算法，用新图像进行测试，分析错误，然后再次扩展标注数据集以提高准确率。
这个过程需要大量的人工干预，即所谓的属性工程：决定提取哪些特征（颜色、纹理、形状等）以及如何用数值表示它们，以便算法能够学习。
借助深度学习，多层神经网络能够直接从原始数据（图像、文本、音频等）中学习这些表征。不再需要手动定义所有属性：模型本身就能发现哪些模式是相关的。
更进一步是基于变革性架构的生成式人工智能模型。这些模型，例如大型语言模型，不仅能够识别模式，还能通过以新颖的方式组合这些模式来生成新的内容（文本、图像、代码）。
深度推理建立在这个基础之上：它将变换器的生成能力与旨在遵循更长、更结构化的思维链的内部策略相结合。
深度学习相对于传统机器学习的优势
深度学习相比传统机器学习具有许多明显的优势，这些优势是深度推理领域诸多进步的技术基础。
一方面，它能更高效地处理非结构化数据（自由文本、图像、音频）。传统的算法会被表达同一概念的几乎无限多种方式所淹没，而深度神经网络可以直接学习这些等价关系。因此，它可以理解“如何转账？”和“你能解释一下如何付款吗？”指的是同一种操作。
此外，深度神经网络非常擅长发现隐藏的关系和意想不到的模式。即使没有被明确地训练过，基于购买数据训练的模型也可以通过将客户的行为与类似用户的行为进行比较，来推荐客户尚未购买的产品。
另一个优势是能够进行无监督或半监督学习。网络可以随着时间的推移适应用户行为，而无需数百万个标记数据点。例如，自动拼写检查器可以根据用户频繁输入的语言，将其他语言的单词纳入其中。
最后，深度学习在处理波动性大或高度可变的数据（例如金融交易数据）方面非常强大。它可以学习区分正常的支付行为模式，并将偏离正常模式的交易标记为潜在的欺诈行为。
深度学习的应用：从医学到自动驾驶汽车
深度学习已在医学和诊断领域得到广泛应用。它被用于对医学图像进行分类、分割器官和病变、分析数字组织病理学，以及辅助使用X射线、MRI和实验室检测进行诊断。
自 2022 年以来，视觉变换器 (ViT)架构在大规模医学图像分类任务中展现出与传统卷积神经网络相当甚至更优的性能。其关键优势在于能够通过分层自维护机制捕捉千兆像素图像中的全局依赖关系。
在医疗领域之外，深度学习还应用于自动驾驶汽车、人脸识别、 Alexa 和 Siri 等语音助手、电视和音乐推荐系统等等。在所有这些应用中，模型都必须解读充满噪声且变化莫测的真实世界数据。
像AlphaGo这样的里程碑式实验，它学会了下围棋并击败了人类精英大师，证明了深度神经网络可以在多大程度上达到被认为是“直觉”或“创造性”的技能，而无需程序员告诉它每一步棋。
深度学习究竟是什么：层、层次结构和计算能力
虽然没有统一的定义，但大多数研究人员都认为深度学习是基于多层非线性处理，从数据中提取越来越抽象的特征。
较低层学习的是简单的特征（图像中的边界、基本的词语组合），而较高层将这些特征组合起来形成更复杂的概念（人脸、物体、句子含义）。
与“浅层”算法的主要区别在于链式变换的数量。经典模型可能只应用一到两种变换，而深度模型可以有数十甚至数百个中间层，从而能够表示更复杂的函数。
代价是训练深度网络需要大量的计算能力。正因如此，GPU凭借其执行大规模并行运算（GPGPU）的能力，已成为训练这些模型的基本工具。
主要云服务提供商（亚马逊、Azure、IBM、谷歌等）已经提供配备专用 GPU和机器学习 PaaS 平台的基础设施，例如基于 TensorFlow 的平台，以及预训练模型和工具，可以根据具体情况进行调整。
最相关的深度学习算法和架构
在深度学习领域，已经出现了多种类型的神经网络，每一种都针对特定类型的数据或问题进行了优化。
卷积神经网络（CNN）专为处理图像和视频而设计。它们使用滤波器（卷积）扫描图像以检测局部模式，然后将它们组合起来。它们是现代计算机视觉的基础，应用于人脸识别、物体分类、医学图像分析等领域。
循环神经网络（RNN）及其现代变体包含反馈回路，使其能够“记住”过去的信息。这使得它们非常适合处理序列数据，例如文本、音频或时间序列。例如，导航系统可以利用这些记忆来预测常见的交通拥堵情况并提供替代路线。
与此同时，集成学习、残差网络、视觉转换器等概念也应运而生，这些概念扩展和完善了深度网络适应特定问题的能力。
正是整个技术生态系统使得今天能够构建具有深度推理能力的模型成为可能：如果没有这种强大且可扩展的架构基础，这是不可能实现的。
人工智能可以模拟的推理类型
现代人工智能系统可以根据数据类型和目标应用，结合多种不同的推理策略。它们并不局限于单一的“思维方式”。
常用的方法包括演绎推理（从一般规则出发得出具体结论）、归纳推理（从例子中概括）、概率推理（处理不确定性）和模糊推理（处理“高”、“低”、“中”等不精确的术语）。
还探索了溯因推理（为一组事实提出最合理的解释）、常识推理、空间和时间推理（在机器人和自动驾驶中非常重要）以及将神经网络与符号逻辑相结合的神经符号推理等方法。
深度推理依赖于这个工具箱来构建更丰富的推理链，并在必要时混合数据、统计信息和规则。
人工智能、机器学习和深度学习：主要区别
为了澄清术语：人工智能（AI）是一个涵盖范围最广的统称，它囊括了任何能够执行与人类智能相关的任务（推理、学习、感知等）的系统。在人工智能领域，我们有机器学习（ML），它专注于无需针对具体情况进行编程即可从数据中学习的算法。
深度学习是机器学习的一个子集，它使用多层神经网络直接从海量数据中学习。主要区别在于模型的结构以及特征提取方式。
从实际层面来看，经典机器学习通常需要更多的人工特征工程工作，数据量和计算能力也较低，而深度学习需要庞大的数据集、强大的 GPU 和较长的训练时间，但它在处理复杂任务和非结构化数据方面提供了显著的能力飞跃。
就可解释性而言，简单的机器学习模型（例如线性回归、浅层决策树）更容易解释，而深度网络则更像是“黑箱”。深度推理模型也继承了这种不透明性，尽管目前正在努力提高它们的透明度。
深度推理和客户服务
人工智能和深度学习的实际应用增长最快的领域之一是客户服务。许多现有系统都使用机器学习算法来实现自助服务、辅助人工客服以及工作流程编排。
这些系统的数据来源于真实的客户咨询、事件历史记录、购买背景和使用行为。随着模型数据的不断更新，预测和建议的速度和准确性都会不断提高。
在这种环境下，深度推理不仅使机器人能够回答简单的问题，还能分析客户的整体情况，回顾他们的历史记录，评估各种可能的解决方案，并论证最佳方案，从而实现更高程度的个性化。
一些客户体验解决方案中的高级机器人等专业平台，已经将庞大的客户意图数据库与深度学习模型相结合，以提供更自然、更有用的响应，从而提高人工客服的效率并简化支持流程的设置。
随着深度推理模型更好地融入到这类工具中，我们将看到虚拟代理能够进行长时间、复杂的对话，保持对话思路，证明决策的合理性，并像真人一样适应用户的语气。
从经典机器学习到深度学习、生成式人工智能和深度推理，整个发展历程清晰地展现了一条发展轨迹：我们越来越接近于能够识别模式并能对复杂问题进行结构化思考的系统。如今的挑战不仅在于技术层面，还在于伦理和运营层面：确保这些模型得到恰当的评估，在真正能创造价值的领域得到应用，风险得到有效管理，并被负责任地集成到诸如 Copilot Studio 之类的工具中，从而使人工智能成为日常工作中强大而可靠的伙伴。
