“人工智能”或“人工智能代理”一词正迅速变得司空见惯，以至于那些投资于这项技术的人认为有必要加以区分。

　　在上周发表的一系列博客文章中，风险投资公司Menlo Ventures的合伙人定义了“下一波人工智能”，以及它们如何超越迄今为止推出的人工智能。Menlo Ventures为人工智能领域的初创公司提供了资金。

　　他们写道，未来的特工有四种不同的能力。

　　作者写道:“完全自主的代理由四个要素定义，它们结合在一起，达到完全的代理能力:推理、外部记忆、执行和计划。”

　　他们宣称:“需要明确的是，未来完全自主的代理可能拥有所有四个构建模块，但今天的法学硕士应用程序和代理却没有。”

　　作者Tim Tully, Joff Redfern, Deedy Das和Derek Xiao在他们的第一篇博客文章中探讨了什么是“代理”。他们写道，软件最终必须在选择解决问题的可能步骤时获得越来越大的自主权。

　　“当您将LLM置于应用程序的控制流中，并让它动态地决定采取哪些操作、使用哪些工具以及如何解释和响应输入时，代理就出现了，”作者写道。

　　传统的大型语言模型可以访问“工具”，例如允许LLM执行任务的外部程序。Anthropic已经通过它的工具使用功能做到了这一点，OpenAI也有类似的功能。

　　然而，作者解释说，调用工具仅仅给了LLM解决问题的方法，而不是决定解决问题的方式的控制。

　　正如作者所写，“工具的使用是强大的，但就其本身而言，它不能被认为是‘代理’。”逻辑控制流仍然由应用程序预先定义。”相反，代理必须具有广泛的能力来选择将使用的工具，即决策逻辑。

　　作者解释说，有几个版本的软件更接近于真正的代理。一种是“决策代理”，它使用大型语言模型从一套规则中进行选择，进而决定应该使用哪种工具。他们以医疗软件初创公司fore为例，说明了这种决策系统。

　　接下来，一个更高阶的代理，被称为“在轨代理”，“被赋予更高阶的目标来实现(例如，‘将这张发票与总账核对起来’，”他们写道。程序被赋予了更大的自由度来匹配高级请求和要遵循的规则集。

　　作者指出，包括客户服务公司Sierra和软件开发公司All Hands AI在内的多家初创公司都在追求这种“轨道上的代理”方法。

　　第三级，也是最高级别的人工智能，也就是他们所说的“圣杯”，具有“动态推理”和“自定义代码生成”功能，允许大型语言模型“包含”公司的规则手册。作者指出，这种被称为“通用人工智能代理”的方法仍处于研究阶段。创业公司Cognition创造的“第一位人工智能软件工程师”Devin就是一个例子。

　　在第二篇博客文章“超越机器人:人工智能代理如何推动下一波企业自动化”中，作者反思了人工智能将如何在企业中应用。

　　他们写道，直接的影响是超越了“机器人过程自动化”(robotic process automation，简称RPA)，即由UiPath和Zapier等公司销售的用软件取代一些基本人工任务的工具。

　　在第一篇文章中探讨的决策代理和rails上的代理在业务任务中找到了实际应用，例如将供应商发票与总账对账:

　　这篇博文的主旨是，许多初创公司已经在销售接近这种高级代理功能的产品。他们写道，它们“也不只是科幻小说”。“尽管这一类别仍处于新兴阶段，但从初创公司到财富500强企业，许多企业已经在大规模购买和利用这些系统。”

　　作者提供了一个方便的图表，根据代理程序沿一个轴的自治程度以及垂直或水平市场焦点的程度来组织众多产品:

　　在这两篇博文中没有提到的是在现有的生成人工智能(gen AI)系统中出现的两个关键限制，它们可能会阻碍智能体的发展。

　　首先，作者没有实质性的讨论如何处理幻觉，自信地断言错误的输出。无论新一代人工智能使用的推理过程如何，无论工具多么强大，我们都没有理由认为人工智能代理不会像传统聊天机器人那样产生错误的输出。

　　至少，决策代理和轨道代理是否会减少幻觉的问题是一个开放的研究问题。

　　其次，虽然人工智能可以实现许多企业流程的自动化，但迄今为止，关于这种自动化的影响以及它是否真的是一种改进的数据很少。这与关于幻觉的第一点有部分联系，但不是全部。一个在推理或行为上没有错的主体仍然可能导致与人的行为相比不是最优的结果。

　　普林斯顿大学出版社(Princeton University Press)本月出版的普林斯顿计算机科学学者Arvind Narayan和Sayash Kapoor撰写的《人工智能蛇油》(AI Snake Oil)一书中讨论了一个突出的例子。人工智能模型追踪了入院时出现肺炎症状的哮喘患者的病史。人工智能模型发现，他们是医院人群中风险最低的患者。根据这种“推理”，这样的病人可以出院。

　　然而，该模型忽略了因果关系:患有哮喘和肺炎症状的患者风险最低，因为他们接受了紧急护理。Narayan和Kapoor宣称，简单地让他们出院会绕过这样的护理，结果可能是“灾难性的”。

　　正是这种相关性，而不是因果关系，在现实世界复杂的因果情况下，会导致非常次优的结果。

　　作者讨论的范围之外还有协作的代理。正如Hubspot首席技术官Dharmesh Shah最近告诉ZDNET的那样，未来的人工智能代理工作将不会由单个代理完成，而是可能由人工智能代理网络相互协作完成。

　　考虑到这些遗漏，很明显，尽管风险投资家的研究范围很广，但他们只触及了人工智能日益强大的世界所能取得的成就的表面。