LangChainCSVAgent调用失败解决方法

在使用LangChain CSV/Pandas Dataframe Agent进行数据分析时，你是否遇到过代理返回JSON格式的函数调用，而非直接执行代码的问题？本文深入解析了这一常见故障，其核心原因在于所选LLM与OpenAI函数调用格式的兼容性问题。针对此问题，我们提供了两种实用的解决方案：一是切换至GPT-3.5 Turbo等支持OpenAI函数调用的模型，确保代理能够正确解析并执行函数调用；二是改用`ZERO_SHOT_REACT_DESCRIPTION`等不依赖特定格式的代理类型，通过ReAct框架驱动工具执行。通过理解LangChain代理与函数调用机制，以及不同LLM的兼容性，开发者可以有效解决此类问题，构建稳定可靠的数据分析应用。

本文深入探讨了LangChain CSV/Pandas Dataframe Agent在处理数据分析任务时，可能遇到的一个常见问题：代理返回JSON格式的函数调用而非直接执行。核心原因在于所选LLM与OpenAI函数调用格式不兼容。文章提供了两种有效的解决方案：一是切换至支持OpenAI函数调用的模型，二是改用如`ZERO_SHOT_REACT_DESCRIPTION`等不依赖特定函数调用格式的代理类型，确保代理能够正确执行工具并返回自然语言结果。

理解LangChain代理与函数调用机制

LangChain的CSV Agent和Pandas Dataframe Agent是强大的工具，它们允许开发者通过自然语言与结构化数据（如CSV文件）进行交互式分析。这些代理通常利用大型语言模型（LLM）的推理能力，结合特定的工具（如Python REPL）来执行数据操作。

当使用AgentType.OPENAI_FUNCTIONS类型的代理时，其工作流程依赖于LLM对OpenAI函数调用格式的理解和生成。理想情况下，当用户提出一个数据分析问题（例如“有多少行？”），代理会：

1. 将用户请求和数据上下文发送给LLM。
2. LLM根据其训练，生成一个符合OpenAI函数调用规范的JSON对象，指定要使用的工具（如python_repl_ast）和要执行的代码（如df.shape[0]）。
3. 代理接收到这个JSON后，会自动解析并调用相应的工具执行代码。
4. 工具执行结果返回给LLM。
5. LLM根据工具结果生成一个自然语言的答案，返回给用户。

这个流畅的交互过程是实现高效数据分析的关键。

问题阐述：代理未执行函数调用

然而，在实际应用中，我们可能会遇到一个问题：代理接收到LLM生成的JSON函数调用后，并未按照预期执行工具，而是直接将该JSON对象输出给用户，导致整个链条中断。

示例问题代码与输出：

import os
from langchain.chat_models import ChatOpenAI
from langchain.agents.agent_types import AgentType 
from langchain_experimental.agents.agent_toolkits import create_csv_agent

# 假设环境变量已配置
api_key = os.environ.get("OPENROUTER_API_KEY")
api_base = "https://openrouter.ai/api/v1"
model = "mistralai/mixtral-8x7b-instruct" # 问题模型
chat_model = ChatOpenAI(
    api_key=api_key,
    base_url=api_base,
    model=model,
    temperature=0.0,
)

def main():
    filepath = "your_data.csv" # 替换为你的CSV文件路径
    agent = create_csv_agent(
        chat_model,
        filepath,
        verbose=True,
        openai_model=chat_model, # 注意这里传入的也是chat_model
        agent_type=AgentType.OPENAI_FUNCTIONS, # 问题代理类型
    )
    while True:
        user_message = input("You: ")
        if user_message.lower() in ["goodbye", "goodbye!"]:
            break
        response = agent.run(user_message)
        print(response)

if __name__ == "__main__":
    main()

当运行上述代码并输入“How many rows are there?”时，预期的输出应该是执行df.shape[0]并返回“There are X rows in the dataframe.”，但实际输出却是：

> Entering new AgentExecutor chain...
{
  "function": "python_repl_ast",
  "parameters": {
    "query": "len(df)"
  }
}

> Finished chain.

这种现象表明，LLM成功生成了函数调用指令，但代理执行器未能识别并调用相应的工具。

根本原因：LLM与OpenAI函数调用格式不兼容

经过排查，导致此问题的核心原因在于所选的LLM（例如上述代码中的mistralai/mixtral-8x7b-instruct）并未针对OpenAI的函数调用格式进行适当的微调。AgentType.OPENAI_FUNCTIONS代理类型高度依赖于LLM能够准确生成和理解这种特定格式的JSON响应，并期望代理执行器能无缝地将其映射到工具调用。如果LLM未能完全遵循此规范或代理执行器无法解析非标准响应，就会出现上述问题。

解决方案

针对LLM与OpenAI函数调用格式不兼容的问题，有两种主要的解决方案可以确保LangChain代理正常工作。

方案一：切换至兼容OpenAI函数调用的LLM

最直接的解决方案是选择一个明确支持OpenAI函数调用功能的LLM。OpenAI官方提供的模型（如GPT-3.5 Turbo、GPT-4等）都经过了专门的微调，能够很好地与AgentType.OPENAI_FUNCTIONS配合。

实现方式： 将ChatOpenAI实例中的model参数更改为兼容的模型。

import os
from langchain.chat_models import ChatOpenAI
from langchain.agents.agent_types import AgentType 
from langchain_experimental.agents.agent_toolkits import create_csv_agent

api_key = os.environ.get("OPENAI_API_KEY") # 确保使用正确的API密钥
# api_base = "https://api.openai.com/v1" # OpenAI官方接口通常不需要显式设置base_url
model = "gpt-3.5-turbo" # 更改为OpenAI官方支持函数调用的模型
chat_model = ChatOpenAI(
    api_key=api_key,
    # base_url=api_base, # 默认即可
    model=model,
    temperature=0.0,
)

def main():
    filepath = "your_data.csv" 
    agent = create_csv_agent(
        chat_model,
        filepath,
        verbose=True,
        # openai_model参数在create_csv_agent中已废弃，直接使用第一个参数即可
        agent_type=AgentType.OPENAI_FUNCTIONS, 
    )
    while True:
        user_message = input("You: ")
        if user_message.lower() in ["goodbye", "goodbye!"]:
            break
        response = agent.run(user_message)
        print(response)

if __name__ == "__main__":
    main()

注意事项： 使用OpenAI官方模型需要相应的API密钥和配额。此外，OpenAI官方文档会列出所有支持函数调用的模型。

方案二：采用其他代理类型（如ZERO_SHOT_REACT_DESCRIPTION）

如果由于成本、性能或其他原因，必须使用不支持OpenAI函数调用的LLM，那么可以切换到其他代理类型。AgentType.ZERO_SHOT_REACT_DESCRIPTION是一个常用的替代方案，它基于ReAct（Reasoning and Acting）框架，通过“思考-行动-观察”循环来驱动代理决策，不依赖于LLM生成特定的JSON函数调用格式。

实现方式： 将create_csv_agent中的agent_type参数更改为AgentType.ZERO_SHOT_REACT_DESCRIPTION。

import os
from langchain.chat_models import ChatOpenAI
from langchain.agents.agent_types import AgentType 
from langchain_experimental.agents.agent_toolkits import create_csv_agent

api_key = os.environ.get("OPENROUTER_API_KEY") # 沿用原有的OpenRouter配置
api_base = "https://openrouter.ai/api/v1"
model = "mistralai/mixtral-8x7b-instruct" # 沿用原有的模型
chat_model = ChatOpenAI(
    api_key=api_key,
    base_url=api_base,
    model=model,
    temperature=0.0,
)

def main():
    filepath = "your_data.csv" 
    agent = create_csv_agent(
        chat_model,
        filepath,
        verbose=True,
        # openai_model参数在create_csv_agent中已废弃，直接使用第一个参数即可
        agent_type=AgentType.ZERO_SHOT_REACT_DESCRIPTION, # 更改代理类型
    )
    while True:
        user_message = input("You: ")
        if user_message.lower() in ["goodbye", "goodbye!"]:
            break
        response = agent.run(user_message)
        print(response)

if __name__ == "__main__":
    main()

注意事项： ZERO_SHOT_REACT_DESCRIPTION代理类型通过提示词引导LLM生成思考过程和行动指令，因此其性能可能受到LLM的推理能力和提示词工程的影响。不同的代理类型有不同的优点和缺点，选择时需根据具体应用场景进行权衡。

总结

当LangChain CSV/Pandas Dataframe Agent未能按预期执行LLM生成的函数调用时，这通常是由于所选LLM与OpenAI函数调用格式不兼容所致。解决此问题的关键在于：

1. 更换LLM：优先选用OpenAI官方支持函数调用的模型，以确保无缝集成。
2. 更换代理类型：若无法更换LLM，则选择如ZERO_SHOT_REACT_DESCRIPTION等不依赖特定函数调用格式的代理类型，通过不同的推理机制来驱动工具执行。

通过理解代理的工作原理和LLM的兼容性要求，开发者可以更有效地调试和配置LangChain应用，从而构建稳定可靠的智能数据分析工具。在开发过程中，保持verbose=True的设置对于观察代理的内部决策过程和排查问题非常有帮助。

今天关于《LangChainCSVAgent调用失败解决方法》的内容介绍就到此结束，如果有什么疑问或者建议，可以在golang学习网公众号下多多回复交流；文中若有不正之处，也希望回复留言以告知！