PythonPrompt工程模板实战教程

本文深入剖析了Python中直接拼接prompt字符串的常见陷阱——从模型对空格、换行和分隔符的极端敏感性，到JSON结构破坏、多轮对话指令混淆、跨模型token适配失败及未转义输入引发的解析错误，并给出了基于string.Template与预清洗的稳健实践方案，同时强调system指令必须严格置于prompt最前端且避免被用户分隔符覆盖，助你真正让大模型“听懂”你的指令。

为什么 prompt 直接拼字符串会出错？ Python 里把 prompt 当普通字符串拼接，看似省事，实则埋雷。模型对空格、换行、分隔符极度敏感，"用户说：" + user_input + "请回答：" 这种写法会让模型混淆指令边界，尤其在多轮或含 JSON 的场景下，容易漏掉关键结构。

• 模型不是人，不会“理解上下文”，它只认 token 序列；少一个 \n 或多一个空格，可能让 system 角色失效
• 不同模型对分隔符要求不同：llama-3 偏好 <|start_header_id|>user<|end_header_id|>，而 qwen 用 <|im_start|>user，硬拼字符串根本没法适配
• 拼接时容易忽略转义——比如 user_input 含 "\n" 或双引号，不处理就破坏 JSON 格式

用 string.Template 或 f-string 配合预清洗更稳：

from string import Template
template = Template("你是一个助手。\n用户输入：$input\n请用中文回答。")
prompt = template.substitute(input=user_input.strip().replace("\n", " "))

怎么让 system 指令真正生效？ 很多同学加了 system 字段但模型还是乱答，问题不在模型，而在模板没对齐它的 tokenizer 行为。

• system 内容必须出现在 prompt 最开头，且不能被后续的 user 分隔符覆盖（比如误写成 "[INST] <>...<）
• OpenAI API 要求 messages 列表中第一个是 {"role": "system", "content": ...}；但本地 transformers 加载的 llama 模型根本不认这个字段，得靠 tokenizer 自带的 apply_chat_template
• 有些模型（如 phi-3）会忽略过长的 system 提示，超过 64 token 就开始降权，建议控制在 30 字以内

检查方式很简单：打印 tokenizer.encode(prompt)，确认 system 对应的 token 是否真实出现在输出数组最前端。

apply_chat_template 为什么返回空或报错？ 这是 Hugging Face 生态里最常卡住的点——调用 tokenizer.apply_chat_template 却返回空字符串或抛 KeyError: 'messages'。

• 必须传入标准格式的 messages 列表，不是单个字符串：[{"role": "system", "content": "..."}, {"role": "user", "content": "..."}]
• 模型没有内置 chat template 时，该方法会静默失败（返回空），可用 tokenizer.chat_template 查看是否为 None
• 使用 add_generation_prompt=True 才会补上模型期待的起始 token（比如 <|eot_id|><|start_header_id|>assistant<|end_header_id|>），漏掉它，模型就不知道该生成什么

常见修复：

if tokenizer.chat_template is None:
  tokenizer.chat_template = "{% for message in messages %}{{ message['role'] }}: {{ message['content'] }}{% endfor %}"

JSON 输出不稳定？别硬 parse，用 response_format 参数 想让模型返回合法 JSON，很多人写 prompt 里强调“只返回 JSON，不要解释”，结果还是混入 Markdown 或自然语言。这不是模型不听话，是没用对机制。

• OpenAI API 的 response_format={"type": "json_object"} 会强制模型走 JSON 模式，底层启用 grammar-guided decoding，比任何 prompt 描述都管用
• transformers 生态暂不原生支持，但可通过 llama.cpp 的 -ngl 或 litgpt 的 json_schema 实现类似效果
• 硬 parse 返回文本风险极高：json.loads(response) 遇到单引号、尾逗号、注释就崩，而模型真会这么干

如果必须手动解析，至少先用正则提取 json 块：

import re
match = re.search(r"json\n(.*?)\n", response, re.DOTALL)
data = json.loads(match.group(1)) if match else {}

事情说清了就结束。真正麻烦的从来不是写模板，而是每次换模型都要重新校验 token 边界和分隔符行为——这点没人替你记，只能自己存一份 model_name → chat_template → sample_input → encoded_ids 对照表。

理论要掌握，实操不能落！以上关于《PythonPrompt工程模板实战教程》的详细介绍，大家都掌握了吧！如果想要继续提升自己的能力，那么就来关注golang学习网公众号吧！