AI Notes Public

Appearance

大模型接入基础与工程模式 ​

  • 状态：已验证
  • 来源：对话整理
  • 更新时间：2026-03-12

关键结论 ​

  • 接入大模型的本质是通过 API 向模型发送 prompt 并获取结果。
  • Prompt 是给 AI 的程序指令，决定模型输出质量。
  • AI 工程通常采用三种模式：Prompt 模式、RAG 模式和 Agent 模式。
  • 在多数产品中，AI 只是系统中的一个模块，而不是整个系统。
  • 对稳定性要求高的系统，应通过规则层或知识库约束 AI 输出范围。

详细分析 ​

  • 大模型通常以 HTTP API 的形式提供服务，开发者通过发送 JSON 请求进行调用。
  • Prompt 是模型的输入，可以包含系统角色、用户问题和上下文信息。
  • RAG（Retrieval Augmented Generation）模式通过检索知识库并将相关内容加入 prompt，提高回答准确性。
  • Agent 模式允许 AI 调用工具执行任务，但复杂度较高。
  • 在实际工程中，建议先采用 Prompt + RAG 模式构建系统。

可执行步骤 ​

  1. 注册大模型 API 服务并获取 API Key。
  2. 在后端实现 API 调用逻辑。
  3. 设计 prompt 模板。
  4. 将业务数据，例如知识库或 taxonomy，加入 prompt 上下文。
  5. 解析模型输出并转换为结构化结果。

命令 / 配置 / 代码 ​

安装依赖：

bash
pip install openai

Python 调用示例：

python
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="gpt-4o",
    messages=[
        {"role": "system", "content": "你是3D打印故障分析专家"},
        {"role": "user", "content": "PLA 230℃ 打印出现很多细丝"},
    ],
)

print(response.choices[0].message.content)

风险与注意事项 ​

  • 不要依赖 AI 自由推理，应通过规则或知识库限制输出范围。
  • 输入数据需要结构化，以提高模型稳定性。
  • 输出应设计为结构化数据，而不是仅返回自然语言文本。
  • API 调用可能产生费用，应控制调用频率。