Skip to content

LLM 应用概览

LLM 应用概览

LLM 不只是聊天机器人。围绕 LLM 的工程化技术栈包括检索增强生成、提示词工程、工具调用、嵌入与记忆系统。

知识地图

RAG(Retrieval-Augmented Generation)

  • 朴素 RAG / Advanced RAG / Modular RAG
  • 文档加载 → 切分 → 嵌入 → 检索 → 重排 → 生成
  • 检索优化(Hybrid Search / HyDE / Self-RAG)
  • [[AI/向量检索/概览|向量检索]] 详见向量检索目录

Prompt Engineering

  • 提示词原则(清晰 / 角色 / 示例 / 约束)
  • 高级技巧(CoT / ToT / ReAct / Self-Consistency)
  • Prompt 模板与版本管理
  • [[开源项目分析/提示词工程/Claude-Design-System-Prompt-工程的设计协作提示词库|Claude Design System Prompt]](设计协作提示词库)

Function Calling

  • 函数定义 / 工具描述
  • 单调用 / 并行调用 / 链式调用
  • 错误处理与重试
  • 复杂参数(嵌套对象 / 数组 / 联合类型)

Embedding

  • Embedding 模型选型(OpenAI / BGE / M3E / Cohere)
  • 向量化策略(Chunk 切分 / 上下文窗口 / 重叠)
  • 维度选择与成本权衡
  • 多模态 Embedding(CLIP / ImageBind)

Memory

  • 短期 / 长期 / 工作记忆
  • 向量记忆 / 图记忆 / 文本记忆
  • 记忆压缩与摘要
  • 跨 Session 持久化

待补内容

  • RAG 完整 pipeline 实战(含 LangChain / LlamaIndex 对比)
  • Prompt 调优方法论(变量分离 / 模板化 / A/B 测试)
  • Function Calling 失败模式与防御
  • Embedding 评测基准(MTEB)
  • 记忆系统的工程权衡

参考资料