Freak.
奇奇怪怪的小博客
最新文章
-
Prompt 组装：发给模型的究竟是什么东西？
做普通聊天机器人时，我们很容易产生一种错觉： 用户发一句话，系统把这句话交给大模型，然后大模型返回答案。 但到了 Agent 里，真正发送给模型的内容通常远远不止用户刚刚输入的那句话。 一个 Agent 在每一轮调用 LLM 之前，都要重新回答一个问题： 这一轮，模型到底需要看到什么？ 用户目标、系统规则、可用工具、前几轮工具执行结果、当前任务状态、RAG 检索出来的资料、Memory，甚至 Skill，都可能需要进入模型的上下文。 把这些东西挑出来、裁剪、排序，再组装成最终请求的过程，就是 Agent 里非常重要的一层： Context Assembly / Context Engineer
-
Skills：让 Agent 从“会调用工具”走向“会按方法做事”
Tool Calling 解决了一个很直接的问题：模型可以决定“我要调用哪个工具”。 MCP 又把这个能力向前推了一步，它解决的是“Agent 怎么用统一方式连接外部工具和上下文”。 但当 Agent 真正进入复杂工作流之后，还会遇到另一个问题： 即使工具都接好了，Agent 也不一定知道“这件事应该怎么做”。 比如让一个 Agent 处理 PDF，不只是“会调用 PDF 工具”就够了。它还要知道什么时候应该提取文本，什么时候应该检查表格，什么时候应该保留版式，什么时候应该输出新的文件，以及完成之后要检查哪些内容。 这些“怎么做”的知识，就是 Skills 想解决的问题。 Skill 到底是什
-
Memory：让 AI 不只是记住当前这一轮
大语言模型有一个很容易被忽略的问题： 它本身并没有真正意义上的长期记忆。 你和模型聊了很多轮，看起来它好像“记得”前面发生过什么，但很多时候，这并不是因为模型真的把这些事情存进了脑子里。 更准确地说，它只是因为： 前面的对话还在当前上下文里。 比如： 模型能回答“小明”，是因为前面的聊天记录还被一起发送给模型。 如果把前面的上下文删掉，只给它： 它通常就不知道了。 所以如果我们希望 Agent 可以跨任务、跨会话，甚至几天、几个月后还记得重要信息，就需要引入一个独立的系统： Memory。 什么是 Memory 在 Agent 中，Memory 可以理解成： 将过去的信息保存下来，并在未来需要
-
RAG：让大模型真正拥有外部知识
大语言模型很强，但它有一个非常明显的问题：它知道的东西，本质上受训练数据限制。 如果你问模型一个公开的、常见的问题，比如 TCP 为什么需要三次握手，它通常可以直接回答。 但如果你问： 我们公司最新的产品文档里，退款规则是什么？ 这份 300 页的 PDF 中，第 72 页提到了什么？ 今天刚刚更新的技术文档有什么变化？ 根据我自己的知识库，给客户回答售后问题 单纯依靠大模型本身就不够了。 这时候就需要 RAG。 什么是 RAG RAG 的全称是： Retrieval-Augmented Generation 中文一般叫： 检索增强生成。 它的核心思想非常简单： 不要求大模型记住所有知识，而是