10+年产品经理专注分享AI 工具、AI 资讯、AI Coding、Vibe Coding与下一代产品创新,按 Ctrl+D 收藏我们
关于我 留言板 小程序 标签云

苏米客

  • 首页
  • AIGC
    • AI最新动态
    • AI学习教程
    • AI工具集合
    • AI产品百科
    • AI编程开发
    • AI提示词
    • AI开源项目
    • AI智能体
  • Axure
    • Axure动态
    • Axure教程
  • 产品
    • 用户体验
    • 产品设计
    • 苏米杂谈
  • 资源
    • 产品UI组件库
    • 开源图标库
    • 中后台框架
  • 书单
    • AI书籍
    • 用户体验
    • UI视觉
    • 产品研究
    • 其他类型
  • 下载
    • Axure组件
    • Axure原型
    • 文档报告
    • 素材资源
  • 登录
  • 首页
  • AIGC
    • AI最新动态
    • AI学习教程
    • AI工具集合
    • AI产品百科
    • AI编程开发
    • AI提示词
    • AI开源项目
    • AI智能体
  • Axure
    • Axure动态
    • Axure教程
  • 产品
    • 用户体验
    • 产品设计
    • 苏米杂谈
  • 资源
    • 产品UI组件库
    • 开源图标库
    • 中后台框架
  • 书单
    • AI书籍
    • 用户体验
    • UI视觉
    • 产品研究
    • 其他类型
  • 下载
    • Axure组件
    • Axure原型
    • 文档报告
    • 素材资源
当前位置: 首页 » AI学习教程

DeepSeek Harness 如何实现动态修改系统提示词且不破坏 KV Cache

1小时前 AI学习教程 13 0

DeepSeek Harness(DSH)最近上线了一项更新:支持动态修改系统提示词且不破坏 KV Cache。在 Agent 框架中,KV Cache 的命中率直接影响响应速度——命中与否的延迟相差可达数十倍。系统提示词通常放在请求最前面,一旦修改,后面的历史对话还能复用缓存吗?

核心思路:追加而非重建

DSH 的做法是尽量保留已经发给模型的前缀,把更新后的内容追加到历史后面,从而实现提示词的动态更新。其中,运行时上下文以 user 消息更新,系统提示词以 system 消息更新——后者需要模型支持特定语义。这与 Claude Code 和 Codex 的动态工具加载思路类似,但 DSH 是我遇到的第一个把这个思路应用到所有上下文(包括系统提示词)中的框架。

DSH 动态修改系统提示词更新

切换模型时 Session 的变化

目前还没有手动修改系统提示词的方法,但通过切换模型可以触发系统提示词的变更。切换后,历史中的旧内容仍然存在,最新版本的提示词被追加到了最后面。这种"保留前缀 + 追加新内容"的策略是保留 KV Cache 的关键。

切换模型后 Session 状态

系统提示词的拼接机制

DSH 的提示词分成 section() 和 context() 两种类型:

  • section():注册系统提示词(角色设定、行为规则、工具使用指导),以 system 身份发送给 LLM
  • context():注册运行时上下文(当前环境、状态),以 user 身份发送给 LLM

每个步骤开始前,agent-loop 调用 systemPrompt.assemble():先合并全局与当前作用域的贡献,同名内容由更近的作用域覆盖;再按顺序排列段落,求值动态文本,并交给组装扩展点处理。渲染阶段替换 {{model}} 等变量,过滤空段,用空行连接文本。

Sections 的有条件追加

插件通过 section() 注册系统提示词段落,每个段落包含 name(名称)、order(顺序)、text(内容,支持动态函数)和 complete(是否作为完整独立提示词)四个参数。

内置顺序中,Harness 身份段是 -1000,persona 前缀是 0,工具指导如 Bash 是 1000、Read 是 1100。每次 assemble() 收集段落、排序、调用 text 函数,然后在 step 中替换变量、去掉空段。

关键判断:第一次写入开头的 system/message;后续如果文本没变,不重复写;如果文本变了,且模型适配器声明支持(目前仅 Flash 模型支持 systemPromptUpdate: 'in-history'),就把新版追加到历史后面。模型不支持或请求序列需要重建时,则归并到开头的 system。

Context 的完整快照追加

context() 注册的上下文以 user role 消息发送,不需要模型专门支持。多个 context 按 order 排序拼接,不与 section 混排。每次组装时:

  1. 将所有有效 context 排序、替换变量,拼成完整快照
  2. 与 Session 中最近的上下文快照比较,相同则不追加
  3. 文本不同,则准备一条 user role 消息,本步被接受后写入 Session

经常变化的环境与状态信息适合放在 context 中,系统级行为规则则放在 section 中。

为什么能保留 KV Cache

原因已经清晰:DSH 在系统提示词变化时,把新的提示词追加到 session 末尾,旧的前缀保持不变。这意味着模型需要经过专门训练,让 LLM 更重视后出现的 system prompt。

这与 Claude Code/Codex 的 Tool Search、Deferred Tools 思路一脉相承:让新增信息尽量出现在已有前缀之后。不过 DSH 把这种思路扩展到了更广泛的指令与上下文更新中,不仅仅限于工具定义的按需加载。

总结

DeepSeek Harness 的这项更新虽然看起来是个小改动,但背后体现的是对 LLM 推理效率的深刻理解。KV Cache 的命中率直接决定了 Agent 的响应速度,而"追加而非重建"的策略在保持上下文完整性的同时最大化了缓存复用。当前仅 Flash 模型支持动态提示词变更,期待后续更多模型适配这一特性,以及 DSH 补上 Deferred Tools 和 Tool Search 机制。

声明:本站原创文章文字版权归本站所有,转载务必注明作者和出处;本站转载文章仅仅代表原作者观点,不代表本站立场,图文版权归原作者所有。如有侵权,请联系我们删除。
未经允许不得转载:DeepSeek Harness 如何实现动态修改系统提示词且不破坏 KV Cache
#DeepSeek #KV Cache #Agent #系统提示词 #开发技巧 
收藏 1
Qoder 实测:从 Skill 验证到电子书架产品,一个下午的 AI 编程工作流
GPT Image 2.5 上线:生图更快更高清,支持涂鸦参考、标注精修和透明背景
推荐阅读
  • 讯飞星辰白嫖国产最新三大模型实操教程,让你的OpenClaw火力全开
  • Codex桌面端使用教程:安装配置与功能详解
  • 手把手教你用微信ClawBot接入OpenClaw并拥有实时搜索能力,3步完成配置,激活免费网页检索功能
  • 限时白嫖:每月5刀,手把手教你部署 Alist 网盘、搭建VPS、n8n云服务器,一键安装76款开源程序
  • 我用 AI 听完了刘润 2025 年度演讲:从大迁徙到AI智能体,这是一次思维的升级实验
评论 (0)
请登录后发表评论
分类精选
Cursor永久免费攻略:无限邮箱注册+重置机器码+Cursor试用期重置工具实现永久免费使用
51367 1年前
手把手教你如何使用扣子Coze搭建“文生图” AI Bot
22338 2年前
n8n新手入门指南:5 分钟本地部署 + 中文汉化 + 快速启动,玩转工作流(Docker版)
20575 1年前
安装字节Trae登录提示App Unavailable(应用程序不可用)解决办法,这份官方指南请收好!
19859 1年前
手把手教你用国内VISA信用卡直接订阅ChatGPT、Claude、Google Gemini等海外AI服务
19332 7月前
零基础上手 VSCode + Claude Code + GLM-4.6 保姆级安装配置教程
18550 11月前
AI 概念篇:Token是什么?一文讲清楚Token分词、窗口、计费与常用计算工具
18114 8月前
Gemini CLI 装好了,登录异常怎么办?手把手教你解决 Gemini CLI 登录问题
17888 1年前
一文搞懂什么是 Vibe Coding?Vibe Coding工具推荐及Cursor编程开发实践
16416 1年前
手把手教你使用 Gemini 2.5 Pro 免费 API搭建本地知识库,一键接入 Gemini!
15923 1年前

文章目录

关注「苏米客」公众号

订阅推送更及时,手机查看更方便
分类排行
1 DeepSeek Harness 如何实现动态修改系统提示词且不破坏 KV Cache
2 GPT-6 Astra上手指南:4步快速上手流程与可复用提示词模板
3 多模态 Agent 架构综述:三代感知融合、四域基准与七个开放问题
4 WorkDaddy插件:给WorkBuddy装上多账号切换、自动签到和无人值守功能
5 Pi Web部署实操体验教程,Pi CLI 的可视化网页界面,让 AI 编程更直观
6 Grok Bot 保姆级教程:AI 执行型助手全解析,从会员升级到创建你的第一个 AI 队友
7 豆包电脑版实测:从聊天到 AI 工作台,文件整理/报销/PPT 生成全流程体验
8 不用视频模型也能加字幕:Doubao-Seed-Evolving + ffmpeg 实测教程
9 豆包工作8个技巧:飞书Agent实测指南
10 小红书图文自动排版Skill教程:基于IP的专属排版工厂
©2015-2024 苏米客XMSUMI 版权所有 · WWW.XMSUMI.COM 闽ICP备14005900号-6
微信文章助手 程序库 免费影视APP 免费字体下载 产品经理导航 爱克硕儿 产品经理AI资讯 Axure元件库下载 申请友联