ARTICLE DETAIL

资讯详情

深耕商务建站与企业官网运营的一线实战洞察。

如何正确喂给humanizer-12b-OptiQ-4bit输入?逐步拆解prompt_format.json提示词契约

如何正确喂给humanizer-12b-OptiQ-4bit输入?逐步拆解prompt_format.json提示词契约 【免费下载链接】humanizer-12b-OptiQ-4bit项目地址https://ai.gitcode.com/hf_mirrors/mlx-community/humanizer-12b-OptiQ-4bit点击查看免费下载humanizer-12b-OptiQ-4bit 是一个基于 MLX 框架、专为 Apple Silicon 优化的 12B去 AI 味改写模型它接受一种非常严格的固定输入格式——这就是仓库里的 prompt_format.json 所定义的提示词契约。格式差一个字节输出质量都可能打折扣。本文带你逐字段读懂这份契约并一步步把输入拼装正确。先搞懂本质它是补全模型不是聊天模型这是使用 humanizer 系列模型最重要的一条前提It is a completion model, not a chat model见 README.md模型不是在对话而是在续写。它被微调时见过的输入永远是同一个模板一段固定指令 你的草稿 一个分隔符。你偏离这个模板比如加上 system prompt、包上 user/assistant 角色就等于把模型喂到了它训练分布之外改写效果会明显变差。下面逐字段拆解这个契约文件。prompt_format.json 六个字段逐一拆解整个 prompt_format.json 很短但每个字段都有明确分工字段值作用stylelegacy声明使用 legacy传统补全风格的提示词而非聊天模板instr一段英文改写指令告诉模型像人一样重写砍掉套话、长短句交错但所有事实、数字、单位、日期、人名、引语必须原样保留sep\n\n### Rewritten:\n\n分隔符追加在草稿末尾向模型发出从这里开始写改写结果的信号fingerprintcc51d66b4c593fbe指纹哈希用来校验你的提示词是否与官方模板逐字节一致chatfalse明确声明不要按聊天格式角色轮次包装输入note推理时需 instr draft sep官方备注直接给出了拼装顺序两点值得注意instr的原文要求模型故意变化句子长度、删掉铺垫句、优先用具体词而非抽象词允许读起来不那么工整——这就是去 AI 味的效果来源。sep里的### Rewritten:不是随便起的标题它是模型识别该我输出了的锚点一字不能改。三步拼装输入instr draft sep官方给出的拼装公式只有一行见 README.md 中的用法示例prompt instr \n\n draft.strip() sep拆解成三步第 1 步原样取instr从 prompt_format.json 读出instr的完整字符串不改写、不翻译、不增删标点。第 2 步接上你的草稿先加两个换行符一个空行再放你的待改写文本并且去掉文本首尾的空白即示例中的draft.strip()。中英文草稿都可以——模型支持 en/zh 双语改写。第 3 步原样追加sep最后把sep的完整字符串拼到末尾它自带前后空行。最终送进模型的提示词长这样……处是你的草稿Rewrite the text below so it reads like a person wrote it, not a language model. ……你的草稿文本…… ### Rewritten:注意结尾是### Rewritten:之后留空——模型会从这里开始续写改写结果你不需要再写任何提示。采样参数照抄官方temperature 1.0 与 top_p 0.95提示词对了采样参数也要对。仓库自带的 generation_config.json 给出了官方推荐值参数推荐值说明temperature1.0原作者推荐温度太低改写风格会僵化top_p0.95原作者推荐top_k64配置文件中附带do_sampletrue需要开启采样而非贪心解码原模型作者的额外建议除了 temperature 和 top_p 之外其他采样开关保持关闭。用 fingerprint 校验你的提示词拼对没有prompt_format.json里的fingerprintcc51d66b4c593fbe是一个哈希指纹。它的用途非常实用你可以对自己拼装好的提示词做同样的哈希计算与fingerprint比对——一致说明你的instr、空行、sep全部逐字节正确不一致说明你某处改了换行、多打了一个空格或动了instr的措辞。这是新手排错时的第一工具效果不好时先查提示词字节再怀疑模型本身。常见错误清单这几件事千万别做❌加 system prompt——契约里没有这个角色加了就是画蛇添足。❌用聊天轮次包装——不要写用户请改写……chat: false已经明说了。❌修改或翻译instr——哪怕只改一个词模型看到的就不再是训练时的模板。❌草稿前后留大量空白——记得draft.strip()空行数量要与契约一致。⚠️英文草稿被改写成中文——这是已知的偶发情况官方建议的处理方式很简单重新采样一次即可通常第二次就能回到正确语言。关键文件速查文件用途prompt_format.json提示词契约拼装输入的全部素材都在这里generation_config.json官方采样参数temperature / top_p / top_kREADME.md完整用法说明含加载与生成示例optiq/metadata.jsonOptiQ 混合精度量化元数据157 层 8-bit 172 层 4-bitmodel-00001-of-00002.safetensors模型权重分片整个模型 8.4 GB可从 24 GB 的 bf16 原版压缩而来16 GB 内存的 Mac 也能跑小结给 humanizer-12b-OptiQ-4bit 喂输入的口诀只有三句指令照抄、草稿居中、分隔符收尾。把instr \n\n draft sep这条拼装公式刻进肌肉记忆再用fingerprint校验一遍字节配合 temperature 1.0 / top_p 0.95 的采样设置你就能稳定拿到像人写的改写结果。赞分享【免费下载链接】humanizer-12b-OptiQ-4bit项目地址https://ai.gitcode.com/hf_mirrors/mlx-community/humanizer-12b-OptiQ-4bit点击查看免费下载相关推荐在 SuperGrid 上运行 Flower AgentAppCLI 提交、联邦选择、日志跟踪与故障恢复完整指南在 SuperGrid 上运行 Flower AgentAppCLI 提交、联邦选择、日志跟踪与故障恢复完整指南 本文基于 Flower 仓库中的官方指南 R一段提示词如何生成一个电影级画面Opus 5.5 案例提示词逐句拆解一段提示词如何生成一个电影级画面Opus 5.5 案例提示词逐句拆解 Claude Opus 5.5 发布后中文社区最出圈的讨论几乎都围绕一个词展开BepInEx 上手5 步跑通 Unity 插件框架的完整流程BepInEx 上手5 步跑通 Unity 插件框架的完整流程 游戏里想加个 HUD、改个数值官方却不给接口反编译再打补丁改完还得手动维护游戏一升级就游戏开发插件系统上一篇如何实现高效Git工作流规范驱动开发的3个创新策略下一篇10分钟打造专业短视频揭秘AI视频创作神器MoneyPrinterTurbo的终极指南 创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表
PREV
查看更多资讯
NEXT
返回资讯列表