对 LLM 权重进行 Abliteration：规划、修改与评估
对 LLM 权重进行 Abliteration，需要兼容的检查点和衡量变化的方法。本指南概述本地流程，并提供原始实现资源。如需使用现成的托管版本，Uncensured AI 提供聊天和 API 访问。
了解你正在改变什么
Abliteration 针对模型内部的拒答行为，与更改系统提示词不同。Maxime Labonne 的教程解释了方向方法和权重正交化，是具体的实现参考，但不保证同一流程适合所有检查点。
修改权重前，请定义成功标准，例如在保持指令遵循的同时，减少实际任务中不必要的拒答。答案质量需单独衡量；减少拒答本身并不能证明能力更强。
1. 检查检查点、许可与硬件
记录仓库、修订版本、分词器和聊天模板。确认可访问权重，并审阅修改、预期用途和分发的许可条件。托管 API 密钥并不提供底层权重的访问权限。
根据硬件检查架构支持和内存要求。保留原始检查点，并为独立输出预留空间，以便重复比较或恢复初始版本。
2. 保存基线与独立评估集
使用预定的聊天模板运行原始模型，保存输出、设置和耗时。用于选择修改设置的样例，应与最终评估的独立样例分开。纳入常规任务，以及与所研究拒答行为相关的提示词。
定义拒答和有效答案的评分方式，加入代码正确性、语言一致性、结构化输出或工具参数等实际任务检查。对两个版本应用相同检查。
3. 选择工具、配置与数据集
Heretic 当前仓库介绍了多种修改目标和配置。旧版方向方法的说明不能完整描述当前工具。请根据所用版本，查阅其官方文档中的受支持模型、设置和命令。
围绕目标审核数据集和评分器，并记录工具修订版本与配置。长时间实验前，先做小规模试验，及早发现加载、格式或资源问题。
4. 修改带版本的副本并比较结果
将各候选模型及其带版本的配置分别保存。使用基线的模板和设置，评估独立保留的样例。检查具体失败案例：拒答率的变化可能掩盖常规请求上的退化。
在预期运行环境中重新检查指令遵循、工具、延迟和内存。保留实测权衡符合目标的候选模型。如果查看最终样例后继续调优，请为下次比较保留新的样例。
5. 记录模型产物或选择托管访问
将来源与输出修订版本、工具、配置、数据集和结果随模型产物一同保存。分享前请审阅许可。这些记录有助于他人复现工作，并了解评估能够支持哪些结论。
如需托管使用，请比较 Uncensured AI 的 Abliterated 版本。聊天与兼容 OpenAI 的 API 共用预付余额。托管访问让你使用所列模型，不会修改你的检查点，也不提供可下载的权重。
Uncensured AI 可用模型
下方列表与当前目录保持一致。打开模型页面，查看其 API ID 和当前 token 价格。
- GLM 5.3 Flash Abliterated
glm-5.3-flash-abliterated - GLM 5.3 Abliterated
glm-5.3-abliterated - DeepSeek V4.1 Flash Abliterated
deepseek-v4.1-flash-abliterated - DeepSeek V4 Pro Uncensored
deepseek-v4-pro-uncensored - Qwen 3.8 Max Uncensored
qwen3.8-max-uncensored - GLM 5.3 Flash Uncensored
glm-5.3-flash-uncensored - DeepSeek V4.1 Flash Uncensored
deepseek-v4.1-flash-uncensored
常见问答
可以通过聊天 API 对 LLM 进行 Abliteration 吗？
聊天 API 向托管模型提交请求。本地修改需要检查点访问权限和兼容工具。调用 Abliterated 版本不会修改你自己的权重。
需要多少 GPU 显存？
要求因检查点和工具而异。请查看适用于你的架构、精度和配置的当前文档，再确认硬件能够加载和处理模型。
Abliteration 会保留原始模型的质量吗？
不能预先假定。请对照保存的基线，比较常规任务、指令遵循，以及应用所用的工具。更低的拒答率与更高的有效答案率是不同指标。
实际修改所需的命令在哪里？
请参阅链接的教程和当前工具文档。命令取决于版本、架构和环境；本指南提供评估流程，并非适用于所有情况的安装步骤。