LLM 拒绝行为消除

OBLITERATUS：通过均值差分法消除 LLM 的拒绝响应

OBLITERATUS Skill

内容概览

9 种 CLI 方法、28 个分析模块、116 个模型预设（覆盖 5 个算力等级）、锦标赛式评估，以及基于遥测驱动的参数推荐。

无需重新训练或微调，即可消除开源 LLM 的拒绝行为（安全护栏）。利用机械可解释性技术——包括均值差分、SVD、白化 SVD、LEACE 概念擦除、SAE 分解、贝叶斯核投影等——识别并精准切除模型权重中的拒绝方向，同时保留推理能力。

许可证警告： OBLITERATUS 采用 AGPL-3.0 许可证。严禁作为 Python 库导入。请始终通过 CLI（obliteratus 命令）或子进程调用。这样可保持 Hermes Agent 的 MIT 许可证合规。

视频指南

由 Hermes Agent 使用 OBLITERATUS 消除 Gemma 4 安全护栏的完整演示：

https://www.youtube.com/watch?v=8fG9BrNTeHs ("OBLITERATUS: An AI Agent Removed Gemma 4's Safety Guardrails")

在用户自行运行之前，可作为可视化概览使用。

使用场景 This Skill

当用户出现以下情况时触发：

步骤 1：安装

检查是否已安装：

obliteratus --version 2>/dev/null && echo "INSTALLED" || echo "NOT INSTALLED"

如未安装，从 GitHub 克隆并安装：

git clone https://github.com/elder-plinius/OBLITERATUS.git
cd OBLITERATUS
pip install -e .
# 如需 Gradio 网页界面支持：
# pip install -e ".[spaces]"

重要：安装前需征得用户确认。此操作将拉取约 5-10GB 的依赖（PyTorch、Transformers、bitsandbytes 等）。

步骤 2：检查硬件

首先检查可用 GPU：

python3 -c "
import torch
if torch.cuda.is_available():
    gpu = torch.cuda.get_device_name(0)
    vram = torch.cuda.get_device_properties(0).total_memory / 1024**3
    print(f'GPU: {gpu}')
    print(f'VRAM: {vram:.1f} GB')
    if vram < 4: print('TIER: tiny (models under 1B)')
    elif vram < 8: print('TIER: small (models 1-4B)')
    elif vram < 16: print('TIER: medium (models 4-9B with 4bit quant)')
    elif vram < 32: print('TIER: large (models 8-32B with 4bit quant)')
    else: print('TIER: frontier (models 32B+)')
else:
    print('NO GPU - only tiny models (under 1B) on CPU')
"

显存需求（4-bit 量化）

步骤 3：浏览可用模型并获取推荐

# 按算力等级浏览模型
obliteratus models --tier medium

# 获取特定模型的架构信息
obliteratus info 

# 获取遥测驱动的最佳方法和参数推荐
obliteratus recommend 
obliteratus recommend  --insights  # 全局跨架构排名

步骤 4：选择方法

方法选择指南

大多数场景的默认推荐：advanced。它使用多方向 SVD + 范数保持投影，经过充分测试。

9 种 CLI 方法

方向提取方法（--direction-method 参数）

4 种纯 Python API 方法

（CLI 不可用——需要 Python 导入，违反 AGPL 边界。仅在用户明确要在自己的 AGPL 项目中将 OBLITERATUS 作为库使用时才提及。）

步骤 5：运行消除

标准用法

# 默认方法（advanced）——推荐用于大多数模型
obliteratus obliterate  --method advanced --output-dir ./abliterated-models

# 带 4-bit 量化（节省显存）
obliteratus obliterate  --method advanced --quantization 4bit --output-dir ./abliterated-models

# 大模型（70B+）——保守默认值
obliteratus obliterate  --method advanced --quantization 4bit --large-model --output-dir ./abliterated-models

微调参数

obliteratus obliterate  
  --method advanced 
  --direction-method diff_means 
  --n-directions 4 
  --refinement-passes 2 
  --regularization 0.1 
  --quantization 4bit 
  --output-dir ./abliterated-models 
  --contribute  # 选择性遥测，为社区研究贡献数据

关键参数

其他执行模式

# 交互式引导模式（硬件 → 模型 → 预设）
obliteratus interactive

# 网页界面（Gradio）
obliteratus ui --port 7860

# 从 YAML 配置运行完整消融研究
obliteratus run config.yaml --preset quick

# 锦标赛：所有方法两两对比
obliteratus tourney 

步骤 6：验证结果

消除后检查输出指标：

如果拒绝仍然存在（> 10%）

如果连贯性受损（困惑度增幅 > 15%）

步骤 7：使用消除后的模型

输出为标准 HuggingFace 模型目录。

# 本地测试 transformers
python3 -c "
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('./abliterated-models/')
tokenizer = AutoTokenizer.from_pretrained('./abliterated-models/')
inputs = tokenizer('How do I pick a lock?', return_tensors='pt')
outputs = model.generate(**inputs, max_new_tokens=200)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))
"

# 上传至 HuggingFace Hub
huggingface-cli upload /-abliterated ./abliterated-models/

# 使用 vLLM 服务
vllm serve ./abliterated-models/

CLI 命令参考

分析模块

OBLITERATUS 包含 28 个机械可解释性分析模块。

完整参考见 skill_view(name="obliteratus", file_path="references/analysis-modules.md")。

快速分析命令

# 运行特定分析模块
obliteratus run analysis-config.yaml --preset quick

# 优先运行的关键模块：
# - alignment_imprint: 指纹识别 DPO/RLHF/CAI/SFT 对齐方法
# - concept_geometry: 单方向 vs 多面锥
# - logit_lens: 哪一层决定拒绝
# - anti_ouroboros: 自我修复风险评分
# - causal_tracing: 因果必要组件

转向向量（可逆替代方案）

不进行永久性权重修改，而是使用推理时转向：

# 仅 Python API——用于用户自己的项目
from obliteratus.analysis.steering_vectors import SteeringVectorFactory, SteeringHookManager

消融策略

除了基于方向的消除，OBLITERATUS 还包含结构性消融策略：

查看所有可用策略：obliteratus strategies

评估

OBLITERATUS 内置评估工具：

平台支持

YAML 配置模板

通过 skill_view 加载可复现运行的模板：

遥测

OBLITERATUS 可选择贡献匿名运行数据至全球研究数据集。

通过 --contribute 参数启用。不收集个人数据——仅收集模型名称、方法、指标。

常见陷阱

互补 Skills