テンソルレベルの検閲除去を解説

モデルにリクエストを受け入れさせる2つの方法

プロンプトレベルの回避は、拒否する振る舞いを重みに残したまま、それを避けようとする方法です。応答の書き出しをあらかじめ指定する手法や、特殊なシステムプロンプト、ロールプレイの設定などが使われます。広く使われるだけの成功率はあるものの、成功するかどうかは確率に左右されます。拒否に関わる方向がモデル内に残っているため、長文の生成や普段と違う言い回し、安全性のためのファインチューニングで学習した傾向が表に出ることをきっかけに、物語の途中で拒否が発生する場合があります。たった一度の拒否で、午後いっぱいかけた生成作業が台無しになります。

テンソルレベルの検閲除去（アブリテレーション）は、これとは異なる処理です。拒否する振る舞いは、モデルの活性化空間内のある方向に存在します。この手法ではその方向を特定し、重み自体を書き換えることで、モデルがその方向に沿って動作する能力を取り除きます。拒否を引き起こすものが残らないため、ジェイルブレイクで回避する必要もありません。

「A/Bテストスイートで拒否率0%」が重要な理由

うたい文句は簡単に掲げられますが、実測結果の分布はそうはいきません。意味のある指標は、モデルが通常なら拒否するカテゴリーを網羅した標準化済みのプロンプト群（A/Bテストスイート）を、毎回同じ方法で実行して測定した拒否率です。テストスイート全体で拒否率0%を達成するモデルは、「たいてい応じてくれる」モデルではありません。拒否する振る舞いが取り除かれており、すべてのリクエストで同じように、確実に応じます。

長文を扱う作業では、この確実性が実用上の違いを生みます。ジェイルブレイクしたモデルがリクエストに応じる確率が98%なら、50回の生成につき1回は失敗します。アブリテレーション済みのモデルで拒否率が0%というのは、その失敗の原因自体が存在しないという意味です。

アブリテレーションで失うもの、維持されるもの

初期のアブリテレーション技術は、リクエストに応じやすくする代わりに性能を犠牲にしていました。最新世代のモデルや、Unquantが提供するQwen 3.8 Flash Next Uncensoredなどのモデルは、ビジョンエンコーダー、ツール呼び出し、推論の機能を維持するように作られており、標準的な評価で測定できる性能低下はありません。確認すべきなのは、単に「検閲なし」という主張ではなく、「検閲がなく、かつ評価スコアが元の水準を維持している」という主張です。

法令に沿った利用という前提

拒否を取り除く目的は、暗いテーマ、対立、道徳的に複雑なフィクションなど、創作の自由を確保することです。危害を加えられるようにすることではありません。Unquantは、一般に公開されているモデルのビルドを、法令に沿った利用のために提供しています。現実世界での危害を目的とする悪用は、誰がどこで行う場合でも、認められる利用の範囲外です。

次のステップ

まずは、GLM-5.3-FlashまたはQwen 3.8 Flash Nextのモデルページをご覧ください。