Heretic — инструмент для автоматического снятия цензуры с языковых моделей на трансформерах без дорогого дообучения. Он сочетает направленную абляцию с TPE-оптимизатором Optuna, минимизируя число отказов и KL-дивергенцию от исходной модели.
Heretic поддерживает большинство плотных моделей, мультимодальные и MoE-архитектуры, а также некоторые гибридные модели вроде Qwen3.5. На примере Gemma-3-12B-it он достиг того же уровня подавления отказов, что и ручные абляции экспертов, но с заметно меньшей KL-дивергенцией.
Пользователи высоко оценивают модели Heretic, включая GPT-OSS 20B и Qwen3-4B-Instruct-2507, отмечая развёрнутые ответы без потери качества. Сообщество опубликовало свыше 5000 таких моделей. Для запуска нужен Python 3.10+ и PyTorch 2.2+ (для некоторых моделей — 2.6+).
GitHub ★ 28,627