OBLITERATUS — открытый тулкит для удаления отказов у LLM. Использует аблитерацию — выявление и устранение внутренних векторов, отвечающих за отказ, без переобучения. Сохраняет языковые способности.
Каждый запуск с телеметрией пополняет анонимный датасет. Конвейер: выявление направлений отказа, извлечение (PCA, mean-difference) и интервенция — обнуление или изменение векторов при выводе.
Интерфейс Gradio на HuggingFace позволяет запускать без кода. Python API даёт доступ ко всем промежуточным данным. OBLITERATUS создан для прозрачного изучения отказа и улучшения безопасности, опираясь на исследования Arditi et al. и др.
GitHub ★ 7,745