# Herkunft dieser Gewichte

Quantisiert von der **3lite Software GmbH**, nicht von einem
Dritten übernommen. Wer diese Datei nicht findet, hat eine fremde
Fassung vor sich.

| | |
|---|---|
| Ausgangsmodell | `huihui-ai/Huihui-Qwen3.8-27B-abliterated` (unquantisiert) |
| Quantisierung | 4 Bit, Gruppengröße 64, affin |
| Werkzeug | Tank, MLX-Swift |
| Datum | 2026-08-29 13:26 |
| Dauer | 0 min 12 s |
| Größe | 15.8 GB |

## Warum selbst quantisiert

Ein Modell, das die Geschäftspost liest, sollte keine Gewichte
tragen, deren Weg niemand kennt. Selbst quantisiert bleibt genau
eine fremde Stelle in der Kette: das Ausgangsmodell.

## Änderungen gegenüber dem Ausgangsmodell

Die Gewichtsmatrizen sind auf 4 Bit quantisiert
(Gruppengröße 64). Normierungen, Verzerrungen und alles,
was keine zweidimensionale Gewichtsmatrix ist, sind unverändert
übernommen. An den Werten selbst wurde nichts sonst geändert.

## Prüfen

    shasum -a 256 -c SHA256SUMS.txt