Glossar
Quantisierung
Verfahren, das die Genauigkeit der Zahlen eines Modells verringert, damit es weniger Speicher braucht und auf bescheideneren Rechnern läuft – auf Kosten etwas Qualität.
Beispiel: Eine 4-Bit-Version eines Modells, die auf einen Laptop passt.