öffentliche statische Klasse
Tensor.QuantizationParams
Quantisierungsparameter, die der Tabelle QuantizationParameters in der Schemadatei des TFLite-Modells entsprechen.
Da die Quantisierung pro Kanal nicht auf Eingabe- und Ausgabetensoren angewendet wird, sind scale und zero_point beide Einzelwerte und keine Arrays.
Bei nicht quantisierten Tensoren sind die Werte von scale und nullpunkt beide 0.
Bei einem quantisierten Wert q sollte der entsprechende Gleitkommawert f so aussehen:
f = Skalierung * (q - Null_Punkt)
Public Constructors
|
QuantizationParams(Gleitkommazahl, ganzzahliger ZeroPoint)
|
Public Methods
| float |
getScale()
Gibt den Wert für "scale" zurück.
|
| int |
getZeroPoint()
Gibt den Nullpunktwert zurück.
|
Übernommene Methoden
Public Constructors
öffentlich QuantizationParams (Gleitkommazahl, int ZeroPoint)
Erstellt eine Tensor.QuantizationParams mit scale und zero_point.
Parameter
| profitieren | Der in der Quantisierung verwendete Skalierungswert. |
|---|---|
| zeroPoint | Der für die Quantisierung verwendete Nullpunktwert. |
Public Methods
public float getScale ()
Gibt den Wert für "scale" zurück.
public int getZeroPoint ()
Gibt den Nullpunktwert zurück.