lớp tĩnh công khai Tensor.QuantizationParams
Các tham số lượng tử hoá tương ứng với bảng, QuantizationParameters, trong tệp giản đồ Mô hình TFLite.
Vì việc lượng tử hoá trên mỗi kênh không áp dụng cho tensor đầu vào và đầu ra, nên scale và zero_point là cả hai giá trị duy nhất thay vì các mảng.
Đối với tensor không được lượng tử hoá, các giá trị của scale và zero_point đều bằng 0.
Với giá trị lượng tử hoá q, giá trị số thực f tương ứng phải là:
f = tỷ lệ * (q - zero_point)
Công trình công cộng
|
QuantizationParams(số thực có độ chính xác đơn, int zeroPoint)
|
Phương thức công khai
| float |
getScale()
Trả về giá trị tỷ lệ.
|
| int |
Hàm getZeroPoint()
Trả về giá trị điểm không.
|
Các phương thức kế thừa
Công trình công cộng
công khai QuantizationParams (float scale, int zeroPoint)
Tạo Tensor.QuantizationParams với scale và zero_point.
Tham số
| tỷ lệ | Giá trị tỷ lệ được sử dụng trong lượng tử hoá. |
|---|---|
| zeroPoint | Giá trị điểm không dùng trong lượng tử hoá. |
Phương thức công khai
công khai float getScale ()
Trả về giá trị tỷ lệ.
công khai int getZeroPoint ()
Trả về giá trị điểm không.