1200字范文,内容丰富有趣,写作的好帮手!
1200字范文 > 瑞芯微 rk3588 / rk356x 的rknn-toolkit2 / rknn2混合量化模型

瑞芯微 rk3588 / rk356x 的rknn-toolkit2 / rknn2混合量化模型

时间:2020-06-14 11:19:51

相关推荐

瑞芯微 rk3588 / rk356x 的rknn-toolkit2 / rknn2混合量化模型

当网络模型全部int8量化或者uint8量化时效果不好时,可以使用rknn-toolkit2对模型进行混合量化,但是官方给的文档写的太模糊了,所以这里补充一些tip

1.在python step1.py后会生成几个文件,其中一个为xxx.cfg,主要用来修改混合精度的,以rk3588为例(rk3588支持float16 ,rk356x支持float32),custom_quantize_layers就是修改混合精度的地方,比如要改这3层为混合量化,修改的结果见图2

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。