Manifold Regularized Dynamic Network Pruning

[ryoherisson]

一言でいうと

インスタンスの複雑度と類似度を考慮したDynamic Pruning手法を提案．

論文リンク

著者/所属機関

Yehui Tang, Yunhe Wang, Yixing Xu, Yiping Deng, Chao Xu, Dacheng Tao, Chang Xu
(Peking University, Huawei Technologies, University of Sydney)

投稿日付(yyyy/MM/dd)

2021/03/10

概要

フィルタレベルのプルニーニングにおいて，入力データの複雑度と類似度を考慮してフィルタの重要性を判断し，インスタンスごとに適切なサブネットワークを割り当てる手法．
ImageNet，ResNet-34で，精度劣化を0.57%に抑えながらFLOPSを55.3%削減．

新規性・差分

• 入力データの複雑度と類似度を考慮してフィルタの重要性を判断し、インスタンスごとに適切なサブネットワークを割り当てる手法を提案．

手法

学習時の目的関数

結果

コメント