一言でいうと
表現力のボトルネックを調べ,ボトルネックを軽減するための設計原理を提案.
論文リンク
著者/所属機関
Dongyoon HanSangdoo YunByeongho HeoYoungJoon Yoo
(Clova AI Research, NAVER Corp)
投稿日付(yyyy/MM/dd)
2020/07/02
概要
ある層の表現力は,先行する層のRankによって制限される.これを防ぐために,Rankを増やす手法を提案.
新規性・差分
- Representation Bottleneckについて調査
- ImageNetに対してSOTA
手法
結果
コメント
モデル圧縮の分野ではない.