UNICON:均一選択とコントラスト学習によるラベル雑音の戦い【JST・京大機械翻訳】

Karim Nazmul; Rizve Mamshad Nayeem; Rahnavard Nazanin; Mian Ajmal; Shah Mubarak

プレプリント

J-GLOBAL ID：202202200360963849 整理番号：22P0311192

UNICON:均一選択とコントラスト学習によるラベル雑音の戦い【JST・京大機械翻訳】

UNICON: Combating Label Noise Through Uniform Selection and Contrastive Learning

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (5件)： , , , ,
資料名：
発行年： 2022年03月28日プレプリントサーバーでの情報更新日： 2022年04月26日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

教師つき深層学習法は,注釈付きデータの大きなリポジトリを必要とする。したがって,ラベルノイズは避けられない。このような雑音の多いデータによる訓練は,深いニューラルネットワークの一般化性能に負に影響する。ラベルノイズと戦うために,最近の最先端の方法は,いくつかの種類のサンプル選択機構を採用し,データのクリーン部分集合を選択する。次に,オフラインの半教師つき学習法を,拒絶サンプルをラベルなしデータとして処理する訓練に用いた。包括的解析は,現在の選択法が,比較的硬いものからそれらを拒絶しながら,容易に(速い学習可能)クラスからサンプルを不釣り合いに選択することを示している。これは,選択したクリーンセットにおいてクラス不均衡を生成し,次に,高ラベルノイズの下で性能を低下させる。本研究では,高ラベル雑音に対してロバストであるUNICON,単純だが効果的なサンプル選択法を提案した。容易でハードなサンプルの不均衡選択に対処するために,確率的モデリングとハイパーパラメータ調整を必要としないJensen-Shannon発散ベースの均一選択機構を導入した。雑音のあるラベルの記憶をさらに戦闘するために,コントラスト学習による選択法を補完した。多重ベンチマークデータセットに関する大規模な実験は,UNICONの有効性を実証した。90%の雑音率を有するCIFAR100データセットに関して,現在の最先端技術に対して11.4%の改善を得た。著者らのコードは公的に利用可能である。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , , , 【Automatic Indexing@JST】

人工知能

, , ,

前のページに戻る